AI生物设计工具风险评估 · 给AI划CBRN红线的度量衡

AI生物设计工具风险评估 · 给AI划CBRN红线的度量衡潜能待评

在AI真能设计病原体之前，先把'多危险'量出个数

暗星编号DS-0627

轴R · 风险与文明安全

领域civilization-safety

状态初步评估

这是什么 · 为什么难

大语言模型与生物设计工具(BDT)正获得处理DNA/蛋白序列的能力，理论上可能降低制造危险病原体的门槛。攻克意味着建立可信、标准化的危险能力评估基准，让监管和模型发布决策有据可依而非各说各话。

卡在哪 · 机制级卡点

现有评估(如RAND、OpenAI的研究)结论互相矛盾——多数发现'轻微提升'而非质变，评估方法论本身缺乏共识，且评估结果与真实攻击门槛的关系仍是开放问题。

谁在攻

约翰霍普金斯健康安全中心(AIxBio项目)、兰德公司(RAND)危险生物AI能力专家论证、OpenAI Preparedness团队、Anthropic Frontier Red Team

怎么参与

学计算生物学+AI安全评估方法论，跟踪Johns Hopkins CHS的AIxBio出版物与RAND生物安全系列报告