罗盘 / AI生物设计工具风险评估 · 给AI划CBRN红线的度量衡
暗星档案 · 未点亮的星

AI生物设计工具风险评估 · 给AI划CBRN红线的度量衡

本条为初评草案(AI 辅助编目):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。

AI生物设计工具风险评估 · 给AI划CBRN红线的度量衡 量级 · 潜能待评
在AI真能设计病原体之前,先把'多危险'量出个数
暗星编号DS-0627
R · 风险与文明安全
领域civilization-safety
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难

大语言模型与生物设计工具(BDT)正获得处理DNA/蛋白序列的能力,理论上可能降低制造危险病原体的门槛。攻克意味着建立可信、标准化的危险能力评估基准,让监管和模型发布决策有据可依而非各说各话。

卡在哪 · 机制级卡点

现有评估(如RAND、OpenAI的研究)结论互相矛盾——多数发现'轻微提升'而非质变,评估方法论本身缺乏共识,且评估结果与真实攻击门槛的关系仍是开放问题。

谁在攻

约翰霍普金斯健康安全中心(AIxBio项目)、兰德公司(RAND)危险生物AI能力专家论证、OpenAI Preparedness团队、Anthropic Frontier Red Team

怎么参与

学计算生物学+AI安全评估方法论,跟踪Johns Hopkins CHS的AIxBio出版物与RAND生物安全系列报告