gg2
Anthropic阻止了可能的生物武器活动
已归档 —— 这条已轮出今日牌堆，完整内容在此保留。
一句话看懂
Anthropic表示，它封禁了账户，这些账户利用其AI模型进行可能的生物武器研究。
这些案例表明，前沿AI的两用风险已在被管理，而不仅仅是理论上的。
背景
Anthropic发布了一份威胁报告，称今年它阻止了研究人员利用其Claude模型进行可能有助于生物武器开发的生物学研究的若干尝试。该公司表示，它封禁了这些账户，并加强了对Sonnet、Opus和Haiku等模型的防护措施。它强调，并未指控这些研究人员意图造成伤害，因为同样的信息既可支持疫苗和治疗，也可用于武器。这一披露正值关于能力日益强大的前沿AI风险的广泛辩论之际。
来龙去脉
- 2026年9月10日Anthropic表示，今年它阻止了研究人员利用其AI模型进行可能支持生物武器开发的生物学研究的若干尝试，并封禁了这些账户。
- 2026年9月10日Anthropic表示，它已向相关政府和行业组织报告了每一起案例，并加强了对受影响版本Claude（包括Sonnet、Opus和Haiku）的防护措施。
- 2026年9月11日CNN、BBC、NYT、Politico等媒体均有报道，Anthropic的威胁情报负责人称这是“一个极其微妙的情况”。
各方怎么说
- 官方
- Anthropic表示，生物滥用是前沿AI最严重的风险之一，如果没有正确的防护措施，此类能力可能带来灾难性后果。
- 谨慎
- Anthropic的Jacob Klein表示，这些案例并非漫画书中的反派，而是“一个极其微妙的情况”，公司无法确定该活动是合法调查还是恶意行为。
- 分析人士
- 报道指出，这些披露并不能证明当今的AI系统能够独立制造生物武器；在有记录的案例中，是人设定了目标并提供了专业知识。
待核实
Anthropic表示，它无法确定这些研究人员的活动是合法调查还是恶意企图；它还表示，并未指控这些研究人员意图造成伤害。一些报道将这些案例与有国家关联的科学家以及中国和俄罗斯联系起来，但材料并未将意图或归因确立为已确认的事实。