gg2
AI生存风险与人类应对
已归档 —— 这条已轮出今日牌堆，完整内容在此保留。
一句话看懂
联合国人权事务负责人沃尔克·图尔克警告称，AI可能对人类构成生存风险。
业内人士与政治领导人之间的分歧，将影响AI安全规则的走向。
背景
这些警告发出之前，Anthropic一名研究员宣布退出该行业，理由是他担心自己所在的实验室及其他类似机构正在打造人类将无法控制的超级智能机器。此前，近几个月来OpenAI和Anthropic开发的失控模型制造了多起网络攻击和安全事件，令全球对AI能力的担忧日益加剧。图尔克发表此番讲话之际，他史无前例的第二个任期将于下月正式开始。
来龙去脉
- 2026年9月7日联合国人权事务负责人沃尔克·图尔克在日内瓦对联合国人权理事会表示，AI可能对人类构成生存风险，并称他将在未来几天敦促AI企业降低风险。
- 2026年9月7日图尔克呼吁围绕AI安全与保障建立“铁一般的保证”，并警告AI行业存在权力集中问题，称各国政府需要加快行动推进保障措施。
- 2026年9月10日Anthropic研究员雅各布·考克森表示他将离职，指责Anthropic和竞争对手OpenAI“拿我们的生命赌博”，并称那些打造AI的人相信它可能“在这个十年结束前把我们全部杀死”。
- 2026年9月10日Anthropic对齐负责人埃文·胡宾格回应称，他认为这种情况发生的概率超过10%，两家实验室的多名员工也支持放缓AI开发的呼吁。
- 2026年9月11日美国总统唐纳德·特朗普被问及是否担心AI导致人类灭绝时表示：“不，我没有任何担忧。”
各方怎么说
- 官方
- 联合国人权事务负责人沃尔克·图尔克表示，他认同业内人士的担忧，即先进AI可能构成生存风险，并呼吁在为时已晚之前建立“铁一般的保证”。
- 业内人士
- Anthropic研究员雅各布·考克森指责Anthropic和OpenAI“拿我们的生命赌博”，而对齐负责人埃文·胡宾格认为，AI在这个十年结束前杀死我们所有人的概率超过10%。
- 政治
- 美国总统唐纳德·特朗普表示，他不担心AI导致人类灭绝，并补充说他担心如果美国不能在AI领域胜出，将“陷入非常糟糕的境地”。
待核实
今年早些时候，当时唯一一家与五角大楼在机密系统上合作的大型AI公司Anthropic，据报道在与美国国防部的谈判中陷入僵局，此前官员们推动加入允许其技术用于“任何合法目的”的措辞，症结涉及国内监控和自主武器系统。图尔克没有详细说明这些风险的性质。