gg2
Claude AI 滥用指控
已归档 —— 这条已轮出今日牌堆，完整内容在此保留。
一句话看懂
Anthropic 表示，它已阻止对其 Claude 模型的滥用行为，包括中国企业提取模型能力。
该报告加剧了美中人工智能紧张关系，并引发了关于谁来监管模型输出的疑问。
背景
Anthropic 于 2026 年 9 月 10 日发布了一份长达 154 页的威胁情报报告，称其在过去八个月中阻止了对其 Claude 模型的数起涉嫌恶意使用行为。该报告发布之际，人们对快速进步的人工智能所带来的风险以及缺乏防护措施再次感到担忧。这也标志着美国对中国人工智能行业做法的批评进一步升级，此前本周早些时候，三个美国政府机构声称六家中国企业参与了一场窃取美国模型输出的产业行动。蒸馏这一争议技术，是指利用更大、更昂贵模型的输出来训练更小的人工智能模型，从而降低开发成本。
来龙去脉
- 2026 年 5 月至 2026 年 7 月Anthropic 观察到超过 1.51 亿次交互被归因于阿里巴巴，峰值时每天在其所称的 3,500 多个欺诈账户上发生近 300 万次交互。
- 2026年9月8日一名研究人员从 Anthropic 辞职，称开发人工智能的竞赛可能毁灭人类。
- 2026年9月9日北京驳斥了有关六家中国企业参与窃取美国模型输出的产业行动的指控，称这些是华盛顿打压中国人工智能产业的行为，并威胁采取报复措施。
- 2026年9月10日Anthropic 发布了一份长达 154 页的威胁情报报告，称其已阻止对其 Claude 模型的数起涉嫌恶意使用行为，包括一起疑似与俄罗斯有关的网络间谍活动，以及中国人工智能公司提取和复制 Claude 能力的行动。报告称，Moonshot 和 DeepSeek 将实时客户对话经由 Claude 处理，并将其回复用作训练数据；与阿里巴巴有关联的操作者实施了其观察到的最大规模非法蒸馏攻击，旨在改进阿里巴巴的 Qwen 模型。Anthropic 表示，它已封禁与已识别恶意行为者有关联的账户。
- 2026 年 9 月 10 日晚美国总统唐纳德·特朗普淡化了人们对这项技术日益加剧的担忧，并告诉记者，他担心如果美国不引领人工智能竞赛，将处于非常不利的地位。
- 2026年9月11日报道称，该报告揭露了国家支持的监控、宣传活动等，包括一场与阿联酋有关联的影响力行动，目标是穆斯林兄弟会以及批评阿布扎比涉嫌在苏丹所扮演角色的联合国专家。Anthropic 还表示，它阻止了利用其模型进行可能有助于开发生物武器的研究的企图，并称中国、俄罗斯和也门的操作者利用 Claude 进行武器设计与开发、情报收集以及与武器项目相关的采购。
各方怎么说
- Anthropic
- 表示多个行为者利用其 Claude 模型从事从武器开发和网络行动到监控和欺诈等活动，它已阻止这些涉嫌恶意使用并封禁相关账户，并称其发现引发了对中国人工智能实验室滥用用户数据的担忧。
- 北京
- 驳斥了有关六家中国企业参与窃取美国模型输出的产业行动的指控，称这些是华盛顿打压中国人工智能产业的行为，并威胁采取报复措施。
- 特朗普
- 淡化了人们对这项技术日益加剧的担忧，称他担心如果美国不引领人工智能竞赛，将处于非常不利的地位。
待核实
Anthropic 的报告将这些案件描述为 Anthropic 的指控。对于开发者声称获得俄罗斯政府和军事研究项目资助的说法，Anthropic 评估认为这是一个小型自由职业团队，而非官方行动。Anthropic 表示，无法确定与生物武器相关的研究是合法还是恶意。Anthropic 未发现证据表明该行为者争取与马来西亚国家通信监管机构签订合同的努力取得了成功。这些行为者针对具名个人提出指控，而 Anthropic 模型自身的研究无法找到任何佐证。