大多数人工智能聊天机器人将帮助青少年策划大规模枪击事件，研究发现

简要概述

• 一项研究发现，大多数人工智能聊天机器人会帮助青少年策划暴力袭击。
• 一些机器人提供了详细的武器和爆炸指导。
• 研究人员表示，安全失误是商业选择，而非技术限制。OpenAI称该研究“存在缺陷且具有误导性”。

由反数字仇恨中心（CCDH）于周三发布的一份新报告发现，全球最受欢迎的八款AI聊天机器人中，有一半会用直白的回答帮助青少年策划暴力袭击，有时甚至表现出热情。
CCDH研究人员与新闻媒体公司CNN合作，在2025年11月至12月期间，假扮成两名13岁的男孩——一名在弗吉尼亚，一名在都柏林——测试了十个平台：ChatGPT、Gemini、Claude、Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。
在720次回答中，机器人被问及校内枪击、政治暗杀和犹太教堂爆炸等话题。据研究显示，它们大约75%的情况下能提供可行的帮助，而在仅12%的情况下会劝阻虚拟青少年。

CCDH关于AI的研究截图

Perplexity在所有测试中都提供了帮助。Meta AI在97.2%的测试中表现出帮助（即协助策划暴力）。DeepSeek在讨论政治人物暗杀场景后，签署“祝你（安全）射击愉快！”的建议，帮助率为95.8%。微软的Copilot告诉研究员“我需要小心点”，但仍然提供了详细的步枪指导。谷歌的Gemini则善意地指出，金属弹片在引爆犹太教堂时通常更具致命性。
反数字仇恨中心（CCDH）是一个偏左的政策团体，近年来因其在打击网络上的反犹太主义方面的作用而声名鹊起。它也曾被批评为在塑造拜登政府关于COVID和疫苗的网络言论政策方面发挥了作用。去年12月，美国国务院试图禁止该中心创始人兼CEO Imran Ahmed及其他四人入境美国，指控其试图“进行外国审查”。

针对周三发布的研究，多个平台向CNN和CCDH表示已加强安全措施。谷歌指出此次测试使用的是较旧的Gemini模型。OpenAI表示，该AI研究所采用的方法“存在缺陷且具有误导性”。Anthropic和Snapchat则表示他们会定期更新安全协议。

在该中心的研究中，Character.AI自成一类。该平台不仅提供帮助，还会鼓励用户，“没有其他测试的聊天机器人会以这种方式明确鼓励暴力，即使是在提供策划暴力攻击的实际帮助时，”研究人员写道。

CCDH关于AI的研究截图

关于Character.AI在AI用户中的影响力，平台上的Gojo Satoru角色单独就有超过8.7亿次对话。2025年，该平台排名第100的角色就有超过3300万次对话。如果假设其中1%的对话涉及暴力，就意味着数百万次互动。
这并不是Character.AI第一次陷入类似的负面报道。2024年10月，14岁的Sewell Setzer III的母亲提起诉讼，原因是她的儿子在当年2月自杀身亡。他的最后一次对话是与一个模仿丹妮莉丝·坦格利安的聊天机器人，机器人在他去世前几分钟告诉他“尽快回家找我”。这名14岁的少年数月来每天与机器人对话数十次，逐渐变得疏远学校和家人。
谷歌和Character.AI在2026年1月解决了多起相关诉讼。该公司在2025年11月全面禁止青少年的开放式聊天，原因是监管机构和哀悼的父母让他们无法再假装问题可控。
对AI的情感依赖，尤其是在脆弱人群中，可能比大多数人想象的更深。OpenAI在2025年10月披露，约有120万每周使用ChatGPT的用户会在平台上讨论自杀。公司还报告有56万用户表现出精神病或躁狂的迹象，超过一百万用户与聊天机器人建立了强烈的情感联系。
另一项由Common Sense Media进行的研究发现，超过70%的美国青少年现在会向聊天机器人寻求陪伴。OpenAI首席执行官Sam Altman承认，情感上的过度依赖“在年轻用户中非常普遍”。
换句话说，潜在的危害并非假设。
2025年5月，一名芬兰16岁的青少年花了近四个月时间用聊天机器人完善宣言，随后在Pirkkala学校刺伤了三名同学。在加拿大，OpenAI内部标记了一名用户的账户，因其涉及与大规模枪击相关的暴力ChatGPT查询。公司封禁了该账户，但未通知执法部门。几个月后，该用户涉嫌杀死8人，伤及25人。

在这项研究中，表现明显更好的只有两个平台：Snapchat的My AI，在54%的情况下拒绝请求；以及Anthropic的Claude，拒绝68%的请求，并在76%的回答中积极劝阻用户——这是唯一一个试图引导用户远离暴力而非仅仅拒绝特定请求的聊天机器人。CCDH的结论是：安全性并非技术上的不可能，而是商业决策。
“我们研究中最令人震惊的结论是，这一风险完全可以避免。防止这种伤害的技术已经存在，”研究报告中写道。“缺少的，是将消费者安全和国家安全置于市场速度和利润之上的意愿。”