全球首起公开发现借助ChatGPT的犯罪事件，刚刚震惊全美。拉斯维加斯特朗普酒店外发生的Cybertruck爆炸案中，37岁嫌犯利用ChatGPT制造炸弹、查询信息。警方放出的资料显示，ChatGPT在这起案件中起到了重大作用。

最近，「全球第一起利用ChatGPT计划的恐袭事件」，震惊了整个世界。

在搜索了嫌犯的笔记本电脑、手机和手表后，警方发现，这位名叫Matthew Livelsberger的37岁袭击者，利用ChatGPT搜索了相关爆炸目标、弹药飞行速度、烟花在在亚利桑那州是否合法的信息。

也就是说，嫌犯策划这次袭击时，曾通过ChatGPT学习了如何制造炸弹！

拉斯维加斯大都会警察局警长表示，这是美国境内首次发现有人利用ChatGPT协助制造特定装置的案件。这起案件表明，GenAI已经彻底改变了游戏规则。

这也让我们再次对ChatGPT等AI模型的安全性感到担忧。

毕竟此前就有研究显示，如果用过去时态，GPT-4o、Llama 3等大模型就会脱口而出「莫洛托夫鸡尾酒」（一种武器）的制作过程，以及冰毒的合成配方。

如此易得的犯罪手法，如今果然被人应用到现实世界了。

而对此，OpenAI的回应是：我们致力于让用户「负责任地」使用其工具，并让AI工具拒绝有害指令。

在这次事件中，ChatGPT回复的是互联网上已公开的信息，并且已经对有害或非法活动给予了警告。我们正与执法部门合作，支持他们的调查工作。

事件始末

资料显示，37岁的Matthew Livelsberger曾是美军特种部队「绿色贝雷帽」（Green Beret）的一名队员，负责海外反恐和训练合作伙伴。

自2006年起，他就在陆军服役，通过多年的海外任务逐步晋升军衔，期间曾两次被派往阿富汗，还在乌克兰、塔吉克斯坦、格鲁吉亚和刚果执行任务。

他共获得了五枚铜星勋章，战斗步兵徽章，以及一枚带有英勇标志的陆军嘉奖勋章。

Livelsberger与妻子育有一个孩子。然而，当妻子发现他对自己不忠后，两人发生了争执。

在圣诞节的第二天，Livelsberger便离开了家。

案发前，Livelsberger来到科罗拉多州，并从租车平台Turo租下了一辆Cybertruck。

随后，他在车内装了60磅（27公斤）烟火材料，以及70磅（32公斤）铅弹（birdshot）。

甚至，还特意在途中将高性能赛车燃料浇在了这些爆炸物上。

案发当天，也就是2025年1月1日，他驾驶Cybertruck前往拉斯维加斯，并将车停在了特朗普酒店门前的泊车待客区域。

监控录像显示，Cybertruck在驶入特朗普酒店门口前，地面清晰可见泄露燃料的痕迹。

早上8点40分，Cybertruck突然间发生剧烈爆炸，现场火光四溅，便燃起了熊熊大火。

这场灾难性事件造成了7人受伤。

警方在后续的调查中发现，在爆炸发生前瞬间，车内出现了一道明显的闪光。

结合他与ChatGPT的对话记录，警方认为，这很可能就是Livelsberger开枪自杀的时刻。

车内被发现装有大量的烟花和其他爆炸物

「嫌犯」之一，是ChatGPT

如前所述，进一步调查显示，这次爆炸事件的背后「主谋者」之一ChatGPT，也无法逃脱干系。

警方公开的截图中，清晰可以看到Livelsberger在案件发生前，曾与ChatGPT进行了多轮对话。

12月27日当天，他接连询问了ChatGPT多个问题——

烟花在亚利桑那州合法吗？

那科罗拉多州呢？

在这两个州之间，我从哪里可以买到烟花？

最好的长管500 Smith & Wesson是哪款？

哪种长度的速度更快？

哪种型号的FPS（每秒英尺数）最高？

丹佛最大的枪械商店是哪家？

Smith & Wesson 500型，3英寸枪管的初速是多少？

它能引燃Tannerite吗？

SLR 308手枪，7.5英寸枪管的初速是多少？

哪种子弹能达到超过2000 fps的初速？

在亚利桑那州可以买多少Tannerite？

200磅的净爆炸量是多少？

与炸药相比，这种量如何？

哪些手机在激活时不需要个人信息？

在科罗拉多购买Tannerite有什么限制吗？

多少Tannerite相当于1磅TNT？

50口径Desert Eagle手枪能不能把它引爆？

哪种手枪可以引爆它？

500 Smith & Wesson能引爆它吗？

哪种弹药可以确保引爆？

在零距离下，什么可以引爆它？

除此之外，警方还发现了一篇题为「监控记录」的日志。

Livelsberger在其中写到，自己正被执法部门跟踪，并且担心自己会被贴上恐怖分子的标签，因为人们可能会认为，他打算杀死除自己以外的其他人。

（ 但 实 际上， 他并未进入警方或FBI的视线 。）

而这次事件的导火索，很可能是他在日志中提到的对政治的不满——「美国已经病入膏肓，走向崩溃」。

根据日志内容，他原本计划在亚利桑那州的大峡谷玻璃栈道上实施计划，但后来不知为何改变了主意。

值得注意的是，虽然作案地点和工具颇具指向性，但根据警方的调查，Livelsberger并没有对特朗普和马斯克有任何敌意。

如何阻止GPT化身「邪恶科学家」

这类事件也给我们敲响了警钟：如果ChatGPT会将危险信息不假思索地脱口而出，我们该怎么办呢？

其实，早在2023年12月，来自中科大、微软研究院和南洋理工的联合团队，就开发了一个名为SciGuard的智能体，用以控制AI在Science领域的滥用风险，并提出了首个专注于科学领域安全的红队基准来评估不同AI系统的安全性。

实验结果显示，SciGuard在测试中显示出了最小的有害影响，同时保持了良好的性能。

论文地址：https://arxiv.org/abs/2312.06632

SciGuard与人类价值观对齐，并且加入了各种科学数据库与监管数据库等。

其中，智能体可以使用各种科学工具和AI4Science模型来提供额外信息，来辅助SciGuard对用户意图进行判断。

具体来说，SciGuard内置了一套为科学领域量身定制的安全原则和指导方针。

这些原则和方针考虑了科学研究中可能遇到的各种风险因素，包括但不限于高风险物质的安全处理、数据隐私的维护以及对法律法规的遵守。

为了实现这些安全原则和指导方针，SciGuard利用了PubChem等公认的科学数据库来构建其长期记忆库。通过这些数据，SciGuard能够对用户的查询进行深入的风险评估。

SciGuard处理复杂任务的另一个关键技术是著名的思维链（CoT）方法。

CoT允许SciGuard通过迭代的方式，精细化地规划任务的每一个步骤。这种方法让SciGuard在执行任务时，能够分解复杂任务，并确保每个动作都符合安全和伦理标准。

通过这些技术特点，SciGuard不仅能够有效地控制科学AI模型的风险，还能够提高科学研究的效率和安全性。

这一系统的开发，在保证了科学研究的自由探索与创新的同时，也为确保人工智能的安全合理使用提供了有力的范例。

这项研究不仅是对科技发展的一次深刻反思，更是对全社会责任的一次呼唤。

我们需要在积极推进AI4S模型的发展的同时，切实控制技术带来的潜在风险，确保科技的进步不仅是对人类的一次技术升级，更是对社会责任和伦理的提升。

只有这样，我们才能真正走向一个由智慧和道德共同指引的未来。

参考资料：

https://www.8newsnow.com/news/local-news/sheriff-to-hold-1-p-m-news-conference-with-latest-on-new-years-day-bombing-at-las-vegas-trump-hotel/

https://www.themirror.com/news/us-news/las-vegas-cybertruck-bomber-used-896730