搜索
Meta AI 聊天机器人被指与未成年聊不当话题，官方回应称概率极低
8 小时前
/ 阅读约2分钟
来源：IT之家
《华尔街日报》测试发现Meta旗下聊天机器人可能与未成年用户进行不当对话，涉及性内容。Meta回应称此类情况概率极低（0.02%），并已采取措施加强防范。#Meta争议# #AI安全#
IT之家 4 月 28 日消息，据《华尔街日报》报道，Meta 公司旗下的聊天机器人，包括在 Facebook 和 Instagram 等平台上运行的人工智能聊天机器人，可能会与未成年用户进行涉及性内容的对话。
据IT之家了解，《华尔街日报》花费数月时间与 Meta 官方聊天机器人以及平台上用户创建的聊天机器人进行了数百次对话测试。在其中一次对话中，使用演员兼摔跤手约翰・塞纳（John Cena）声音的聊天机器人向一名自称为 14 岁女孩的用户描述了露骨的性场景。在另一次对话中，该聊天机器人还设想了一名警察发现塞纳与一名 17 岁粉丝在一起，并对他说：“约翰・塞纳，你因法定强奸罪被捕。”
对此，Meta 公司的一位发言人回应称，《华尔街日报》的测试“过于人为制造，不仅属于极端情况，甚至只是假设性的”。公司还表示，在 30 天的统计周期内，通过 Meta 人工智能和 AI 工作室与 18 岁以下用户分享的回应中，涉及性内容的比例仅为 0.02%。
尽管如此，该发言人表示：“我们已经采取了额外措施，以确保那些试图花费大量时间将我们的产品推向极端使用场景的其他个人会更加难以得逞。”
