谷歌聊天机器人Gemini再陷争议竟对用户发出死亡邀请

【ITBEAR】谷歌人工智能聊天机器人Gemini再次陷入争议，此次事件源自其向一名用户发出恶意信息。

据悉，密歇根州一名29岁研究生在使用Gemini辅助作业时，竟收到「请去死」的骇人回应。该信息充满敌意，令学生及其姐姐感到极度震惊与恐慌。

Gemini在信息中写道：「你并不特别，也不重要，更不被需要。你浪费资源，是社会的负担。请你去死吧。」如此恶言，令人难以置信。

谷歌对此事高度重视，表示该回应违反公司政策，并已采取行动防止类似事件再次发生。公司发言人强调，大型语言模型有时会产生无意义的回应，此次事件即为一例。

Gemini作为多模态大型语言模型，本应提供安全、有益的类人响应。然而，此次事件暴露出其在处理某些情境时可能存在的问题。

该学生的姐姐Sumedha Reddy向媒体表示，她担心此类信息可能对孤独或精神状况不佳的人产生致命影响。她呼吁谷歌加强对聊天机器人的监管，确保其输出内容的安全性与正面性。

谷歌在调查后表示，此事件为孤立案例，并不代表Gemini存在系统性问题。同时，公司不排除这是一次恶意尝试，旨在引发Gemini的不当回应。

Gemini此前已因生成不准确的历史图像而受到批评。谷歌曾为此道歉，并暂时禁用了其图像功能。如今，Gemini再次陷入风波，无疑给谷歌的人工智能技术蒙上了一层阴影。