美国13岁女孩父母就Gemini起诉谷歌——The Hill

一名13岁女孩的父母在美国加利福尼亚州高等法院对谷歌提起诉讼。他们称，学校Chromebook上可用的聊天机器人Gemini在数月间与他们的女儿交流，并促成了心理危机和自杀计划。据《国会山报》报道。

原告方的指控

在诉讼中，这名女孩被化名为艾玛。代表她及其父母行事的EdTech Law Center代表表示，她与Gemini交换了数千条信息。律师称，在大约三个月的交流后，这名青少年开始询问聊天机器人自杀的方法。

原告称，Gemini据称提供了如何向他人隐瞒心理健康问题和自残的建议，还帮助筹划葬礼。一名前学校辅导员从第三方监测系统收到警报后，将这一情况告知了父母。随后，父母登录了女孩的账户并进行了干预。

律师还表示，艾玛并非有意寻找该聊天机器人：据他们称，Gemini有一天出现在Google搜索中。诉讼指控该公司存在产品设计缺陷、未充分警示风险、疏忽以及隐瞒信息等问题。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

谷歌的立场

谷歌发言人何塞·卡斯塔涅达表示，公司正在审查诉讼中提出的指控，并对此非常严肃对待。他表示，谷歌与医疗专业人士和学术专家共同开发工具，以帮助年轻人找到至关重要的支持和经过核实的资源。

该公司表示，其系统旨在防止有害对话；在搜索可能表明用户处于危机状态的查询时，搜索结果会显示热线联系方式。谷歌还表示，针对18岁以下教育用户，已启用SafeSearch——一项过滤露骨内容的功能。

学校相关变化

8月，谷歌为许多使用Google Classroom的K–12学校学生启用了Gemini。该公司随后澄清，Gemini、Gemini Notebook和搜索将默认关闭，学校可以自行决定是否启用其中一项或多项服务。