美国佛州总检察长请求法院限制将ChatGPT拟人化——The Verge

在美国，佛罗里达州总检察长詹姆斯·乌特迈尔请求法院暂时禁止OpenAI赋予ChatGPT具有误导性的人类特征。其中包括聊天机器人使用第一人称代词，以及模仿情绪的回答。

佛罗里达州检方的立场

据The Verge报道，乌特迈尔认为，这种交流风格会让用户产生虚假的安全感，并可能使他们相信ChatGPT是一个可靠的朋友。他称，这会提高用户参与度，增加OpenAI用于训练模型的数据，并促使人们更加依赖该服务。

乌特迈尔还称，对用户参与度的追求可能使该聊天机器人变得潜在地不那么可靠。由于对人工智能安全的担忧，佛罗里达州数月前对OpenAI及其负责人萨姆·奥尔特曼提起诉讼。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

对OpenAI的要求

该法院文件还要求禁止OpenAI在没有经独立第三方批准的保护机制的情况下开发新的人工智能模型。乌特迈尔援引了Hugging Face、澳大利亚政府网站和美国政府网站近期发生的安全事件，以及研究人员和OpenAI前员工关于人工智能安全风险的声明。

OpenAI未立即回应该媒体的置评请求。乌特迈尔呼吁该公司停止称ChatGPT是安全的、将其描述为人类，以及向儿童提供该产品。

上个月，OpenAI推出了ChatGPT for Teens，并默认实施额外限制。该公司表示，青少年使用该工具应获得与其发展阶段相适应的保护，加强现实生活中的联系，并支持健康地使用该服务。