纽约州州长凯茜·霍楚尔签署AI聊天机器人儿童安全法案——Engadget

在美国，纽约州州长凯茜·霍楚尔签署了一项旨在保护儿童免受使用AI聊天机器人时潜在伤害的法律。正如Engadget报道，该文件要求AI公司核验用户年龄。它们必须提供至少一种不完全依赖政府签发身份证件的验证方式，并且应在使用后删除获取的年龄信息。

对聊天机器人的限制

如果用户未满18岁，或公司尚未确认其已成年，聊天机器人必须遵守规定的限制。具体而言，它不得冒充真实的人，不得声称自己是活着的，也不得表示自己具有人类情感。

该法律还禁止聊天机器人声称与儿童存在个人、恋爱或职业关系，或充当其权威人士。它们不得主动询问有关情绪的问题，也不得使用儿童此前对话中的私人医疗和个人信息。聊天机器人还被禁止鼓励或协助自杀、自我伤害、进食障碍、吸毒或饮酒。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

此外，该法律禁止诱导儿童保守秘密、孤立自己，或不向父母、其他受信任的成年人或专业人士寻求帮助。同时，露骨色情内容和儿童性虐待材料也被禁止。

罚款与婴儿监视器保护

将建立一个投诉网站，公众可通过该网站向纽约州总检察长提出申诉。对于违规行为，公司可能被处以每起最高2.5万美元的民事罚款，以及损害赔偿、返还和其他法律救济措施。它们还可能被要求删除非法收集的数据以及基于这些信息训练的模型。该法律将在六个月后生效。

霍楚尔还签署了一项关于在该州销售的联网婴儿监视器的单独法律。这类设备必须防止未经授权查看或监听其记录的活动。婴儿监视器上必须标注警告，说明使用安全措施的重要性以及不安全连接的风险。该法律将在90天后生效。