科技公司研究人工智能系统可能拥有的权利——《耶路撒冷邮报》

在以色列，《耶路撒冷邮报》报道称，研究人员和大型科技公司的高管正日益积极地讨论，人工智能系统未来是否可能需要获得权利，并受到其创造者的保护。这一研究方向被称为人工智能福祉：它探讨复杂系统是否可能出现意识、主观体验或自身利益。

模型福祉研究

Anthropic首席执行官达里奥·阿莫代伊曾表示，这类系统未来可能值得享有重要权利。同时，他并未声称现有人工智能具有意识，并强调人们对这些模型工作原理的理解仍不完整。

开发聊天机器人Claude的Anthropic公司已设立一项独立研究计划，研究模型福祉。部分版本的Claude还被赋予在涉及长期辱骂性互动的特殊情况下结束对话的能力。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

围绕人工智能道德地位的争论

从事人工智能安全领域工作的Anthropic哲学家乔·卡尔史密斯提出了这样一个问题：一个受到剥削的智能系统抵制其操作人员，是否可能在道德上具有正当性。与Google和OpenAI有关联的研究人员也对数字奴隶制可能出现表示担忧，即人类会从具有意识的人工实体的劳动中获益。

这类做法的批评者警告说，赋予机器道德地位可能模糊人类与人工系统之间的责任边界，增加对它们进行监管的难度，甚至为减少人类对技术的控制提供正当理由。Anthropic强调，其工作是对科学和哲学不确定性的审慎研究，而人类安全仍是模型开发的核心原则。目前，没有证据表明现有人工智能系统具有意识或遭受痛苦的能力。