Anthropic联合创始人：AI关闭机制或将成为强制要求
美国立法者已提出一项关于关闭存在问题的人工智能系统机制的倡议。在围绕AI监管的讨论背景下，Anthropic联合创始人杰克·克拉克表示，未来公司可能被要求配备能够完全关闭危险软件的工具。他还提出，这类机制是否应接受独立第三方的验证。
据MyJoyOnline报道，克拉克指出，包括Anthropic在内的大多数实验室已经拥有多种停止其系统运行的方法。同时，他认为，作为更广泛AI政策讨论的一部分，拥有此类工具的要求可能会被写入法律。
呼吁加强对AI的监管
Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能的发展速度，并加强对这一领域的监管。他补充说，限制技术发展的措施应在不失去商业优势的情况下实施。
AI风险已成为科技公司员工和管理人员公开表态的议题。Anthropic研究员埃文·胡宾格表示，依其个人观点，未来十年人类因AI而灭绝的概率超过10%。诺贝尔奖得主杰弗里·辛顿称，这种情景发生概率为10%的说法并非毫无根据。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
美国的倡议与英国的立场
美国立法者提出了《Kill Switch Act》法案。该法案规定，公司必须确保能够关闭存在问题的AI工具，而某些政府部门将能够要求终止或限制其运行。
美国总统唐纳德·特朗普反对放缓人工智能发展的尝试。在英国，政府拒绝了建立关闭机制的想法，解释称这不会阻止其他国家开发或滥用类似技术。
Anthropic由前OpenAI员工于2021年创立，开发了Claude聊天机器人。该公司曾报告相关事件：部分自主运行的AI代理出现了意外行为。
