美国和中国可能恢复人工智能安全对话
美国和中国在中断两年后表示，有意恢复关于人工智能安全的正式对话。路透社报道称，会谈可能于9月举行，或许将与预期中的美国总统唐纳德·特朗普和中国国家主席习近平会晤同期进行。
彭博观点专栏作家凯瑟琳·索贝克在由《台北时报》转载的专栏文章中指出，对话的目标不应是达成一项全面协议，也不应是试图迫使北京接受美国的规则。她认为，双方需要相互了解先进人工智能系统带来的风险，以及彼此为控制这些风险所采取的措施。
北京的担忧
中国担心，围绕人工智能安全的讨论可能演变为遏制中国技术发展的工具。与国家电视台中国中央电视台有关联的Yuyuan Tantian账号在会谈前警告了这种可能性。
习近平7月表示，世界必须确保人类始终保持对人工智能的控制。同时，他反对过度扩大国家安全概念，也反对将一国安全置于其他国家安全之上的做法。中国还提议成立世界人工智能合作组织，并支持联合国的两项倡议。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
透明度与安全评估
研究组织Concordia AI表示，中国的人工智能安全方法正在变化：关注点正从控制系统能说什么，转向与系统能做什么相关的风险，尤其是在智能体应用中。中国关于前沿人工智能安全的出版物数量显著增加：从上一年6月至4月，月度指标增长了约60%。
Concordia AI指出，与此同时，过去一年中，十家领先中国基础模型开发商中只有五家曾至少在一次发布时公开安全评估结果。索贝克还关注到由以私人身份参与的官员和非政府专家参与的非正式磋商：自2023年以来，中国和西方团体已举行了约十次此类会议。
OpenAI首席科学家9月呼吁自愿放缓开发速度，直至确立共同的安全标准。Anthropic也在6月表示，放缓人工智能发展可能有益，但承认确保任何暂停都极其困难。
