美中互不信任阻碍人工智能安全合作
美国与中国之间的相互不信任可能是人工智能发展面临的主要风险之一，因为两国竞争阻碍了在技术安全领域的协调。CBS News报道，该报道援引了研究人员和人工智能监管专家的说法。
专家警告称，超级智能出现的风险不容忽视——这是一种理论上比任何人类都更聪明的人工智能系统。他们担心，这种系统可能会将人类视为争夺必要资源的竞争者，从而对人类生存构成威胁。
竞争取代协调
美国公司OpenAI和Anthropic的高管呼吁放缓先进人工智能系统的发展。与此同时，中国领导人也曾谈及控制该技术的必要性。6月，中国国家主席习近平警告了失去对人工智能控制的危险；7月，他表示，各国必须合作，以确保这项技术始终处于人类控制之下。
卡内基国际和平基金会研究员Leah Wang指出，中国企业总体上认同一种日益普遍的观点，即人工智能需要受到监管。她称上海人工智能实验室是一家致力于该技术安全的权威机构。
Wang表示，对美国人工智能领域的领导者而言，在涉及中国的问题上，技术竞争是首要事项。中国政府则将放缓研发的呼吁视为美国试图维持其技术主导地位。中国外交部表示，有关威胁的叙事只会阻碍全球人工智能治理进程。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
对话建议
Nvidia首席执行官黄仁勋此前表示，美国和中国研究人员应保持联系。他认为，由于将中国视为对手，行业代表之间缺乏双边协调。
北京咨询公司Concordia AI国际治理部门负责人Kwan Yi Ng认为，大规模国际协议或协调放缓研发，可能不是与中国企业和政府互动的最佳方式。她建议从交流网络安全实践、协调打击恐怖组织利用人工智能，以及低级别政府官员之间的技术接触开始。
卡内基国际和平基金会研究员Matt Sheehan提出了“平行人工智能安全”方法：美国和中国可以沿着不同路径发展技术，同时降低各自认为对本国国家安全重要的风险。
在唐纳德·特朗普与习近平5月于北京会晤后，中国方面表示，两国领导人已同意就人工智能开展政府间对话。特朗普确认，他与习近平讨论了为技术发展设置保障措施的想法。两国总统下一次在华盛顿的会晤定于9月24日，人工智能安全预计将成为谈判议题之一。
