美国总统特朗普否认人工智能导致人类灭绝的风险
美国总统唐纳德·特朗普表示，他并不担心人工智能可能导致人类灭绝。相反，他强调美国必须在人工智能发展方面保持对中国的领先地位。
美中竞争
特朗普周四回答记者提问时表示，他担心美国可能在人工智能领域落后。按他的估计，美国领先中国大约一年。
美国和中国正在争夺人工智能领域的领导地位。随着中国模型的发展及其在全球使用日益增加，紧张局势正在加剧。
据CNBC Top News报道，总统的声明是在Anthropic和OpenAI的研究人员公开加强对日益强大的人工智能系统快速发展步伐的警告之后发表的。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
研究人员的声明
Anthropic研究员雅各布·科克森表示，他因担忧Anthropic及其竞争对手OpenAI的行动而离开公司。他称，人工智能开发者认为，这项技术可能在本十年末之前杀死全人类；其他实验室员工也表达了类似担忧。
部分对人工智能安全的担忧与递归自我改进有关——即模型可能具备自主提高自身性能的能力。OpenAI研究员贾斯敏·王致力于使人工智能与人类目标保持一致，她警告称，加速迈向此类能力存在危险。OpenAI首席科学家雅库布·帕霍茨基也表示，进步速度可能持续，并对尚未准备好应对机器智能快速增长的后果表示担忧。
国会倡议
在美国国会，两党的代表正推动旨在加强对先进人工智能模型开发监督的倡议。7月，众议员杰伊·奥伯诺尔特和洛丽·特拉汉宣布，计划提出FRONTIER Act法案，该法案旨在为监管先进模型的部署建立框架。
本月早些时候，参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出了Ban Artificial Superintelligence Act法案。该法案规定，在联邦安全规则出台前，暂时暂停开发先进人工智能系统。
