美国参议院讨论要求人工智能公司降低灾难性风险
在华盛顿，美国参议院的谈判人员正在讨论一项法案，该法案可能要求科技公司开发安全的人工智能产品并防范灾难性风险。据Channel NewsAsia报道，并援引路透社消息，这项倡议还可能涉及联邦法院，若美国政府希望阻止一款人工智能模型发布。
开发者的义务
据两名参议员助理称，该提案可能为人工智能开发者引入所谓的注意义务。企业必须以能够防范灾难性风险的方式开发其产品。
谈判人员寻求赋予美国政府阻止发布被认定为危险的个别人工智能模型的权力。据一名了解讨论情况的消息人士和一名参议员助理称，企业可以在联邦法院对这类决定提出挑战。同时，政府权力的确切范围仍在协商中。
风险与谈判
两名参议院助理表示，该倡议的一部分还可能禁止各州就与人工智能模型相关的某些风险实施本州法律。在可能的风险中，他们提到了不法分子利用人工智能系统研发核武器或生物武器。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
该法案将适用于拥有最先进能力的模型。该消息人士列举的开发此类模型的美国公司包括Google、Anthropic和OpenAI。
参与磋商的包括参议院多数党领袖约翰·图恩、参议院商务委员会主席特德·克鲁兹，以及在这些谈判中代表民主党的主要人物、参议员艾米·克洛布彻。参议员玛丽亚·坎特韦尔也参与了讨论。克鲁兹表示，他正与克洛布彻和图恩共同制定立法，以应对与生物和核威胁相关的灾难性风险。
克洛布彻告诉路透社，她正在就针对人工智能模型最大风险的政府监管制定一项两党协议。她表示，这意味着开发者将与政府专家合作，对模型进行审查和测试。即使达成协议，国会的工作日程也可能使该文件的通过变得复杂：在11月3日中期选举前，众议院计划仅开会一周，参议院则开会三周。
