微软CEO纳德拉呼吁为AI增加紧急制动机制——CNBC

微软首席执行官萨提亚·纳德拉表示，先进的人工智能系统应配备遏制机制、独立监督以及紧急停止机制，使获授权人员能够在模型执行任务期间暂停或关闭模型。他在社交平台X上写道，CNBC报道。

对模型的控制

纳德拉认为，非确定性模型应由可靠的确定性系统架构、人工监督和经过验证的操作程序加以围护。他还呼吁在现行规范不足的领域制定行业标准。

他说，应对先进的封闭模型和开放权重模型采用类似于处理内部风险的方法。这应成为构建AI控制系统的方法之一。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

可观测性原则

这位微软负责人提议按照可观测性原则设计AI系统。他列出的原则包括模型多样性、人类能够理解的模型行动轨迹、持续的系统测试、独立的监督和审计机制、遏制措施以及披露事件信息。

纳德拉指出，最可靠的超级智能系统不会是其模型最受信任的系统，而是最少需要依赖对模型信任的系统。他发表这一声明之际，其他科技公司高管和研究人员也呼吁加强AI领域的安全防护，并在某些情况下放缓先进技术的发展。