FSB加强对代理式人工智能监管的建议——Channel NewsAsia

在伦敦，金融稳定理事会（FSB）发布了面向银行和其他金融机构的最终建议，内容涉及如何管理代理式人工智能系统的风险。该组织呼吁加强对这类系统的人类监督，Channel NewsAsia报道。

对高风险操作的监督

FSB表示，在高风险应用中，更密集的人类控制至关重要。建议企业设定基于风险水平的明确触发条件，规定在何种情况下人工智能代理必须寻求人类批准。

代理式人工智能系统能够在有限的人类监督下规划并执行任务。FSB在6月的建议草案中警告称，这给人类控制带来了独特挑战。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

最终建议中的变化

在文件最终版本中，FSB加强了关于代理式人工智能的建议。该组织解释称，这是基于对草案的反馈、金融机构对应用该技术日益增长的兴趣，以及其特有的风险和控制机制。

FSB还删除了将人工智能视为“合成员工”的建议。取而代之的是，建议金融机构考虑到，人工智能代理不像人类一样思考，并且可能会以意想不到的方式解读预先设定的目标。