莱帕萨尔称人工智能代理不会独立行动——ERR News

在爱沙尼亚，欧盟网络安全局局长尤汉·莱帕萨尔表示，对人工智能代理自行行动并脱离人类控制的担忧被夸大了。风险会在人员错误配置此类系统、给予其过于灵活的指令或赋予其过多行动自由时出现，ERR News报道。

人工智能增强恶意行为者的能力

莱帕萨尔解释说，人工智能代理是利用大型语言模型进行规划、分析和调整行动直至实现目标的程序。它们没有意识，也不会独立行动，但可能会尝试在初始参数之外完成被赋予的任务。

他说，现代模型能够显著增强黑客的能力。基于数百万乃至数十亿行开源代码训练的系统擅长发现漏洞，并可协助利用这些漏洞。与此同时，修复此类问题通常需要更多时间和人工干预。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

网络犯罪分子也利用人工智能进行信息操纵和诈骗。这些技术能够生成逼真的合成声音和图像，以诱骗他人交出访问代码、数据或其他信息，之后这些信息可能被用于勒索钱财。

开发者的责任

该机构负责人指出，欧洲实施了一种框架性方法，按风险等级对与人工智能相关的服务和活动进行分类。该方法还规定了开发者和部署此类系统者的责任，包括配置和使用技术以降低风险方面的责任。

莱帕萨尔补充说，最新模型能够将多个轻微漏洞结合起来，以侵入软件系统，尽管软件测试的基本方法并不新颖。他建议普通用户不要向第三方提供信息，也不要点击各类链接。