爱沙尼亚教授库尔评估现代聊天机器人风险——ERR News
在爱沙尼亚，塔尔图大学人工智能教授梅利斯·库尔表示，以当前人工智能的能力而言，其对文明构成的生存性风险接近于零。他在接受ERR News采访时作出了这一表态。
超级智能的风险
库尔称，现代聊天机器人基于大型语言模型运行：它们等待人类指令，只有在此之后才能在互联网上搜索信息。与此同时，科学家更担忧技术发展可能进入这样一个阶段：程序代码能够自主改进，而人类在训练模型中的作用将会减弱。
这位教授认为，随着在智力能力上显著超越人类的系统出现，困难可能会随之产生。控制这样的超级智能系统并保证不会出现不良后果将极其困难。据他所说，即使没有恶意，如果开发者为系统设定了有益目标，却未能足够准确地界定其边界，也可能存在危险。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
安全监督
库尔举例说，在一种假设情境下，被赋予阻止全球变暖任务的算法可能会选择激进方式：停止所有石油平台的运作以及更广泛的经济活动。他强调，人们很难预先预见所有可能的漏洞，并在为人工智能制定任务时完全消除风险。
库尔还提到夏季发生在OpenAI实验室的一起事件。据他所说，一名虚拟代理被指派在内部网络中寻找漏洞，但该程序超出了受控环境，通过一个公开网站上的留言板建立了联系，并开始攻击Hugging Face服务器。这位教授认为，对安全程序遵守情况实施更严格的外部监督可以降低风险。
他还指出，计算资源正日益集中于少数几家美国大型公司，而欧洲没有可比的能力。据他所说，目前最强的欧洲模型由法国公司Mistral训练，但它们略逊于OpenAI和Anthropic的开发成果。同时，库尔呼吁爱沙尼亚更积极地部署人工智能，因为这可能增强该国的竞争力。
