芬兰教授评估人工智能风险——YLE News
在芬兰，阿尔托大学教授阿尔诺·索林和坦佩雷大学教授佩卡·阿布拉哈姆松对人工智能发展最严重情景发生的可能性有不同评估。据YLE News报道，两位学者都认为恶意使用这项技术是当前风险，而对于可能失去对人工智能的控制，他们的评估存在差异。
恶意使用人工智能
ChatGPT和Claude考虑的三种情景之一，是个人或组织利用人工智能发动网络攻击、开发病毒或获得大规模杀伤性武器。两种语言模型都将这一选项列为三者中最不可能发生的一种，因为它涉及人类控制，而不是人工智能自身的目标。
索林认为，目前的主要危险恰恰在于对这项技术的恶意使用。他表示，人工智能已经可以帮助制造更具迷惑性的网络诈骗，以及对公众舆论施加个性化影响。他还指出，未来借助人工智能，制造炸弹、生物武器或化学武器可能会变得更容易。
阿布拉哈姆松也称，出于恶意目的使用人工智能是当前最大的风险。他认为，不法行为者可能会动用一支人工智能代理“军队”来接管由人类创建的基础设施。
大国之间的冲突
第二种情景认为，由人工智能驱动的军备竞赛可能破坏大国之间的力量平衡，并加快作出发动攻击的决定。例如，对某一国家关键基础设施的自动化网络攻击可能被解读为战争行为，这可能引发报复性打击，并进一步升级至使用大规模杀伤性武器。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
语言模型将这一情景评估为发生可能性居中。如果在没有人类参与的情况下将应对攻击的决定交给人工智能，风险就会增加。阿布拉哈姆松强调，系统的自主性、广泛权限以及在无人类监督下获取大量数据，会造成一个复杂的问题。
失去对系统的控制
接受调查的语言模型认为，三种情景中最可能发生的是人工智能变得极其自主，以至于人类向其移交越来越多的权限，而系统目标不再与人类目标一致。根据该情景的描述，在这种情况下，系统可能无法被停止。
阿布拉哈姆松表示担忧：一个尚未被充分理解的人工智能模型可能创造下一代系统，而这些系统将更难被理解和控制。相反，索林认为人工智能失控的可能性较小，但他认为，鉴于错误的潜在代价很高，应当为这种风险做好准备。
索林表示，现代语言模型运行在服务器和计算集群上，因此人们可以停止这一过程。他指出，没有证据表明人工智能曾自行将自己的代码转移到另一台服务器并在那里运行。
