南非总统拉马福萨呼吁金砖国家建立人工智能评估机制
南非总统西里尔·拉马福萨在印度新德里举行的金砖国家峰会上呼吁建立一个对人工智能系统进行独立科学评估的国际机制。他强调，技术能力不应超过人们理解、监督和控制这些技术的能力，阿纳多卢通讯社报道。
强大系统的风险
拉马福萨表示，人工智能模型正变得愈发强大，并迅速改变经济和社会生活的几乎所有领域。与此同时，如果得到有效且负责任的使用，人工智能可以帮助减少不平等、贫困和发展滞后，并改变医疗保健、教育、科学发现和农业生产力。
南非总统指出，各国政府必须重视最强大人工智能系统开发者发出的警告。他列举的风险包括复杂的网络行动、协助制造生物武器、系统的自主行动、操纵、大规模监控以及对就业造成的扰乱。拉马福萨还指出，可能会出现能力让人类难以控制的系统。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
审计与事件报告
拉马福萨支持Anthropic首席执行官达里奥·阿莫代伊提出的加强对开发人工智能公司的外部监督的呼吁。他认为，这类公司应接受正式的外部检查、审计和政府监管。他指出，类似监管在航空、制药、核能和金融领域是常见做法。
南非总统提议，金砖国家框架内的人工智能评估机制应以有意义的人类控制原则为基础，并规定必须报告严重事件。他还呼吁随着人工智能能力的提升而加强保障措施，并为发展中经济体投资建设人工智能领域的主权能力。拉马福萨支持中国国家主席习近平关于在金砖国家建立人工智能生态系统的倡议。
