澳大利亚科学家评估人工智能用于生物武器的风险——ABC News Australia

澳大利亚生物安全和公共卫生研究人员警告称，人工智能系统的发展可能降低制造或使用危险生物制剂的门槛。与此同时，这些技术已经被用于医学和农业研究，据ABC News Australia报道。

Anthropic首席执行官达里奥·阿莫代伊此前呼吁放缓人工智能的发展，以避免技术发展超出人类控制能力。其中一项被提及的风险是，模型可能被用于开发危险生物制剂。

降低危险研究的门槛

南十字星大学安全研究人员布伦丹·沃克-门罗认为，人工智能降低了获取专业知识的门槛。新南威尔士大学公共卫生科学家戴维·赫斯洛普表示，这类工具的发展速度使人类监督更加困难。

他表示，大型语言模型可能帮助怀有恶意的用户规划使用危险材料，包括现有的病毒或毒素。不过，赫斯洛普指出，这仍需要专业培训以及价值数万美元的实验室设备。

2022年，Collaborations Pharmaceuticals公司的研究人员展示了，原本为筛除潜在有毒药物而开发的人工智能软件，可以被重新配置为设计危险毒素。Anthropic也在其威胁情报报告中称，曾发现五起以可能支持生物武器开发的方式使用其产品的案例。该公司因这些用户违反有关支持地区的规则而封禁了他们。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

对医学和农业的益处

人工智能也被用于有益的生物研究。AlphaFold程序曾被用于预测医学研发中的蛋白质结构；其开发者获得了2024年诺贝尔化学奖。美国科学家还使用生成式人工智能创造了可感染细菌的新型病毒，这些病毒可能被用于对抗感染。

昆士兰大学计算生物学家戴维·凯纳及其同事开发了一种用于农业研究的自主人工智能工具。它处理大量数据，并模拟环境或遗传变化如何影响植物性状，包括其产量和抗旱性。

安全措施与监管

商业语言模型设有限制，旨在防止被用于危险目的。赫斯洛普认为，除这些安全措施外，还需要法律和监管。沃克-门罗强调，具备基本编程技能的人可以下载开放权重模型并私下运行。

专家列举的可能措施包括加强对材料和设备的管控，以及利用人工智能监督敏感研究。同时，沃克-门罗警告称，过度限制可能妨碍正当的科研工作。