Anthropic称有人试图滥用Claude发动网络攻击和开展生物研究
在阿联酋，《The National》报道称，Anthropic发布了一份报告，涉及多起试图滥用其人工智能模型的事件。该公司称，有人试图利用Claude实施网络攻击、影响力行动、监视、生物研究和武器制造。
试图滥用模型
Anthropic表示，已终止报告中提到的所有行动，并将调查结果用于加强其服务的保护措施。该公司还表示，正在封禁与所发现活动有关的账户，并采取新的措施来发现和防止滥用行为。
其中一个例子涉及向Claude请求协助准备一份用于研究基孔肯雅病毒的资助申请。该病毒由蚊子传播；它会引发令人衰弱的症状，包括剧烈疼痛和发热，可持续数周或数月。报告还指出，目前没有获批的该病毒治疗方法。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
Anthropic表示，与这份资助申请相关的机构归属引发了怀疑。该公司未说明具体涉及哪家机构。报告将此类尝试描述为可能助长生物武器研发的行为。
安全与科学应用
该公司强调，希望保留其模型在科学研究中的实用性。Anthropic预测，人工智能可能改变生物科学并加快新疗法的研发，同时也承认，设定能够充分考虑背景的安全限制十分困难。
该报告发布之际，美国正就强大人工智能模型的风险展开讨论。一些美国国会议员曾提出法案，旨在停止或限制人工智能领域的研究，但这些提案均未成为法律。
