美国国会警告军事人工智能控制问题——Defense News
在美国华盛顿，国会听证会与会者表示，人工智能系统可能将目标识别和打击建议加速到人类没有足够时间进行核查或干预的程度。Defense News报道。
在汤姆·兰托斯人权委员会举行的、讨论在军事领域使用人工智能后果的听证会上，人工智能治理研究员安娜·梅西申强调，操作员对决定的正式批准本身并不意味着控制权得以保留。她表示，在乌克兰，人工智能可以将决策过程从数小时缩短至数分钟。
留给人类决策的时间
美国国防部2023年关于自主武器系统的指令要求，指挥官和操作员能够就使用武力作出适当程度的人类判断。与此同时，听证会与会者提出，当人工智能影响目标确定的速度快于人类核查建议的能力时，这种判断是否仍然具有实质意义。
国际特赦组织美国分部政府关系与倡导事务全国主任阿曼达·克拉辛警告称，人工智能可能加快军事决策链，并使人们更难确定在打击前是否进行了有实质意义的人类评估。前军官、军事伦理研究员约瑟夫·查帕呼吁，不仅应评估系统的自主程度，还应评估其是否依赖统计推断、在发生故障时如何运作，以及日后能否核查其建议的依据。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
对平民伤害的责任
听证会与会者还提出了责任问题，即在有人工智能参与的决定导致平民受到伤害的情况下应如何追责。美国国防部监察长于5月发布的一项审查发现，在实施平民伤害减缓和应对机制方面存在问题。其中包括工作人员流失或调任、用于数据管理的平台资金被停止，以及高级指导委员会会议停止举行。
克拉辛建议在五角大楼年度平民伤亡报告中纳入有关人工智能作用的数据。卡内基国际和平基金会高级研究员史蒂夫·费尔德斯坦表示，五角大楼应收集行动数据并在行动后开展审查，以确定人工智能系统识别目标的准确性，以及其错误与平民伤亡之间可能存在的联系。
与此同时，费尔德斯坦警告不要将全部责任归咎于技术。他表示，人工智能可以帮助核查情报数据、发现图像中的变化，并确定防御无人机和弹道导弹的优先事项。梅西申指出，人工智能不会纠正人们写入系统运行规则中的错误假设。
