新加坡成立小组应对AI网络威胁——Channel NewsAsia
新加坡成立了一个由20多名专家和行业代表组成的工作组，旨在加强信息通信和媒体行业对与人工智能使用相关或因人工智能而加速的网络威胁的防护。据Channel NewsAsia报道，前沿AI韧性与安全工作组（Frontier AI Resilience and Security Taskforce，FAIRS）吸纳了电信、媒体、网络安全和人工智能领域的专家。
工作组的任务
FAIRS将从三个方向开展工作：加快应对由AI加剧的威胁；随着人工智能技术能更有效地发现漏洞，加强关键系统；以及在行业内部共享信息，以便及早发现新的攻击方法。
该小组计划在2027年上半年发布一份包含实用建议和最佳实践的报告。新加坡资讯通信媒体发展局（IMDA）首席执行官Ng Chee Pong表示，前沿AI模型正在改变网络安全领域的游戏规则。他表示，仅测试单个人工智能应用程序无法控制部分风险。
特别是，FAIRS成员将研究加强网络和系统并对其进行分段的方法，以避免单个漏洞导致大规模中断。他们还将研究改进网络监测和应对因使用AI而更快发展的威胁的可能性。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
测试AI智能体
与此同时，IMDA发布了用于测试智能体式AI系统安全性和可靠性的首版入门工具包。与普通生成式系统不同，这类智能体可以代表用户行事、使用工具、访问外部系统和机密信息，并改变其环境。
该工具包规定了四个阶段：识别风险，包括错误或未经授权的行为；开发现实的测试；分析运行日志；以及持续监测和重新测试。IMDA建议评估智能体的整个工作过程——其行为、访问权限以及对授权的遵守情况——而非仅评估最终结果。
AI Verify基金会还公布了根据AI Tester Accreditation Programme获得认证的首批五家公司：AIDX Tech、Knovel Engineering、PwC Singapore、Resaro和Vulcan。该计划旨在帮助企业寻找独立专家，以测试生成式AI应用的安全性和可靠性。
