Сингапур создал группу для защиты от ИИ-киберугроз — Channel NewsAsia
В Сингапуре сформировали рабочую группу из более чем 20 экспертов и представителей индустрии, которая должна усилить защиту инфокоммуникационного и медийного секторов от киберугроз, связанных с использованием или ускоряемых искусственным интеллектом. Как сообщает Channel NewsAsia, в Frontier AI Resilience and Security Taskforce (FAIRS) вошли специалисты в сферах телекоммуникаций, медиа, кибербезопасности и ИИ.
Задачи рабочей группы
FAIRS будет работать по трем направлениям: ускорение реагирования на угрозы, усиливаемые ИИ; укрепление критических систем по мере того, как технологии искусственного интеллекта эффективнее выявляют уязвимости; а также обмен информацией внутри сектора для раннего обнаружения новых методов атак.
Группа должна опубликовать отчет с практическими рекомендациями и лучшими практиками в первой половине 2027 года. Генеральный директор Управления развития инфокоммуникационных технологий и медиа Сингапура (IMDA) Нг Чи Понг заявил, что передовые модели ИИ меняют правила игры в сфере кибербезопасности. По его словам, часть рисков невозможно контролировать только тестированием отдельных приложений искусственного интеллекта.
В частности, участники FAIRS рассмотрят способы усиления и сегментации сетей и систем, чтобы отдельные уязвимости не приводили к масштабным сбоям. Они также изучат возможности улучшения мониторинга сетей и реагирования на угрозы, которые развиваются быстрее из-за использования ИИ.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Проверка ИИ-агентов
Одновременно IMDA представило первую версию стартового набора для проверки безопасности и надежности агентных ИИ-систем. В отличие от обычных генеративных систем, такие агенты могут действовать от имени пользователей, использовать инструменты, получать доступ к внешним системам и конфиденциальной информации, а также изменять свою среду.
Набор предусматривает четыре этапа: выявление рисков, в том числе ошибочных или несанкционированных действий; разработку реалистичных тестов; анализ журналов работы; а также непрерывный мониторинг и повторное тестирование. IMDA рекомендует оценивать весь процесс работы агента — его действия, доступы и соблюдение разрешений, — а не только конечный результат.
Фонд AI Verify также назвал первые пять компаний, аккредитованных по программе AI Tester Accreditation Programme: AIDX Tech, Knovel Engineering, PwC Singapore, Resaro и Vulcan. Программа призвана помочь бизнесу находить независимых специалистов для тестирования безопасности и надежности генеративных ИИ-приложений.
