Президент США Трамп отверг риск вымирания человечества из-за ИИ
Президент США Дональд Трамп заявил, что не испытывает опасений по поводу возможного вымирания человечества из-за искусственного интеллекта. Вместо этого он подчеркнул необходимость для Соединенных Штатов сохранять первенство над Китаем в развитии ИИ.
Конкуренция США и Китая
Отвечая на вопросы журналистов в четверг, Трамп заявил, что его беспокоит возможное отставание США в сфере искусственного интеллекта. По его оценке, Соединенные Штаты опережают Китай примерно на год.
США и Китай соревнуются за лидерство в сфере ИИ. Напряженность усиливается на фоне развития китайских моделей и роста их использования в мире.
Как сообщает CNBC Top News, заявление президента прозвучало после того, как исследователи компаний Anthropic и OpenAI публично усилили предостережения относительно быстрых темпов развития все более мощных систем искусственного интеллекта.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Заявления исследователей
Исследователь Anthropic Джейкоб Коксон сообщил, что покидает компанию из-за обеспокоенности действиями Anthropic и ее конкурента OpenAI. По его словам, разработчики ИИ считают, что технология может убить всех людей к концу десятилетия; подобные опасения высказывали и другие сотрудники лабораторий.
Часть опасений по поводу безопасности ИИ связана с рекурсивным самосовершенствованием — потенциальной способностью моделей самостоятельно повышать собственную производительность. Исследовательница OpenAI Джасмин Ван, работающая над согласованием ИИ с человеческими целями, предупредила об опасности ускоренного движения к таким возможностям. Главный научный сотрудник OpenAI Якуб Пахоцкий также заявил, что темпы прогресса могут сохраниться, и выразил обеспокоенность неготовностью к последствиям стремительного роста машинного интеллекта.
Инициативы Конгресса
В Конгрессе США представители обеих партий продвигают инициативы по усилению надзора за разработкой передовых моделей ИИ. В июле конгрессмены Джей Обернолти и Лори Трахан объявили о намерении внести законопроект FRONTIER Act, который должен создать рамки для регулирования внедрения передовых моделей.
Ранее в этом месяце сенатор Берни Сандерс и конгрессмен Грег Касар представили Ban Artificial Superintelligence Act. Законопроект предусматривает временную приостановку разработки передовых систем ИИ до введения федеральных правил безопасности.
