Разработчики Claude призвали замедлить развитие ИИ
Компания Anthropic, создавшая модель ИИ Claude, призвала отрасль искусственного интеллекта замедлить темпы развития из-за риска потери контроля над технологиями. В компании предупреждают, что ИИ может обрести способность самостоятельно создавать свои последующие версии.
Разработчики одной из самых известных моделей искусственного интеллекта Claude, компания Anthropic, публично заявили, что мировой индустрии стоит притормозить темпы развития ИИ, чтобы человечество успело адаптироваться к новым технологическим рискам и не утратило контроль над системами, которые становятся все более мощными.
В компании объясняют, что искусственный интеллект уже сегодня активно берет на себя все более сложные задачи, и его роль в работе разработчиков постоянно растет. В частности, отмечается, что модель Claude уже сейчас пишет более 80% программного кода компании, тогда как до запуска инструмента Claude Code в начале 2025 года этот показатель был значительно ниже.
Специалисты предупреждают, что следующим этапом развития может стать ситуация, когда искусственный интеллект получит способность самостоятельно проектировать и создавать новые версии самого себя. В компании это явление называют рекурсивным самосовершенствованием и признают, что оно может как ускорить технологический прогресс, так и создать серьезные угрозы. «Полное рекурсивное самосовершенствование может увеличить риски потери людьми контроля над системами ИИ. Если системы способны полностью создавать своих преемников, то способы их защиты, мониторинга и формирования поведения становятся гораздо важнее», — предупреждают в Anthropic.
В компании отмечают, что без общих международных правил развития ситуация может выйти на уровень конкурентного давления между компаниями и государствами, когда безопасность уйдет на второй план. Именно поэтому там призывают к более осторожному подходу и возможному временному замедлению разработки передовых моделей.
«Без глобального механизма координации компаниям и правительствам придется принимать сложные решения по безопасности, находясь под конкурентным и геополитическим давлением. Мы считаем, что для мира было бы хорошо иметь возможность замедлить или временно приостановить развитие передового искусственного интеллекта, чтобы позволить общественным структурам успевать за развитием технологии», — говорится в заявлении разработчиков Claude.
Таким образом, одна из ведущих компаний в сфере ИИ впервые прямо заявляет о необходимости замедления темпов развития технологий, которые еще вчера считались главным двигателем будущего, но сегодня уже вызывают вопросы относительно безопасности и контроля. Об этом сообщают в самой компании Anthropic.
Американская технологическая компания Apple удалила российский мессенджер Max из своего магазина приложений App Store. Отныне приложение недоступно для загрузки пользователями устройств Apple. Причины такого решения официально не сообщаются. Ранее мессенджер Max позиционировался как один из российских цифровых сервисов для обмена сообщениями и коммуникации между пользователями.
Apple готовит смарт-очки к выходу на рынок к 2027 году — Bloomberg.
Напомним, в Южной Корее арестовали ютубера за фейковоеаудио с ИИ.
Функция «Обзор ИИ» от Google выдает миллионы ошибочных ответов каждый час — NYT.
Напомним, Япония массово заменяет людей роботами из-за демографического кризиса.
Также в Gemini появится мониторинг психического здоровья после судебных исков.
