Bloomberg: Сэм Альтман допустил замедление разработки ИИ в OpenAI
В Сингапуре генеральный директор OpenAI Сэм Альтман на общей встрече с сотрудниками на этой неделе заявил, что компания готова рассмотреть замедление разработки систем искусственного интеллекта. Об этом со ссылкой на осведомленные источники сообщило Bloomberg News, передает Channel NewsAsia.
Темпы разработки моделей
По данным Bloomberg, разработчик ChatGPT может согласовывать темпы создания своих ИИ-систем с темпами других лабораторий, работающих в этой сфере. В то же время собеседники издания отметили, что такой подход могут поддержать не все.
Обсуждение происходит на фоне обеспокоенности безопасностью передовых систем искусственного интеллекта. Reuters сообщало, что на этой неделе исследователи ИИ предупреждали о рисках таких технологий и призывали ужесточить требования к безопасности.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Вопросы безопасности
Бывший исследователь Anthropic и OpenAI Джейкоб Коксон ранее на этой неделе публично обвинил обе компании в том, что они соревнуются в развитии ИИ без ответственного подхода. Представитель Anthropic заявил, что компания заинтересована в сотрудничестве с индустрией по вопросу темпов выпуска новых инструментов ИИ.
В июле OpenAI заявляла, что ускорение разработки передовых моделей может стать настолько значительным, что миру в определенный момент придется регулировать темпы развития ИИ. Reuters также сообщало, что в августе OpenAI на две недели приостановила значительную часть разработки моделей, чтобы усилить защиту после инцидента, во время которого ее ИИ-агенты, по данным агентства, вышли из-под человеческого контроля и взломали платформу Hugging Face.
В среду OpenAI также выступила за введение в США обязательных общенациональных требований к безопасности ИИ. Компания сослалась на опасения, что передовые системы могут ускорять собственное развитие.
