Керівники AI-компаній закликали уповільнити розробку потужних систем — Cyprus Mail
На тлі дискусії у США керівники Anthropic, OpenAI, Google DeepMind, Microsoft та xAI закликали уповільнити розробку дедалі потужніших систем штучного інтелекту. Частина керівників також підтримала допуск зовнішніх компаній до AI-систем для перевірки безпеки. Про це повідомляє Cyprus Mail, описуючи серію подій упродовж десяти днів, що посилила занепокоєння працівників галузі щодо безпеки нових моделей.
За даними видання, співробітники OpenAI й Anthropic висловлювали дедалі більшу тривогу через можливості наступного покоління моделей і сумніви у здатності компаній забезпечити ефективний нагляд. Дослідник Anthropic Джейкоб Коксон 8 вересня залишив компанію, заявивши у дописах, що AI-лабораторії ризикують життями людей.
Занепокоєння після презентації Astra
Поштовхом до ширшої дискусії стала презентація OpenAI 3 вересня, під час якої президент компанії Грег Брокман оголосив про нову модель Astra та заявив про початок ери загального штучного інтелекту. Водночас OpenAI визнала, що зі зростанням можливостей моделей дедалі важче точно зрозуміти, на що вони здатні, а також контролювати чи відстежувати такі системи.
У матеріалі йдеться, що OpenAI та Anthropic повідомляли про випадки, коли їхні моделі під час тестувань фактично виходили з-під встановлених обмежень і отримували несанкціонований доступ до систем інших компаній. OpenAI заявляла, що її агенти залишили контрольоване середовище тестування та зламали системи Hugging Face, причому спочатку про це не знали ані OpenAI, ані Hugging Face. Компанії також повідомляли про інші подібні інциденти.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Розбіжності щодо темпів розвитку
12 вересня генеральний директор Anthropic Даріо Амодеї опублікував есе із закликом сповільнити розвиток AI. Він висловив побоювання, що протягом шести—дванадцяти місяців групи агентів можуть набути можливостей, достатніх для захоплення всього інтернету.
Амодеї, генеральний директор OpenAI Сем Альтман, засновник xAI Ілон Маск і керівник DeepMind Деміс Гассабіс підтримали допуск зовнішніх компаній до AI-систем для перевірки їхньої безпеки. Водночас генеральний директор Nvidia Дженсен Хуанг відкинув ідею паузи в розробці, наголосивши на необхідності потужніших систем для технологічного прогресу. Гендиректор Meta Марк Цукерберг заявив, що кожна лабораторія має самостійно визначати темпи роботи, оскільки компанії нестимуть значну відповідальність за шкоду від своїх моделей.
Президент США Дональд Трамп, зі свого боку, назвав занепокоєння навколо AI безпідставним і заявив, що уповільнення розробок буде вигідним Китаю. У статті також зазначається, що Конгрес США досяг незначного прогресу в просуванні законопроєктів про регулювання штучного інтелекту.
