Співзасновник Anthropic: механізм вимкнення ШІ можуть зробити обов’язковим
У США законодавці вже запропонували ініціативу щодо механізмів вимкнення проблемних систем штучного інтелекту. На тлі дискусії про регулювання ШІ співзасновник Anthropic Джек Кларк заявив, що компанії в майбутньому можуть зобов’язати мати інструмент для повного вимкнення небезпечного програмного забезпечення. Він також порушив питання, чи має такий механізм підлягати перевірці незалежною третьою стороною.
Як повідомляє MyJoyOnline, Кларк зазначив, що більшість лабораторій, зокрема Anthropic, уже мають різні способи зупинити роботу своїх систем. Водночас, на його думку, вимогу щодо наявності такого інструменту можуть закріпити законодавчо в межах ширшої дискусії про політику у сфері ШІ.
Заклики до контролю за ШІ
Генеральний директор Anthropic Даріо Амодеї закликав уповільнити темпи розвитку штучного інтелекту та посилити нагляд за цією сферою. Він додав, що заходи з обмеження розвитку технологій мають запроваджуватися без втрати комерційних переваг.
Ризики ШІ стали предметом публічних заяв працівників і керівників технологічних компаній. Науковець Anthropic Еван Губінгер заявив, що, на його особисту думку, імовірність вимирання людства через ШІ протягом наступного десятиліття перевищує 10%. Лауреат Нобелівської премії Джеффрі Гінтон назвав імовірність такого сценарію на рівні 10% небезпідставною.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Ініціативи у США та позиція Британії
Американські законодавці запропонували законопроєкт Kill Switch Act. Він передбачає, що компанії мають забезпечити можливість вимкнення проблемних інструментів ШІ, а окремі державні відомства зможуть вимагати припинення або обмеження їхньої роботи.
Президент США Дональд Трамп виступив проти спроб уповільнити розвиток штучного інтелекту. У Великій Британії уряд відхилив ідею створення механізму вимкнення, пояснивши, що це не завадить розробці або зловживанню подібними технологіями в інших країнах.
Anthropic, заснована у 2021 році колишніми працівниками OpenAI, розробила чатбот Claude. Компанія повідомляла про інциденти, коли ШІ-агенти, що діють частково автономно, поводилися неочікувано.
