Бхаскар Чакраворті запропонував Anthropic подати заяву про суспільні ризики ШІ — Fortune
У США автор Fortune Бхаскар Чакраворті запропонував компанії Anthropic разом із документами щодо IPO оприлюднювати окрему заяву про суспільні ризики її продуктів на основі штучного інтелекту. На його думку, документи Anthropic щодо IPO докладно описують загрози для інвесторів, однак значно менше уваги приділяють можливим наслідкам для людей, які не є акціонерами компанії.
Ризики для інвесторів і суспільства
За даними автора, розділ про ризики в поданні Anthropic налічує 69 800 слів — приблизно 30% усього документа обсягом 240 000 слів. У ньому згадано, зокрема, катастрофічні ризики, витіснення працівників, неконтрольованих автономних агентів і концентрацію впливу в індустрії. Водночас ці проблеми переважно описані як потенційні витрати для самої Anthropic та її акціонерів.
Чакраворті пропонує запровадити Public Risk Statement — заяву, яка б пояснювала, як використовують продукти компанії, хто може зазнати шкоди, хто відповідає за наслідки та якими способами постраждалі можуть домагатися відшкодування. Він зазначив, що Anthropic зареєстрована в Делавері як корпорація суспільної користі та має поєднувати фінансові інтереси акціонерів із користю для широкої громадськості.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Нагляд за ШІ та можливі компенсації
Автор вважає, що окремого розкриття потребують ризики надмірної залежності працівників від ШІ та втрати професійних навичок. Він зазначає, що в документах Anthropic надмірну довіру до систем ШІ згадано лише раз, тоді як про втрату навичок не йдеться. На його думку, компанії мають пояснювати, хто перевіряє рішення ШІ та чи має достатньо часу, даних і повноважень, щоб їх скасувати.
Як приклади витрат через помилки алгоритмів Чакраворті навів виплату містом Детройт 300 тисяч доларів Роберту Вільямсу після неправомірного арешту через хибне зіставлення системою розпізнавання облич. Також він згадав мирову угоду сервісу перевірки орендарів SafeRent на 2,275 млн доларів у справі про дискримінаційний відбір та угоду Anthropic на 1,5 млрд доларів щодо компенсацій авторам і видавцям через піратські книги.
За оцінкою автора, приблизно у чотирьох із п’яти зі 103 задокументованих випадків шкоди від ШІ вже діяли закони, які могли бути застосовані. Він також послався на дані Transparency Coalition, згідно з якими законодавці 30 штатів США ухвалили 115 законів, пов’язаних зі штучним інтелектом, що майже на 58% більше, ніж роком раніше.
