Бхаскар Чакраворти предложил Anthropic подать заявление об общественных рисках ИИ — Fortune
В США автор Fortune Бхаскар Чакраворти предложил компании Anthropic публиковать вместе с документами об IPO отдельное заявление об общественных рисках ее продуктов на основе искусственного интеллекта. По его мнению, документы Anthropic об IPO подробно описывают угрозы для инвесторов, однако значительно меньше внимания уделяют возможным последствиям для людей, не являющихся акционерами компании.
Риски для инвесторов и общества
По данным автора, раздел о рисках в подаче Anthropic насчитывает 69 800 слов — примерно 30% всего документа объемом 240 000 слов. В нем упоминаются, в частности, катастрофические риски, вытеснение работников, неконтролируемые автономные агенты и концентрация влияния в индустрии. В то же время эти проблемы преимущественно описываются как потенциальные издержки для самой Anthropic и ее акционеров.
Чакраворти предлагает ввести Public Risk Statement — заявление, которое объясняло бы, как используются продукты компании, кому может быть причинен вред, кто отвечает за последствия и какими способами пострадавшие могут добиваться компенсации. Он отметил, что Anthropic зарегистрирована в Делавэре как корпорация общественной пользы и должна сочетать финансовые интересы акционеров с пользой для широкой общественности.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Надзор за ИИ и возможные компенсации
Автор считает, что отдельного раскрытия требуют риски чрезмерной зависимости работников от ИИ и утраты профессиональных навыков. Он отмечает, что в документах Anthropic чрезмерное доверие к системам ИИ упоминается лишь один раз, тогда как об утрате навыков речи не идет. По его мнению, компании должны объяснять, кто проверяет решения ИИ и располагает ли он достаточным временем, данными и полномочиями, чтобы их отменить.
В качестве примеров издержек из-за ошибок алгоритмов Чакраворти привел выплату городом Детройтом 300 тысяч долларов Роберту Уильямсу после неправомерного ареста вследствие ложного совпадения в системе распознавания лиц. Он также упомянул мировое соглашение сервиса проверки арендаторов SafeRent на 2,275 млн долларов по делу о дискриминационном отборе и соглашение Anthropic на 1,5 млрд долларов о компенсациях авторам и издателям из-за пиратских книг.
По оценке автора, примерно в четырех из пяти из 103 задокументированных случаев вреда от ИИ уже действовали законы, которые могли быть применены. Он также сослался на данные Transparency Coalition, согласно которым законодатели 30 штатов США приняли 115 законов, связанных с искусственным интеллектом, что почти на 58% больше, чем годом ранее.
