Исследователь Anthropic Коксон уволился и предупредил о рисках ИИ — Asharq Al-Awsat
В США 27-летний исследователь Джейкоб Коксон в прошлом месяце уволился из компании Anthropic и предупредил, что компании в сфере искусственного интеллекта рискуют жизнями людей. Его публикацию просмотрели более 100 млн раз. Через несколько дней генеральный директор Anthropic Дарио Амодеи опубликовал развернутое эссе, в котором заявил, что из-за роста рисков развитие ИИ следует замедлить, сообщает Asharq Al-Awsat.
Что такое эффективный альтруизм
Дискуссии о рисках ИИ связаны с движением эффективного альтруизма, сторонники которого стремятся с помощью доказательств и рационального анализа определить, как наиболее эффективно использовать деньги и время ради общественной пользы. Интеллектуальные истоки движения связывают с австралийским философом Питером Сингером. В 1972 году он отстаивал мнение, что люди должны жертвовать ресурсы и комфорт, чтобы спасать жизни в других странах, поскольку расстояние не должно иметь значения.
В 2007 году финансисты Холден Карновски и Эли Хассенфельд основали GiveWell — организацию, которая анализирует эффективность благотворительных фондов на основе данных. Через два года философы Оксфордского университета Уильям Макаскилл и Тоби Орд создали Giving What We Can, призывая жертвовать не менее 10% дохода на борьбу с глобальной бедностью.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Связь с технологическим сектором
Среди трех ключевых направлений эффективного альтруизма называют глобальную бедность, животных на промышленных фермах и риск глобальных катастроф. Последнее направление связало движение с дебатами о потенциальных угрозах со стороны искусственного интеллекта и идеями долгосрочности — философии, сосредоточенной на будущем человечества.
Амодеи заявляет, что не является участником движения, однако его профессиональный и личный круг тесно с ним связан. Карновски ранее был его соседом по комнате, а сейчас женат на сестре Амодеи Даниэле, которая вместе с ним основала Anthropic. Ранним инвестором Anthropic был Сэм Бэнкман-Фрид — сторонник эффективного альтруизма, которого в 2024 году приговорили к 25 годам лишения свободы за мошенничество.
Многие представители администрации президента США Дональда Трампа считают, что движение подпитывает необоснованные и преувеличенные опасения по поводу ИИ. В то же время эффективный альтруизм и родственное ему движение рационализма подчеркивают оценку вероятностей и предотвращение рисков, которые могут привести к исчезновению человечества.
