Badacz Anthropic Coxon odszedł z firmy i ostrzegł przed ryzykiem AI — Asharq Al-Awsat
W Stanach Zjednoczonych 27-letni badacz Jacob Coxon w ubiegłym miesiącu odszedł z firmy Anthropic i ostrzegł, że spółki działające w dziedzinie sztucznej inteligencji narażają życie ludzi na ryzyko. Jego wpis wyświetlono ponad 100 mln razy. Kilka dni później dyrektor generalny Anthropic Dario Amodei opublikował obszerne eseje, w którym stwierdził, że rozwój AI należy spowolnić ze względu na rosnące ryzyko, informuje Asharq Al-Awsat.
Czym jest efektywny altruizm
Dyskusje na temat ryzyka związanego z AI są powiązane z ruchem efektywnego altruizmu, którego zwolennicy dążą do ustalenia za pomocą dowodów i racjonalnej analizy, jak najskuteczniej wykorzystać pieniądze i czas dla dobra społecznego. Intelektualne źródła ruchu wiąże się z australijskim filozofem Peterem Singerem. W 1972 roku przekonywał on, że ludzie powinni poświęcać zasoby i wygodę, aby ratować życie w innych krajach, ponieważ odległość nie powinna mieć znaczenia.
W 2007 roku finansiści Holden Karnofsky i Elie Hassenfeld założyli GiveWell — organizację analizującą skuteczność fundacji charytatywnych na podstawie danych. Dwa lata później filozofowie Uniwersytetu Oksfordzkiego William MacAskill i Toby Ord uruchomili Giving What We Can, wzywając do przekazywania co najmniej 10% dochodów na walkę z globalnym ubóstwem.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Związek z sektorem technologicznym
Wśród trzech kluczowych obszarów efektywnego altruizmu wymienia się globalne ubóstwo, zwierzęta na farmach przemysłowych oraz ryzyko globalnych katastrof. Ten ostatni obszar połączył ruch z debatami o potencjalnych zagrożeniach ze strony sztucznej inteligencji oraz ideami długoterminizmu — filozofii skoncentrowanej na przyszłości ludzkości.
Amodei twierdzi, że nie jest członkiem ruchu, jednak jego środowisko zawodowe i osobiste jest z nim ściśle związane. Karnofsky był wcześniej jego współlokatorem, a obecnie jest mężem siostry Amodeiego, Danieli, która wspólnie z nim założyła Anthropic. Wczesnym inwestorem Anthropic był Sam Bankman-Fried — zwolennik efektywnego altruizmu, skazany w 2024 roku na 25 lat więzienia za oszustwo.
Wielu przedstawicieli administracji prezydenta USA Donalda Trumpa uważa, że ruch podsyca bezpodstawne i przesadzone obawy dotyczące AI. Jednocześnie efektywny altruizm i powiązany z nim ruch racjonalizmu podkreślają ocenę prawdopodobieństw oraz zapobieganie ryzykom, które mogą doprowadzić do wyginięcia ludzkości.
