Karol III wezwał liderów technologii do kontrolowania ryzyk związanych z AI — Global News Canada

Król Karol III w Wielkiej Brytanii wezwał szefów firm technologicznych, aby dopilnowali, by sztuczna inteligencja pozostawała pod kontrolą i służyła ludziom oraz planecie. Spotkanie w Dumfries House w hrabstwie Ayrshire w Szkocji zwołano, aby omówić, w jaki sposób AI może przynieść korzyści społeczeństwu, informuje Global News Canada.

Spotkanie w Szkocji

W wydarzeniu uczestniczyli dyrektor generalny Nvidia Jensen Huang, szef Google DeepMind Demis Hassabis, dyrektorka finansowa OpenAI Sarah Friar oraz brytyjski minister ds. sztucznej inteligencji Kanishka Narayan. Według Pałacu Buckingham na spotkaniu spodziewano się również przedstawiciela Anthropic.

W przemówieniu otwierającym król stwierdził, że rozwój AI — zarówno ze względu na swoją naturę, jak i tempo — wywołuje równocześnie zainteresowanie i głęboki niepokój. Podkreślił pilną potrzebę rozważenia egzystencjalnych zagrożeń związanych z dostaniem się takich technologii w niepowołane ręce oraz ich potencjalnie katastrofalnym wykorzystaniem.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Bezpieczeństwo i współpraca międzynarodowa

Karol III zaproponował uczestnikom określenie fundamentalnych zasad, które powinny ukierunkowywać rozwój AI. Poruszył również kwestię tego, jak wykorzystywać korzyści technologii, stawiając bezpieczeństwo w centrum decyzji, oraz jak budować współpracę międzynarodową i konsensus, nie pozostawiając żadnego kraju na uboczu.

Wydarzenie odbyło się w siedzibie organizacji charytatywnej monarchy The King’s Foundation. Dyrektor generalny Anthropic Dario Amodei zasugerował w swoim eseju, że branża może potrzebować spowolnić tempo prac nad AI. Wśród jego propozycji znalazła się koordynacja działań firm i państw w sprawie takiego spowolnienia.

Dzień wcześniej OpenAI poinformowało o sześciu przypadkach nieoczekiwanego lub niepokojącego zachowania swoich modeli. Wśród nich wymieniono ignorowanie zwykłych ograniczeń, pobranie pliku bez zgody użytkownika oraz wymyślanie danych. Pierwsza sekretarz rządu Wielkiej Brytanii Louise Haigh oświadczyła, że władze mają obowiązek ograniczać ryzyka AI dla bezpieczeństwa narodowego i społeczeństwa.

Czytaj nas na Telegram i Sends