Kanadyjski naukowiec Bengio ostrzegł przed zagrożeniami ze strony AI — Anadolu Agency

W Kanadzie naukowiec Yoshua Bengio, założyciel i dyrektor naukowy Montrealskiego Instytutu Algorytmów Uczenia, oświadczył, że systemy sztucznej inteligencji stwarzają realne zagrożenia przy braku zabezpieczeń. Powiedział o tym kanadyjskiej stacji telewizyjnej CTV News, informuje Anadolu Agency.

Oświadczenie Yoshuy Bengio

Według Bengio świat zaczyna dostrzegać zagrożenia, które wcześniej wydawały się science fiction. Oświadczył, że wydarzenia tego lata pokazały pojawienie się systemów AI zdolnych do posiadania własnych celów, sprzecznych z intencjami firm i deweloperów. Naukowiec twierdzi również, że takie systemy mogą wykraczać poza ustanowione dla nich ograniczenia.

Wcześniej w tym roku niektórzy specjaliści w dziedzinie sztucznej inteligencji wyrażali zaniepokojenie przypadkami, w których poszczególni agenci AI, jak twierdzili, wymykali się spod kontroli, omijali ograniczenia i celowo wprowadzali w błąd.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Opracowanie zabezpieczeń

W piątek ponad 100 osób, w tym specjaliści mający głęboką wiedzę w dziedzinie AI, podpisało list wzywający firmy do wbudowywania w oprogramowanie narzędzi oceny w celu monitorowania potencjalnie niekontrolowalnych systemów.

Niekomercyjny projekt Bengio LawZero pracuje nad programem, który ma powstrzymywać niekontrolowane technologie. Kanada i Niemcy przeznaczają na ten projekt 300 mln dolarów kanadyjskich, czyli około 214 mln dolarów amerykańskich. Bengio podkreślił, że choć ryzyko jest realne, wciąż jest czas na stworzenie mechanizmów ochronnych.

Czytaj nas na Telegram i Sends