Naukowiec wymienił główne wyzwanie sztucznej inteligencji
Jednym z największych wyzwań w dziedzinie sztucznej inteligencji jest problem pogodzenia ludzkich celów z "rozumieniem" AI, powiedział Oleksii Molchanovskyy, kierownik programu magisterskiego w dziedzinie nauki o danych, zastępca dziekana Wydziału Nauk Stosowanych Ukraińskiego Uniwersytetu Katolickiego, przewodniczący eksperckiej komisji doradczej ds. rozwoju sztucznej inteligencji w Ukrainie przy Ministerstwie Transformacji Cyfrowej. "Ważnym obszarem w naszej branży jest problem dostosowania. Mówimy o dostosowaniu naszych celów jako jednostki, społeczeństwa lub całej ludzkości do "zrozumienia" systemów sztucznej inteligencji. Tak, aby ich zachowanie, osiąganie celów było zgodne z naszymi celami. Jest to duże wyzwanie. Możemy przypomnieć sobie trzy prawa robotyki Isaaca Asimova. Pierwsze prawo mówi, że robot nie powinien skrzywdzić człowieka. Kiedy wyznaczamy pewien cel i sztywno go opisujemy, nie zawsze jesteśmy w stanie przewidzieć wszystkie możliwe scenariusze w przyszłości, które mogą naruszyć ten cel. Lub odwrotnie - cel wydaje się być osiągnięty, ale wszystko idzie nie tak, jak chcieliśmy” “Istnieją obecnie badania sugerujące, że robot lub system nie powinien być z góry świadomy naszych celów i nie powinien wiedzieć, czego chcemy. Jedynym sposobem, w jaki uczą się o celach, jest obserwowanie nas. Wyobraź sobie robota, którego kupujesz, rozpakowujesz w domu i jest zerem. Zaczynasz go poznawać, a robot powoli zaczyna cię obserwować, aby zrozumieć, czego chcesz. Na przykład, lubisz pić kawę rano, a robot zaczyna to robić i w ten sposób dopasowuje się do swojego właściciela. I ktoś kupi tego samego robota, ale w innym kontekście kulturowym, będzie miał zupełnie inne czynniki”
Naukowiec zauważył, że badacze pracują obecnie nad rozwiązaniem tego problemu. Jedną z opcji jest nieujawnianie ostatecznych celów człowieka technologiom sztucznej inteligencji. Zamiast tego technologia powinna uczyć się o celach poprzez obserwację.
