Професор із Кіпру попередив про залежність мислення від ШІ — Cyprus Mail
Професор штучного інтелекту Університету Неаполіс у Пафосі на Кіпрі Саввас А. Хаджихрістофіс заявив, що головна загроза від ШІ може полягати не в повстанні машин, а в поступовій втраті людьми впевненості у здатності мислити та ухвалювати рішення без алгоритмів. Про це він сказав Кіпрському інформаційному агентству, повідомляє Cyprus Mail.
Хаджихрістофіс, який також обіймає посаду віцеректора з досліджень та інновацій, назвав глибинною проблемою некритичну довіру до машин. На його думку, суспільство може дійти стану, коли не почуватиметься здатним ухвалювати рішення без консультації з ШІ.
Ризики концентрації технологій
Професор закликав серйозно ставитися до застережень дослідників, які залишили великі технологічні компанії. Він зазначив, що такі фахівці добре розуміють системи зсередини та бачать, як надзвичайно потужні інструменти швидко концентруються в руках невеликої кількості компаній.
Водночас Хаджихрістофіс наголосив, що заяви керівників компаній про безпеку ШІ не можна відокремлювати від їхніх комерційних інтересів. Він згадав пропозиції генерального директора Anthropic Даріо Амодеї щодо незалежного оцінювання моделей, спільних стандартів безпеки, перевірок перед випуском систем та обмежень для застосувань, пов'язаних із кібератаками або біологічною зброєю. Також професор зазначив, що глава OpenAI Сем Альтман виступав за продовження розвитку технологій за суворішого нагляду й повільніших темпів.
Більше актуальних новин читайте у Telegram-каналі UA.News.
На думку науковця, пауза в розвитку ШІ може посилити безпеку лише за наявності універсальних правил, прозорості та незалежного контролю. Якщо ж умови такої паузи визначатимуть нинішні лідери галузі, це здатне зміцнити їхнє домінування на ринку. Він пов'язав цей ризик із ситуацією, коли суб'єкти регулювання отримують вирішальний вплив на правила, що мають їх контролювати.
Освіта і людська відповідальність
Хаджихрістофіс також вказав на практичні небезпеки ШІ: автоматизовані кібератаки, зловмисне біологічне застосування, дезінформацію, масове стеження, дискримінацію під час найму чи кредитування, втрату робочих місць та системи озброєнь без достатнього людського контролю. Однак він закликав не зосереджуватися лише на сценаріях знищення людства, адже негативний вплив, за його оцінкою, вже може проявлятися в освіті, праці, демократії та щоденному ухваленні рішень.
Першою відповіддю на ці виклики професор назвав освіту. Діти, на його переконання, мають розуміти, як формується відповідь ШІ, як перевіряти джерела, розпізнавати невизначеність, хто добирає дані та кому вигідне автоматизоване рішення. Він також наголосив на необхідності зберегти в освіті критичне мислення, уяву, пам'ять, емпатію, діалог, етичне судження та відповідальність.
На інституційному рівні Хаджихрістофіс запропонував незалежний нагляд за найпотужнішими моделями, обов'язкове повідомлення про серйозні інциденти, доступ регуляторів і незалежних дослідників до потрібної інформації, чітку людську відповідальність за рішення високого ризику та дієві санкції. Він додав, що Закон ЄС про штучний інтелект може обмежити неконтрольований вплив корпорацій за умови незалежного, прозорого та належно забезпеченого виконання.
