Загрози штучного інтелекту: фантастика чи реальність. Інтерв’ю з головою комітету з розвитку ШІ в Україні Олексієм Молчановським

01 Серпня 2023 16:55

Про загрози штучного інтелекту, світові практики регулювання і контролю застосування цієї технології, а також можливості регулювання ШІ в Україні - в інтерв’ю UA.NEWS розповідає Олексій Молчановський, керівник магістерської програми науки про дані, заступник декана факультету прикладних наук Українського католицького університету, голова експертно-консультаційного комітету з розвитку штучного інтелекту в Україні при Міністерстві цифрової трансформації, а також спікер iForum у Києві 10 серпня.

Олексій Молчановський
Керівник магістерської програми науки про дані, заступник декана факультету прикладних наук УКУ, голова комітету з розвитку штучного інтелекту в Україні

Які сьогодні існують етичні дилеми навколо штучного інтелекту? Які побоювання щодо ШІ реальні, а які з - із галузі фантастики?

Олексій Молчановський: Є найбільша дилема, чи штучний інтелект знищить людство. Чи ми хочемо про це поговорити? (Сміється).

Серед фахівців, які займаються ШІ, є цілий спектр поглядів. Можна знайти таких, хто вважає, що це є значна загроза. Є ті, хто вважають, що ніякої загрози від технології, від математики немає, і усе залежить від того, як люди використовують ШІ. Яскравий приклад - ядерна фізика. Вивчення ядерної фізики, відкриття цих законів дозволили нам створити атомну бомбу і атомні реактори. Від одного ми отримуємо знищення, від іншого - електрику і тепло в наших будинках.

Але технологія ШІ потужна - ніхто з цим не сперечається.

Я стою на позиції, що треба оцінювати, як саме використовується технологія. Той же діпфейк можна використати як для маніпуляцій, так і в кінематографі - коли оживають актори, які померли, або поточних акторів омолоджують, тощо.

Якщо реалістично говорити про різні сценарії, то сценарій описаний у “Матриці” або в “Термінаторі” - це фантастичний сценарій. Автономні роботи, які ходять і знищують людство, захопили і тому подібне - це фантастика.

Є цікаве питання, а чому ви вирішили, що штучний інтелект захоче знищити людство? Це люди мають бажання захоплювати інших. Але зовсім не обов'язково, що штучний інтелект буде зацікавлений це робити, що у нього взагалі виникне така ціль.

Ми зараз виносимо за дужки термін свідомість, жодного разу не згадавши його у нашій розмові - і це правильно. Тому що ми самі до кінця не знаємо, що таке свідомість. І наділяти такою свідомістю ці системи - це надто сильний аргумент, поки що зарано про таке говорити.

Плюс оці розуміння і моделі світу - один із важливих факторів. Поки що ці системи не здатні розуміти. Можливо, поступово вони навчаться це робити. Ми не знаємо, через скільки років це буде. Наприклад та ж поява робота гуманоїдного типу, який буде з вами ходити і допомагати. Не того робота, який пилососить вашу хату, а такого, який буде вашим асистентом і розумітиме ваші запити. Коли це з’явиться? Важко сказати, бо багато питань не тільки по штучному інтелекту, а і по інженерії, робототехніці. Навіть питання батареї, наскільки він довго буде працювати, щоб був достатньо великим.

Важливий напрямок в нашій галузі - alignment problem - або проблема узгодження. І мова йде про узгодження наших цілей як окремої людини або суспільства, або цілого людства із “розумінням” систем штучного інтелекту. Щоб їхня поведінка, їхнє досягнення цілі було узгоджено із нашими цілями. І тут є великий виклик.

Ми можемо згадати три закони робототехніки Айзека Азімова. Перший закон - робот не повинен зашкодити людині. Виставляючи певну ціль, жорстко її описуючи, ми не завжди можемо передбачити усі можливі сценарії в майбутньому, які можуть порушувати цю ціль. Або навпаки - ціль ніби дотримується, але все йде шкереберть, не так, як ми хотіли.

Тому зараз є дослідження, які пропонують, щоб робот або система наперед не були обізнані у наших цілях і не знали, чого ми хочемо. А єдиний спосіб, як вони дізнаються про цілі - спостерігають за нами. Уявіть собі робота, якого ви купуєте, розпаковуєте вдома і він нульовий. Ви починаєте з ним знайомитися і робот потихеньку починає за вами спостерігати, щоб зрозуміти, що ви хочете. Наприклад, ви любите зранку пити каву, і робот починає це робити і таким чином узгоджується з його власником. А хтось купить такого самого робота, але в іншому культурному контексті в нього будуть абсолютно інші фактори.

Якщо міркувати таким чином, то ми проблему викликів використання цих інструментів опускаємо на проблеми, які людство і так намагається розв'язувати - порозуміння між різними культурами, спільнотами.

Навіть якщо брати систему GPT. Виникає питання, чи нам потрібно щось таке українське, чи ми хочемо такий сервіс, але розроблений українцями? Тому що наявна система навчена на текстах, яку розробники OpenAI підібрали для неї. Ця система бачила українські тексти і вона обізнана про український контекст. Але в одному джерелі вказувалось, що українських текстів там в 10 разів менше, ніж російських. І це питання безпеки. Тому не виключено, що в майбутньому, за 5-10 років, кожна країна може мати свою модель, яка буде допомагати громадянам цієї країни.

Технологія одна і та сама, але її впровадження в різних країнах (навіть в одній країні, але в різних спільнотах) буде по-різному відбуватися, щоб узгоджуватися з цінностями, потребами всіх окремих спільнот.

У дитинстві я гадала, що в майбутньому людей не будуть залучати до бойових дій безпосередньо, а будуть використовуватись роботи… У якій перспективі можуть створити роботів-гуманоїдів, які використовуватимуть штучний інтелект, і будуть максимально близькі за своїми здібностями до людини, в тому числі фізичними? У яких сферах можуть застосовуватись такі роботи?

Олексій Молчановський: Я не дуже вірю прогнозам, ніби зовсім скоро будуть створені роботи, подібні до людського тіла і з наближеними до людини когнітивними можливостями. Намагаюсь песимістично на них дивитись. Тому що у часи вибуху інтересу до цієї сфери, нам хочеться вважати, що це дуже близько. Але якщо взяти приклад, який ви навели, то навіть за ваше життя не справдились подібні очікування.

Я думаю, що це займе десятки років, якщо не 50+ років. Не факт, що я побачу таких роботів за свого життя, можливо, мої діти побачать. А, можливо, я суттєво помиляюсь, і ми маємо таку технологію десь за рогом, просто вона ще малодоступна і за 10 років ми вже будемо мати таких роботів. У такі буремні часи, коли усе так швидко розвиваються, дуже важко робити відповідні оцінки.

Один нейронауковець із Інституту Аллена (Allen Institute for Neuroscience) сказав, що нам ще 100 років до того, щоб зрозуміти, як працює мозок. Так, ми вже багато знаємо, але насправді - це дуже мало порівняно з тим, скільки там ще дізнаватися.

Якщо уявити, що такі роботи з'являться і вони будуть такі як люди за здібностями, то немає обмежень, де вони можуть використовуватись.

Єдине обмеження, яке виникає - економічне. Це можна яскраво продемонструвати на прикладі нашої війни. Ми бачимо, що росіянам куди дешевше суто економічно притягнути в'язнів і гнати штурмами на наших військових, тому що це дешево. Якщо у вас буде робот, який коштує кілька мільйонів доларів, то постане питання, а чи захочете його використовувати у таких умовах? Я припускаю, що ці роботи не будуть дешевими, тому вони будуть використовуватися в якихось особливих ситуаціях.

Можливо, з’являться універсальні роботи, з яким можна поговорити, він може виконувати якісь завдання. Але, швидше за все, ми підемо у нішеві напрямки. Десь нам буде потрібен робот, який вміє ходити, у якого 6 рук, а десь - робот, якому взагалі не потрібно ходити, він по кімнаті переміщується на колесах або літає.

Тобто від роботів нам потрібний функціонал у першу чергу. А те, що він виглядає як людина, може нам взагалі не знадобитись. Може, ми і не захочемо цього, а забажаємо зберігати унікальність людського тіла. Бо з одного боку є великий інтерес до всього генеративного, генерованого, штучного. І противага цьому - усе людське. Коли люди починають більше цінувати цю теплоту людського прямого спілкування на противагу всьому штучно-згенерованому. Можливо ми тоді вирішимо, що “Ні стоп, ми не хочемо мати роботів, які схожі на нас”.

Регулювання штучного інтелекту і його контроль. Які існують тенденції в цьому напрямку?

Олексій Молчановський: Регулювання і контроль - дуже важлива проблема, і дії урядів в цьому напрямку демонструють, що технологія вийшла за межі лабораторій та розваг.

Першість з точки зору введення регуляторки займає Євросоюз. Закон, який називається AI Act, у ЄС ще не прийнятий, тільки завершили його написання. Як законопроект має прийматися або восени, або наступної весни. Цей закон буде продовжувати історію, пов'язану з роботою з даними, персональними даними, тощо.

У США і Британії підхід трошки інший - на основі англійського права, яке передбачає більш рамкову історію. У вас є якісь загальні принципи, а всередині загальних принципів, якщо і виникають якісь випадки, то вони розглядаються, і таким чином формуються правове тіло.

Якщо говорити про права штучного інтелекту, то перше право, про яке можна говорити - це авторське право. Чи можна ШІ-системі дати авторське право? Але якщо ми даємо авторське право, це означає, що ми визнаємо суб'єктність. А якщо ми визнаємо суб'єктність, то десь на цьому спектрі у майбутньому може виникнути ситуація, коли ми будемо мати роботів, яких не зможемо вимкнути, тому що вони мають право на існування. Постає питання, чи готові ми давати авторські права штучному інтелекту?

І ми вже маємо такі кейси. Кілька років тому був створений патент на виріб, який був розроблений за допомогою штучного інтелекту. Було згенеровано певний об'єкт і описаний патент. Але в США цю заявку не затвердили, патент не видали. Тому що в американців ясно прописано в законодавстві, що автором патенту може бути тільки жива людина. Утім, такий патент видали, здається, в ПАР. На цьому прикладі ми бачимо відмінності між країнами, різні юриспруденції, де по різному будуть трактувати регулювання ШІ.

Інша історія - обмеження для ШІ. Наприклад, Китай теж намагається регулювати ШІ. Але для нього важливо, щоб генеративні моделі штучного інтелекту були узгоджені з цінностями комуністичної партії. На демократичному Заході ж є свої вимоги - там декларують, що ці технології мають бути узгоджені з демократичними цінностями. Це означає, що тексти або зображення, які суперечать певним цінностям, не можуть бути включені в той набір даних, на яких буде тренуватися ШІ в конкретній юрисдикції.

У напрацюванні регуляторної бази нині попереду Європейський Союз, тому інші країни будуть підлаштовуватись. Адже ЄС - це в першу чергу значний ринок, де компаніям цікаво бути присутнім, тому вони будуть до правил дослухатись. ЄС, у свою чергу, зацікавлений у ШІ, вони не можуть просто взяти і вимкнути доступ своїм громадянам до цих технологій. Бо у такому випадку Європа буде неконкурентноздатна з тою ж Північною Америкою. Тому європейські бюрократи зацікавлені у тому, щоб підтягнути компанії, які працюють із ШІ, до своїх стандартів.

Чи повинна Україна приймати власні закони щодо ШІ?

Олексій Молчановський: Одна із цілей нашого Комітету з розвитку сфери штучного інтелекту - з'ясувати, що має бути в Україні.

Один сценарій - написати свій закон про штучний інтелект, керуючись думкою про те, що ми рухаємося в Європейський Союз. І відповідно варто узгодити це.

Інший варіант - почекати, витримати паузу. І ухвалити якесь рамкове концептуальне законодавство: що ми визнаємо важливість таких технологій, і підкреслити ключові аспекти (наприклад,безпека персональних даних). Але не заходити у загрози чи градації цих загроз, як це у ЄС (де заборонено, де дозволено, де повністю зелене світло). Тому що ми зараз можемо бути неспроможні це оцінювати - для цього потрібні додаткові ресурси.

Ще один варіант - просто запозичити. Наприклад, якщо в ЄС щось приймається, то ми автоматично теж це схвалюємо.

Україна зараз знаходиться на самій ранній стадії у цьому питанні. Тому ми плануємо створити дискусійний майданчик, присвячений питанням регулювання штучного інтелекту в Україні і будемо поступово про це говорити.

В ООН пропонували створити міжнародний орган, який би регулював штучний інтелект, як МАГАТЕ. Чи потрібно це і в якій перспективі може бути утворений такий орган?

Олексій Молчановський: Як громадянин України, я не дуже вірю у потугу ООН і створення якогось дієвого механізму. Максимум, що вони можуть зробити - це дискусійний майданчик, який буде обмінюватися думками і до якого можуть прислуховуватися, а можуть не прислуховуватись.

Тут мені більше подобається те, що робить ОБСЄ. Вони вже кілька років рухаються в цьому напрямку, ведуть дискусії щодо штучного інтелекту, надають свої рекомендації. І у цьому беруть участь найбільш розвинуті країни світу, вони є тими, хто продукує штучний інтелект, і хто його в першу чергу використовує. Тому я би напевно дивився на них, аніж на ООН.

Розкажіть, про що буде ваша доповідь на iForum, поділіться якимись інсайдами?

Олексій Молчановський: На iForum я прийматиму участь у двох активностях.

Перше - презентую доповідь про штучний інтелект. Будемо говорити про поточну ситуацію навколо штучного інтелекту, майбутнє галузі і куди вона буде рухатись. Торкнемось питань, які зачепили і у цьому інтерв’ю. Які є обмеження, що потрібно робити, щоб ці обмеження подолати, та куди ми можемо дивитись із точки зору бізнесу.

Ми сьогодні згадували моделі світу, тому хотілось би, щоб і ШІ-системи мали такі моделі світу. Науковці вже працюють над цим. Бізнес може почати дивитися трошки вперед і приглядати, як це може бути використано. Умовно, люди зможуть у майбутньому купити штучний інтелект для своїх потреб, певну модель. Але потім до цієї моделі докупити модель світу, яка натренована під конкретного споживача.

Зараз є великий надмірний інтерес до цієї технології, і я намагаюся показувати більше не темну сторону - це окрема історія, а пастку, в яку ми потрапимо, якщо будемо висувати до цієї технології надмірні очікування. .

Друга моя залученість на iForum - участь у панельній дискусії про майбутнє, зокрема, освіти, ринку праці. Там ми будемо говорити з колегами про те, як і до яких, професій нам треба готуватися. Тут немає якихось сильних інсайтів. Як я вже говорив, важливо дивитися, як ці технології змінюють поточні професії. Звісно, ми можемо фантазувати про усі ці професії, але щось реально нове важко спрогнозувати, бо воно ще не створено. Тому я намагаюсь не бути сильно спекулятивним у цьому плані.

***

Медіа UA.NEWS є інформаційним партнером iForum-2023 та запрошує усіх бажаючих долучитись до головної ІТ-конференції України 10 серпня у МВЦ у Києві. Деталі на сайті iForum за посиланням: https://2023.iforum.ua/

Читайте також:

Як працює штучний інтелект і чому він генерує фейки: інтерв’ю із очільником комітету з розвитку ШІ в Україні Олексієм Молчановським

Як штучний інтелект змінить сфери освіти і праці: розповідає голова комітету з розвитку ШІ в Україні Олексій Молчановський

Загрози штучного інтелекту: фантастика чи реальність. Інтерв’ю з головою комітету з розвитку ШІ в Україні Олексієм Молчановським

Ілона Завальнюк