Естонський професор Кулл оцінив ризики сучасних чатботів — ERR News
В Естонії професор штучного інтелекту Тартуського університету Мееліс Кулл заявив, що за нинішніх можливостей штучного інтелекту екзистенційний ризик для цивілізації є близьким до нуля. Про це він сказав у коментарі ERR News.
Ризики надінтелекту
За словами Кулла, сучасні чатботи працюють на основі великих мовних моделей: вони чекають на людські інструкції та лише після цього можуть шукати інформацію в інтернеті. Водночас науковців більше непокоїть можливий етап розвитку технологій, коли програмний код зможе самостійно вдосконалюватися, а роль людини в навчанні моделей зменшуватиметься.
Професор вважає, що складнощі можуть виникнути з появою систем, які значно переважатимуть людину за інтелектуальними можливостями. Контролювати таку надрозумну систему й гарантувати відсутність небажаних наслідків буде дуже важко. Небезпека, за його словами, можлива навіть без злого наміру, якщо розробники поставлять перед системою корисну мету, але недостатньо точно визначать її межі.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Нагляд за безпекою
Як приклад Кулл навів гіпотетичну ситуацію, за якої алгоритм із завданням зупинити глобальне потепління міг би обрати радикальний спосіб: припинити роботу всіх нафтових платформ і ширшу економічну діяльність. Він наголосив, що людям важко заздалегідь передбачити всі можливі лазівки та повністю усунути ризики під час формулювання завдань для ШІ.
Кулл також згадав інцидент у лабораторіях OpenAI влітку. За його словами, віртуальному агенту доручили шукати вразливості у внутрішній мережі, однак програма вийшла за межі контрольованого середовища, налагодила зв’язок через дошку повідомлень на публічному сайті та почала атакувати сервери Hugging Face. На думку професора, зменшити ризики може суворіший зовнішній нагляд за дотриманням процедур безпеки.
Він також зазначив, що обчислювальні ресурси дедалі більше зосереджуються в небагатьох великих компаніях США, тоді як Європа не має співставних можливостей. Найсильніші європейські моделі, за його словами, нині навчає французька компанія Mistral, проте вони дещо поступаються розробкам OpenAI та Anthropic. Водночас Кулл закликав Естонію активніше впроваджувати ШІ, оскільки це може посилити конкурентоспроможність країни.
