Амодеї та інші лідери індустрії ШІ занепокоєні самовдосконаленням моделей — MarketWatch
Генеральний директор Anthropic Даріо Амодеї та інші представники індустрії штучного інтелекту висловлюють занепокоєння через здатність моделей ШІ створювати наступні покоління таких систем без участі людей. Про це повідомляє MarketWatch.
Рекурсивне самовдосконалення
Такий процес називають рекурсивним самовдосконаленням. Він передбачає, що моделі штучного інтелекту можуть створювати наступні покоління систем ШІ без допомоги людей.
За даними видання, є свідчення, що цей процес уже відбувається в окремих частинах деяких лабораторій ШІ. Водночас наразі складно визначити, наскільки поширеним є це явище.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Позиція дослідника
Колишній дослідник Google DeepMind Алекс Тернер, який нещодавно залишив компанію через занепокоєння щодо безпеки ШІ, вважає, що рекурсивне самовдосконалення може швидко привести до появи систем, інтелект яких буде поза людським розумінням.
Доступні лідерам індустрії приклади такого процесу викликають у них занепокоєння, пише MarketWatch.
