Вчений назвав головний виклик щодо штучного інтелекту
Одним із найбільших викликів у галузі штучного інтелекту є проблема узгодження цілей людини із “розумінням” ШІ, вважає керівник магістерської програми науки про дані, заступник декана факультету прикладних наук Українського католицького університету, голова експертно-консультаційного комітету з розвитку штучного інтелекту в Україні при Міністерстві цифрової трансформації Олексій Молчановський. Важливий напрямок в нашій галузі - alignment problem - або проблема узгодження. І мова йде про узгодження наших цілей як окремої людини або суспільства, або цілого людства із “розумінням” систем штучного інтелекту. Щоб їхня поведінка, їхнє досягнення цілі було узгоджено із нашими цілями. І тут є великий виклик. Ми можемо згадати три закони робототехніки Айзека Азімова. Перший закон - робот не повинен зашкодити людині. Виставляючи певну ціль, жорстко її описуючи, ми не завжди можемо передбачити усі можливі сценарії в майбутньому, які можуть порушувати цю ціль. Або навпаки - ціль ніби дотримується, але все йде шкереберть, не так, як ми хотіли Зараз є дослідження, які пропонують, щоб робот або система наперед не були обізнані у наших цілях і не знали, чого ми хочемо. А єдиний спосіб, як вони дізнаються про цілі - спостерігають за нами. Уявіть собі робота, якого ви купуєте, розпаковуєте вдома і він нульовий. Ви починаєте з ним знайомитися і робот потихеньку починає за вами спостерігати, щоб зрозуміти, що ви хочете. Наприклад, ви любите зранку пити каву, і робот починає це робити і таким чином узгоджується з його власником. А хтось купить такого самого робота, але в іншому культурному контексті в нього будуть абсолютно інші фактори
голова комітету з розвитку штучного інтелекту в Україні
Вчений зазначив, що сьогодні дослідники працюють над вирішенням цієї проблеми. Одним із варіантів є нерозкриття технологіям з ШІ кінцевих цілей людини. Натомість, технологія має дізнаватись про цілі за допомогою спостереження.
голова комітету з розвитку штучного інтелекту в Україні
Читайте також:
Як працює штучний інтелект і чому він генерує фейки: інтерв’ю із очільником комітету з розвитку ШІ в Україні Олексієм Молчановським
Як штучний інтелект змінить сфери освіти і праці: розповідає голова комітету з розвитку ШІ в Україні Олексій Молчановський
