OpenAI запропонувала глобальні стандарти безпеки для ШІ — CNBC
Компанія OpenAI оприлюднила пропозиції щодо безпеки та захисту під час розроблення передових систем штучного інтелекту. Вони зосереджені на дослідженнях узгодженості ШІ з людськими цінностями та рекурсивному самовдосконаленні систем — RSI, повідомляє CNBC Top News.
Міжнародні стандарти для ШІ
OpenAI закликала до міжнародної співпраці для створення стандартів у сфері передового штучного інтелекту. Компанія також рекомендувала спиратися на роботу чинних інститутів безпеки ШІ в різних країнах світу.
На думку розробника ChatGPT, технічні стандарти мають бути спрямовані на передові моделі ШІ та їхніх розробників. Окремо пропонується приділити увагу управлінню перевагами та ризиками, пов’язаними з автоматизованими ШІ-дослідниками, зокрема системами з можливостями RSI.
У блозі OpenAI зазначила, що для безпечного переходу дослідження узгодженості мають не відставати від розвитку можливостей ШІ-систем. За позицією компанії, це необхідно, щоб системи залишалися узгодженими з людськими цінностями та під контролем людей.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Застереження щодо автономного самовдосконалення
Рекурсивне самовдосконалення привертає увагу розробників через можливість створення базових моделей, здатних оновлювати себе без участі людини. Водночас розвиток таких технологій викликає занепокоєння частини фахівців: розробники фундаментальних моделей можуть втратити контроль над технологією або не врахувати небажані наслідки, коли ШІ-системи ставатимуть складнішими та поширюватимуться в інтернеті.
OpenAI заявила, що повністю автономне RSI нині не існує і його не слід розвивати, доки безпеку такого процесу не буде забезпечено. Компанія додала, що без належної обережності люди можуть втратити практичний контроль над розробленням ШІ та не зможуть наглядати за дослідницькими процесами, яких уже не розумітимуть.
Позиція Anthropic
Минулого тижня конкурент OpenAI — Anthropic — також представив власні підходи до безпечної розробки передових моделей ШІ. Це відбулося на тлі попереджень дослідників індустрії про загрози штучного інтелекту для людства.
Колишній співробітник Anthropic і OpenAI Джейкоб Коксон майже два тижні тому оголосив про звільнення та заявив, що ці компанії «грають нашими життями». За даними CNBC, його заява спричинила глобальну дискусію про безпеку ШІ.
