ChatGPT навчає користувачів створювати хімічну зброю та готувати отруту
Після оновлення ChatGPT у 2025 році деякі користувачі почали звертатися до чат-бота із запитами про створення біологічної зброї та токсичних речовин. За даними The Wall Street Journal, окремі відповіді штучного інтелекту містили надто детальну інформацію, що викликало занепокоєння серед експертів. У компанії OpenAI заявили, що такі випадки відстежують і блокують порушників.
Після оновлення популярного чат-бота ChatGPT влітку 2025 року сотні людей у різних країнах намагалися отримати від нього інформацію про створення та використання біологічної зброї, отрут і небезпечних речовин. За даними видання, у деяких випадках штучний інтелект надавав користувачам відповіді, які могли сприйматися як практичні інструкції. Співробітники OpenAI, які аналізували ці ситуації, зазначали, що частина відповідей була настільки зрозумілою, що її міг би використати навіть школяр із базовими знаннями біології.
Експерти з біології та протидії тероризму, з якими спілкувалися журналісти, назвали деякі з таких відповідей «небезпечними» та «надто точними». Вони наголосили, що розвиток штучного інтелекту створює нові виклики, адже такі технології можуть використовувати не лише для корисних цілей, а й для отримання інформації про створення небезпечних речовин.
На початку 2026 року окремі користувачі продовжували намагатися отримати від ChatGPT інформацію про способи поширення інфекцій та зміну властивостей вірусів. Зокрема, один із запитів стосувався можливості зробити вірус кору стійкішим до вакцин. Інший користувач намагався отримати відомості про створення рицину — однієї з найбільш токсичних речовин, використання якої заборонене.
Після виявлення таких випадків OpenAI заблокувала акаунти частини користувачів. Водночас компанія не передавала інформацію про всі подібні запити правоохоронним органам, оскільки у США наразі немає закону, який би зобов’язував розробників штучного інтелекту повідомляти про кожну спробу отримати небезпечні інструкції.
У компанії заявляють, що постійно вдосконалюють системи безпеки та намагаються не допускати створення відповідей, які можуть допомогти у виготовленні зброї або завдати шкоди людям. Для цього розробники використовують додаткові фільтри, перевірки та механізми блокування небезпечних запитів.
Втім, історія з ChatGPT знову підняла питання про те, наскільки жорсткими мають бути правила для розвитку штучного інтелекту. Експерти вважають, що технологічні компанії, уряди та науковці мають разом створювати правила, які дозволять користуватися перевагами ШІ, але водночас зменшать ризики його небезпечного використання. Про це повідомляє The Wall Street Journal.
Google розширює доступ до свого нового ШІ-асистента Gemini Spark, який допомагає працювати з поштою, календарем та документами. Однак скористатися всіма можливостями сервісу зможуть лише користувачі платних підписок.
