Google видалив частину ШІ-матеріалів через ризик для здоров’я користувачів — The Guardian
Пошуковий сервіс Google видалив низку своїх медичних матеріалів, створених за допомогою генеративного штучного інтелекту.
Таке рішення компанія ухвалила після розслідування видання The Guardian, яке з’ясувало, що деякі з цих коротких оглядів можуть поширювати неправильну або небезпечну інформацію.
Фахівці зазначили, що подібні неточності здатні створювати загрозу для здоров’я людей.
Огляди ШІ, які Google позиціонував як «корисні» та «надійні», з’являлися у верхній частині сторінки результатів пошуку. Вони мали допомагати користувачам швидко отримати стислий виклад медичних тем.
Проте, як показала перевірка, частина з цих матеріалів містила суттєві помилки, особливо у розділі даних щодо функцій печінки.
За словами експертів, у деяких випадках користувачі могли отримати хибні показники «нормальних» результатів аналізів крові.
Наприклад, люди з порушеннями функції печінки ризикували помилково вважати свої результати здоровими й не звернутися до лікаря.
Такі неточності могли становити серйозну небезпеку для пацієнтів, адже клінічні норми відрізняються залежно від віку, статі, етнічного походження та країни.
Нагадаємо, ЄС посилив контроль над X через проблеми з ШІ.
Також OpenAI розповіла про боротьбу з вразливістю ШІ-браузерів до «промпт-інʼєкцій».
