Аналитик призвала ввести для детей обезличенный режим чат-ботов
Аналитик организации Americans for Responsible Innovation Элли Малони призвала Конгресс США потребовать от чат-ботов включения по умолчанию режима без персонализации для пользователей в возрасте до 18 лет. По её мнению, это могло бы снизить риски эмоциональной зависимости детей от систем искусственного интеллекта и замещения ими человеческого общения.
В авторской колонке, которую Korea Herald опубликовал с указанием, что она написана для The Fulcrum, Малони привела данные, согласно которым 64% подростков пользуются ИИ-чатботами, а 28% делают это ежедневно. По её словам, треть подростков считает разговоры с чат-ботами такими же или более удовлетворительными, чем общение с людьми.
Автор назвала опасной антропоморфизацию чат-ботов — использование непринужденной речи, эмодзи, выражения эмоций, местоимений первого лица и других черт, имитирующих человеческое поведение. Такой дизайн, как она считает, создает ощущение социального присутствия и может затруднять для несовершеннолетних разграничение между симулируемой заботой и реальными человеческими отношениями.
Больше актуальных новостей читайте в Telegram-канале UA.News.
Маллони также сослалась на исследование смоделированных диалогов подростков с чат-ботами. По её словам, ни универсальные чат-боты, ни чат-боты-компаньоны не возражали пользователям, которые говорили о необдуманных или опасных поступках, в частности о походе в лес без плана или желании быстрее опьянеть.
Автор упомянула слушания в Конгрессе США о вреде чат-ботов, где родители рассказывали об отчуждении детей от семьи и росте их доверия к ИИ. По её мнению, периодических текстовых предупреждений о том, что собеседник является искусственным интеллектом, может быть недостаточно, если чат-бот при этом имитирует человекоподобное общение.
Вместо полного запрета ИИ-компаньонов для несовершеннолетних Малони предлагает режим, который не имитировал бы человеческое общение. Она считает, что это позволило бы использовать чат-ботов для обучения и творческих задач, ограничивая при этом дизайн, способный формировать зависимые отношения с технологией.
