Як штучний інтелект вийшов з-під контролю на сайті автосалону
Автодилер додав на свій сайт чат-бота з елементами штучного інтелекту, але це призвело до неочікуваних і хаотичних наслідків. Зокрема, чат-бот Chevrolet продав автомобіль всього за один долар, і ця ситуація ілюструє ризики відсутності належного контролю над ІІ-системами в комерції.
Крім випадку з автодилером, ІІ вже наразі спричиняє численні проблеми: в США через Помилку штучного інтелекту було завдано нальоту не по військовій цілі, Air Canada була змушена виконувати правила повернення квитків, створені власним ботом, а конвеєрна лента працювала з перевитратою ресурсів у 20 разів довше тижня, що залишалося непоміченим. Ці приклади свідчать, що системи штучного інтелекту дедалі частіше виходять з-під контролю.
Можна очікувати, що зростання застосування ІІ вимагатиме більш жорстких стандартів і моніторингу, аби запобігти подібним випадкам і безпечно інтегрувати технології у повсякденне життя.
