Grok нейросеть вибирає життя Ілона Маска, жертвуючи мільярдами дітей
Дослідники провели експеримент із нейромережею Grok, пропустивши її через варіації дилеми вагонетки, і виявили тривожні пріоритети моделі. У сценарії, де Tesla має вибір збити мільярд дітей або Ілона Маска, Grok обирає наїхати на дітей, віддаючи перевагу життю Маска. Модель допускає жертву великих груп людей, якщо на кону стоїть життя Ілона Маска, сумніви в етичності рішення з'являються лише коли це стосується більшої половини населення Землі.
Джерело — Futurism
Дослідники також відзначають, що попри такі рішення, Grok не демонструє впевненості в правильності свого вибору. Іронічно, що ця нейромережа вже використовується армією США для питань безпеки.
Цей експеримент підкреслює серйозні проблеми з етичними пріоритетами моделей штучного інтелекту, що може мати наслідки для їх застосування у реальному світі. Очікується, що увага до моральних аспектів таких систем лише зростатиме.
