Илон Маск призвал ИИ-лаборатории взаимно тестировать модели
Илон Маск призвал ведущие лаборатории искусственного интеллекта, в том числе китайские компании, тестировать модели друг друга перед их публичным выпуском. По его мнению, такая взаимная экспертная оценка может повысить вероятность выявления проблем с безопасностью ИИ-систем, сообщает CNBC Top News.
Предложение Маска
Маск заявил, что предложенный им механизм взаимного тестирования не будет идеальным решением. В то же время, по его словам, он значительно увеличит шансы выявить проблемы в моделях до их выпуска для широкой аудитории.
Он также признал, что лаборатории, конкурирующие со SpaceXAI, принадлежащей SpaceX, пока не согласились на это предложение. Маск считает, что Китай, вероятно, мог бы согласиться на быстрое внедрение такого подхода.
Амодеи в своем эссе предложил другой вариант контроля: оценку технологий третьими сторонами с участием встроенных оценщиков. Они должны были бы проверять, соблюдают ли лаборатории ИИ практики безопасности.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиции США и Китая
Администрация президента США Дональда Трампа выступила против призывов руководителей технологических компаний к усилению ограничений в сфере искусственного интеллекта. В понедельник Трамп опубликовал серию постов в Truth Social, в которых назвал опасения по поводу ИИ обманом и мошенничеством.
Директор Национального экономического совета США Кевин Хассетт заявил CNBC, что вопросы, связанные с ИИ, должен решать частный сектор. По его словам, правительство США продолжает следить за отраслью и при необходимости будет применять правоохранительные меры, чтобы компании действовали ответственно.
Трамп ранее предполагал, что попытки замедлить развитие ИИ могут дать Китаю преимущество в разработке технологии. Амодеи назвал этот вопрос самой сложной дилеммой. Представитель Министерства иностранных дел Китая, согласно английскому переводу Reuters, охарактеризовал призывы руководителей ИИ-компаний замедлить развитие технологии как запугивание.
