Сандерс призвал Трампа и Си договориться о паузе в развитии ИИ
В США сенатор Берни Сандерс призвал президента Дональда Трампа и председателя КНР Си Цзиньпина провести на предстоящем саммите переговоры о договоре о паузе в развитии искусственного интеллекта и запрете суперинтеллекта. Об этом сообщает NDTV World.
Сандерс назвал позицией генерального директора Anthropic Дарио Амодеи, главы OpenAI Сэма Альтмана и руководителя xAI Илона Маска о необходимости замедлить разработку ИИ началом, но недостаточным шагом. В публикации в X сенатор сравнил развитие технологии с движением к пропасти, при котором недостаточно лишь снизить скорость.
Предложение запретить суперинтеллект
Сенатор вновь выступил за паузу в развитии передовых систем искусственного интеллекта, заявив, что речь идет о будущем человечества. Он предупредил об опасности появления ИИ, который будет умнее любого человека и сможет действовать самостоятельно вне человеческого контроля.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Ранее в этом месяце Сандерс представил законодательную инициативу о постоянном запрете суперинтеллектуального ИИ. Ее полный текст еще не публиковался. По данным издания, законопроект призван не допустить создания систем, способных функционировать независимо от контроля человека.
Позиция технологических компаний
Дарио Амодеи в своем блоге предупредил о рисках потери контроля над системами ИИ, их использования для кибератак и биотерроризма, а также о серьезных экономических потрясениях. Он отметил, что коммерческое соперничество может усиливать эти угрозы, и призвал замедлить темпы наращивания возможностей моделей.
Амодеи сообщил, что Anthropic предоставит независимым оценщикам постоянный доступ к своим системам на уровне сотрудников компании. Сэм Альтман заявил, что в OpenAI в последние недели обсуждали темпы развития ИИ, и пообещал внедрить аналогичный подход к независимой оценке. Илон Маск в отдельной публикации поддержал позицию Амодеи.
