Ученый назвал главный вызов относительно искусственного интеллекта

Важное направление в нашей отрасли – alignment problem – или проблема согласования. И речь идет о согласовании наших целей как отдельного человека или общества или целого человечества с "пониманием" систем искусственного интеллекта. Чтобы их поведение, их достижение цели было согласовано с нашими целями. И здесь есть большой вызов. Мы можем упомянуть три закона робототехники Айзека Азимова. Первый закон – робот не должен навредить человеку. Выставляя определенную цель, жестко ее описывая, мы не всегда можем предусмотреть все возможные сценарии в будущем, которые могут нарушать эту цель. Или наоборот - цель якобы придерживается, но все идет наперекосяк, не так, как мы хотели

Сейчас есть исследования, которые предлагают, чтобы робот или система не были заранее осведомлены в наших целях и не знали, чего мы хотим. А единственный способ, как они узнают о целях – наблюдают за нами. Представьте себе работа, которую вы покупаете, распаковываете дома и он нулевой. Вы начинаете с ним знакомиться и робот потихоньку начинает за вами наблюдать, чтобы понять, что вы хотите. К примеру, вы любите утром пить кофе, и робот начинает это делать и таким образом согласуется с его владельцем. А кто-то купит такого же робота, но в другом культурном контексте у него будут совершенно другие факторы