Участники Ai4 призвали сохранить открытость технологий ИИ
Нобелевский лауреат Джеффри Хинтон, генеральный директор и соучредительница World Labs Фэй-Фэй Ли и соучредитель Coursera Эндрю Нг на конференции Ai4 в Лас-Вегасе обсудили доступность моделей искусственного интеллекта, риски их использования и необходимость регулирования. Несмотря на разногласия в конкретных подходах, все трое высказались за сохранение определенного уровня открытости в сфере ИИ и против концентрации контроля над технологией в руках нескольких крупных компаний, сообщает TechCrunch.
Эндрю Нг заявил, что не хочет появления «контролёров доступа» к ИИ, поскольку это ограничит возможности людей пользоваться технологией. По его мнению, наличие нескольких поставщиков и конкуренция между моделями и компаниями могут предотвратить доминирование небольшого числа игроков. Он также отметил, что более дешевые модели будут иметь преимущество для внедрения в бизнес.
Нг выразил обеспокоенность тем, что модели с открытыми весами из Китая могут получить широкое распространение в Азии, Африке и развивающихся странах. По его оценке, это может повлиять на то, как миллиарды людей будут получать информацию о демократии, свободе и правах человека. Он призвал поддерживать конкурентоспособность США и развитие открытого программного обеспечения для ИИ.
Больше актуальных новостей читайте в Telegram-канале UA.News.
Гинтон провел разграничение между открытым программным обеспечением и моделями с открытыми весами. Открытый код позволяет проверять и изменять программу, тогда как открытые веса означают обнародование параметров уже обученной модели. Исследователь отметил, что ранее выступал против распространения открытых весов, поскольку это может облегчить использование дорогостоящих базовых моделей в вредоносных целях, в частности для кибератак.
В то же время Гинтон признал, что модели с открытыми весами уже стали неотъемлемой частью отрасли, а препятствие в виде высокой стоимости обучения базовых моделей исчезло. Он добавил, что ИИ может повысить производительность и улучшить образование и здравоохранение, но счёл обоснованной озабоченность возможными негативными последствиями развития технологии.
Фэй-Фэй Ли выступила против деления только на полную открытость или полную закрытость. В качестве примера она привела ядерную физику: научные работы публикуются открыто, тогда как уран подлежит регулированию. По её мнению, различные составляющие экосистемы ИИ могут иметь разную степень открытости — в научных исследованиях, образовании, международном сотрудничестве и коммерческих продуктах. Участники дискуссии согласились, что для направления развития ИИ на благо людей необходимо определённое регулирование.
