Блоги. Андрей Бродецкий о работе нейросетей

UA.NEWS
Автор
UA.NEWS
Поделиться:

Эксперт Андрей Бродецкий рассказал об исследовании Массачусетского технологического института о нейросетях. 

Про нейросети часто говорят, что они «имитируют работу мозга», но это большое преувеличение. Да, информация передаётся между слоями нейросети подобно сигналу между нейронами в мозгу. Но даже самые сложные нейросети на порядки проще самых простых биологических мозгов. Вот познавательное исследование — учёные разобрали, как работает обонятельная система бражника (обычный серый мотыль) и смоделировали на её основе нейросеть. А в голове у мотыля непростая система: 30 тысяч химических рецепторов улавливают запахи, затем сигнал передаётся в антенную долю, где 60 разных клубочков отвечают за разные запахи. Дальше код уловленного запаха передаётся в грибовидное тело (это такие парные структуры в мозгу насекомых, состоящие из нескольких слоёв нейронов), где 4000 специальных клеток перекодируют запахи в воспоминания. На финальном уровне несколько десятков внешних нейронов интерпретируют полученные сигналы в действия, к примеру «лететь вверх».

Эта система сильно отличается от компьютерных нейросетей: к примеру, антенная доля кодирует сигнал с низким количеством параметров, а следующий уровень, грибовидное тело — уже с высоким. В нейросетях слои обычно имеют схожее количество измерений. А ещё успешное распознавание запаха приводит к выделению гормона октопамина, который помогает закреплять полезную информацию. В нейросетях всё по-другому — там связи между слоями пошагово корректируются, пока не будет получен правильный результат.

На смоделированной нейросети учёные увидели много интересного: как сигнал очищается от шума с увеличением разрядности между слоями, как обучение без октопамина замедляется и становится практически бесполезным. Мотыль обучается очень быстро — для того чтобы правильно запомнить нужный запах, ему достаточно нескольких итераций, тогда как обучение искусственных нейросетей требует очень много времени. Исследователи планируют использовать подсмотренные у природы механизмы для того чтобы обучать нейросети быстрее и эффективнее. Мне кажется, такие заимствования у природы — это очень круто!

Текст на основе материала MIT Technology Review

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Автор: UA.NEWS
Поделиться:

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Sorry that something went wrong, repeat again!

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: