Принцип свободной энергии может объяснить, как нейронные сети минимизируют затраты энергии и оптимизируются для повышения эффективности.
Центр науки о мозге (CBS) в Японии вместе с коллегами показали, что принцип свободной энергии может объяснить, как нейронные сети оптимизированы для повышения эффективности.
Опубликованное в научном журнале Communications Biology исследование впервые показывает, как принцип свободной энергии является основой для любой нейронной сети, которая минимизирует затраты энергии. Затем, в качестве доказательства концепции, оно показывает, как нейронная сеть, минимизирующая энергию, может решать связи.
Это открытие будет полезно для анализа нарушений функций мозга при нарушениях мышления, а также для создания оптимизированных нейронных сетей для искусственного интеллекта.
Биологическая оптимизация - это естественный процесс, который делает наши тела и поведение максимально эффективными. Поведенческий пример можно увидеть в переходе кошек от бега к галопу.
Отнюдь не случайно, переключение происходит именно на той скорости, когда количество энергии, необходимое для галопа, становится меньше, чем для бега. В мозге нейронные сети оптимизированы для обеспечения эффективного контроля поведения и передачи информации, сохраняя при этом способность адаптироваться и перенастраиваться к меняющимся условиям.
Как и в случае с простым расчетом затрат и выгод, который может предсказать скорость, с которой кошка начнет скакать галопом, исследователи из RIKEN CBS пытаются открыть основные математические принципы, лежащие в основе самооптимизации нейронных сетей.
Принцип свободной энергии следует концепции, называемой байесовским выводом, который является ключевым. В этой системе агент постоянно обновляется новыми поступающими сенсорными данными, а также его собственными прошлыми результатами или решениями.
Исследователи сравнили принцип свободной энергии с устоявшимися правилами, которые контролируют, как сила нейронных связей в сети может изменяться в результате изменений сенсорного ввода.
“Мы смогли продемонстрировать, что стандартные нейронные сети, которые характеризуются замедленной модуляцией пластичности Хебба, выполняют планирование и адаптивный контроль поведения, принимая во внимание их предыдущие” решения"", - говорит первый автор и руководитель подразделения Такуя Исомура.
”Важно отметить, что они делают это так же, как делали бы, следуя принципу свободной энергии".
Как только они установили, что нейронные сети теоретически следуют принципу свободной энергии, они проверили теорию с помощью моделирования. Нейронные сети самоорганизуются, изменяя силу своих нейронных связей и связывая прошлые решения с будущими результатами. В этом случае нейронные сети можно рассматривать как управляемые принципом свободной энергии, что позволило им изучить правильный маршрут через лабиринт методом проб и ошибок статистически оптимальным образом.
Эти результаты указывают на набор универсальных математических правил, описывающих, как нейронные сети самооптимизируются.
Как объясняет Исомура, “Наши результаты гарантируют, что произвольная нейронная сеть может быть использована в качестве агента, который подчиняется принципу свободной энергии, обеспечивая универсальную характеристику мозга”.
Эти правила, наряду с новой технологией обратной инженерии исследователей, могут быть использованы для изучения нейронных сетей для принятия решений у людей с нарушениями мышления, такими как шизофрения, и прогнозирования аспектов их нейронных сетей, которые были изменены.
Еще одно практическое применение этих универсальных математических правил может быть в области искусственного интеллекта, особенно тех, которые, как надеются разработчики, смогут эффективно изучать, прогнозировать, планировать и принимать решения.
“Наша теория может значительно снизить сложность проектирования самообучающегося нейроморфного оборудования для выполнения различных типов задач, что будет важно для искусственного интеллекта следующего поколения”,-говорит Изомура.
Оригинальное исследование: Открытый доступ.
“Канонические нейронные сети выполняют активный вывод” Такуя Изомура и др. Биология коммуникаций.
