Ученые МФТИ создали ИИ, который помнит информацию в сотни тысяч раз дольше
На что способен© Ferra.ru
Нейросети обычно быстро забывают старую информацию, когда обучаются новому, потому что связи между нейронами переписываются. Чтобы решить эту проблему, ученые вдохновились принципами работы человеческого мозга. В созданной сети применяется механизм перестройки связей — ревайринг, который вместе с временной пластичностью нейронов (STDP) превращает «кратковременную память» в «долговременную».
После обучения внешние сигналы отключаются, и сеть самостоятельно перестраивает свои связи, укрепляя паттерны активности. Слабые соединения удаляются, а новые создаются по случайным и близким принципам.
Эксперименты показали, что обычная сеть забывает информацию после 1000 всплесков активности, тогда как сеть с ревайрингом хранит данные до 170 миллионов всплесков. В ней также формируются «хабовые» нейроны, которые поддерживают синхронную активность сотен других клеток.