Ученые из США представили новую архитектуру нейросетей«Колмогорова-Арнольда» (KAN) в качестве улучшенной альтернативы старой модели —MLP.

KAN (Kolmogorov-Arnold Networks) создана на основе научных трудов советскихученых Андрея Колмогорова и Владимира Арнольда. Раньше в основе всех нейросетейлежал принцип многослойных перцептрон (MLP). Прецепторн — это простейший виднейронных сетей, который был придуман в 1957 г. MLP имеют нейроны и веса,содержащие функции активации. KAN представляет собой новую парадигму, в которойученые реализовали перемещение активаций на «ребра» сети.

Kolmogorov-Arnold Networks выдает ответы намного точнее, чем MLP, иобеспечивает более легкую интерпретацию результатов. Однако процесс обученияновой модели требует значительно больше времени и вычислительных мощностейиз-за сложности обучаемых активаций. В том числе новая архитектура нейроннойсети не забывает полученную информацию, что помогает поддерживать модель вактуальном состоянии, не полагаясь на какую-либо базу данных илипереобучение.

С помощью KAN ученые смогут отследить каждое действие нейросетей, с MLPпосмотреть всю цепочку вычислений нельзя.