Новости технологий: Researchers isolate memorization — 11.11.2025

Исследователи обнаружили, что запоминание и логическое мышление внутри искусственных нейронных сетей функционируют независимо друг от друга

📋 Обзор

Исследователи обнаружили, что запоминание и логическое мышление внутри искусственных нейронных сетей функционируют независимо друг от друга

В области искусственного интеллекта продолжается развитие понимания внутренней структуры сложных моделей. Недавние исследования показали, что процессы запоминания и логического мышления в нейросетевых моделях — это не просто две стороны одной медали, а скорее два отдельных механизма, которые работают независимо. Для российского рынка, где ИИ активно внедряется в банковский сектор, промышленность и государственные услуги, это открытие может стать ключевым для создания более эффективных и предсказуемых систем. При создании современных языковых моделей, таких как GPT-5, разработчики сталкиваются с двумя фундаментальными функциями: first — запоминание, то есть способность повторять дословно ранее встречавшиеся фразы, цитаты или специально запомненные данные; second — reasoning, то есть применение логики и общих принципов для решения новых задач. Ранее предполагалось, что эти процессы тесно связаны внутри нейросетей, однако новые исследования показывают обратное. Учёные из компании GAI (Generative AI) провели эксперимент, в ходе которого обнаружили, что области нейросети, отвечающие за запоминание, и те, что отвечают за reasoning, расположены в разных "регионах" модели. Когда модель обучается на большом массиве данных, она может точно воспроизводить заученное, например цитаты из классической литературы, что и свидетельствует о работе механизмов запоминания. В то же время, способность к reasoning проявляется в способности решать задачи, которые не встречались в обучающем наборе данных, используя абстрактные принципы. Это открытие значительно усложнило представление о внутренней архитектуре нейросетей. В российской практике это означает, что при разработке специализированных решений для банков или государственных структур можно целенаправленно разделять функции на разные модули, что повысит их эффективность и безопасность. К примеру, в системе автоматической проверки документов или ведения делопроизводства, где важно сохранять точность заученных шаблонов и одновременно обеспечивать гибкое принятие решений — понимание разделения внутри модели поможет оптимизировать эти процессы. Кроме того, создание моделей с изолированными модулями для памяти и reasoning может снизить риск "запоминания" нежелательной информации или маскировать внутренние механизмы, делая системы более прозрачными и управляемыми. Для российского рынка ИИ это открытие открывает новые горизонты: кроме повышенной точности и безопасности, возрастает возможность адаптации моделей к специфическим задачам, например, для анализа финансовых потоков или автоматизации государственных услуг, где важна стабильность и ясность внутренней логики системы. Так, вместо монолитных моделей, объединяющих все функции, можно разрабатывать более гибкие архитектуры, отвечающие за конкретные задачи. Новые исследования напоминают, что в области искусственного интеллекта, как и в человеческом мозге, процессы памяти и мышления — не обязательно одно и то же. Разделение их внутренняя реализация открывает перспективы для создания более надёжных, объяснимых и управляемых систем. В условиях быстрого развития технологий и их проникновения во все сферы жизни подобные открытия позволяют российским разработчикам не отставать от мировых трендов и создавать продукты с конкурентными преимуществами.