Новости

Революционный подход к памяти ИИ: добавление 0,12% параметров дает агентам то, что RAG не может

Исследователи представили новый метод хранения памяти ИИ, который позволяет агентам эффективно накапливать и использовать историческую информацию

Исследователи представили новый метод хранения памяти ИИ, который позволяет агентам эффективно накапливать и использовать историческую информацию

Содержание

Исследователи из Mind Lab и нескольких университетов представили революционный подход к памяти ИИ, который позволяет агентам эффективно накапливать и использовать историческую информацию. Этот подход, называемый delta-mem, добавляет всего 0,12% параметров к основной модели, но при этом значительно улучшает ее способность к хранению и извлечению памяти.

Проблема памяти в ИИ

Традиционные методы хранения памяти ИИ основаны на увеличении контекстного окна или добавлении внешних модулей, что может быть дорогим и неэффективным. Delta-mem предлагает новый подход, который заключается в компрессии исторической информации в динамически обновляемую матрицу, не изменяя саму модель.

Как работает delta-mem

Delta-mem использует технику, называемую «delta-rule learning», для обновления матрицы памяти после каждой интеракции. Это позволяет модели эффективно накапливать и использовать историческую информацию, не перегружая модель большим количеством данных.

Преимущества delta-mem

Delta-mem имеет several преимуществ перед традиционными методами хранения памяти ИИ. Во-первых, он добавляет всего 0,12% параметров к основной модели, что делает его очень эффективным. Во-вторых, он позволяет модели эффективно накапливать и использовать историческую информацию, что улучшает ее способность к хранению и извлечению памяти.

Практические применения delta-mem

Delta-mem имеет широкий спектр практических применений, от улучшения кодирования и анализа данных до создания более эффективных чат-ботов и виртуальных помощников. Исследователи уже продемонстрировали эффективность delta-mem в нескольких задачах, включая решение задач на основе памяти и извлечение информации из больших объемов данных.

Источник: VentureBeat