Разработчики представили OpenMMReasoner, фреймворк для обучения языковых моделей, улучшающий их возможности многомодального рассуждения, используя меньшие и более качественные наборы данных. Это может значительно снизить затраты на разработку ИИ.
📋 Обзор
Исследователи из MiroMind AI и ряда китайских университетов представили OpenMMReasoner, новый фреймворк для обучения, который значительно повышает возможности языковых моделей в области многомодального рассуждения. Это означает, что ИИ сможет лучше понимать и обрабатывать информацию, поступающую из различных источников, таких как текст и изображения.
Основные детали
OpenMMReasoner использует двухэтапный процесс обучения. Сначала базовая модель дорабатывается с использованием тщательно отобранного набора данных на этапе контролируемой тонкой настройки (SFT). Затем, этап обучения с подкреплением (RL) направляет модель к более эффективному рассуждению в задачах, требующих обработки как текстовых, так и визуальных данных. Этот подход позволяет создавать более компактные и эффективные модели, требующие меньше данных для обучения.
Эксперименты показали, что модели, обученные с использованием OpenMMReasoner, превосходят другие передовые модели визуального рассуждения, часто при этом обучаясь на меньшем по объему, но более качественном наборе данных. Фреймворк и все его компоненты, включая обученную 7B-модель, являются полностью открытыми, что обеспечивает надежную основу для создания приложений, требующих отслеживаемости и надежности.
Кайчен Чжан, соавтор исследовательской работы, описывающей новый метод, утверждает, что OpenMMReasoner предлагает значительные преимущества для предприятий, стремящихся выйти за рамки больших, закрытых систем. «Меньшая модель рассуждений с открытым исходным кодом имеет практические преимущества: предприятия могут развертывать ее локально, снижать задержку, снижать затраты и, прежде всего, иметь полный контроль над процессами рассуждений», — сказал Чжан.
Значение для России
В России, где активно развивается направление импортозамещения в IT, OpenMMReasoner может стать ценным инструментом. Многие российские компании, особенно в сфере безопасности и видеонаблюдения, заинтересованы в разработке собственных ИИ-решений для анализа изображений и видеопотоков. Использование открытого и компактного фреймворка, такого как OpenMMReasoner, позволит им создавать более эффективные и безопасные системы, не зависящие от зарубежных проприетарных технологий. Примером может служить разработка систем распознавания лиц для контроля доступа в здания или анализа дорожной обстановки для улучшения безопасности движения. Также, OpenMMReasoner может быть использован в образовательных целях, позволяя российским студентам и исследователям изучать и совершенствовать методы машинного обучения на практике.
Заключение
OpenMMReasoner представляет собой значительный шаг вперед в разработке ИИ, делая сложные модели более доступными и эффективными. Открытый исходный код и возможность обучения на меньших наборах данных открывают новые возможности для российских компаний и исследователей, позволяя им создавать инновационные решения в различных областях, от безопасности до образования. В перспективе можно ожидать появления новых российских разработок, основанных на OpenMMReasoner, которые будут успешно конкурировать на мировом рынке.
Источник: Аналитические данные и отраслевые отчеты
Следите за новостями технологий в нашем Telegram-канале и не пропускайте важные обновления!
Источник: venturebeat.com