Экс-глава исследований ИИ в Cohere ставит на альтернативу гонке масштабирования: что это значит для будущего искусственного интеллекта?

Сара Хукер, ранее возглавлявшая исследования ИИ в Cohere, считает, что бесконечное масштабирование больших языковых моделей (LLM) – тупиковый путь. Её новый стартап Adaption Labs сосредоточится на разработке более эффективных и адаптивных алгоритмов.

📋 Обзор

В то время как крупные технологические компании инвестируют миллиарды долларов в создание огромных центров обработки данных, стремясь к еще большему масштабированию искусственного интеллекта, некоторые эксперты начинают сомневаться в эффективности такого подхода. Сара Хукер, бывший вице-президент по исследованиям ИИ в Cohere и выпускница Google Brain, делает ставку на альтернативные решения.

Основные детали

Гонка за масштабирование ИИ привела к строительству дата-центров, сопоставимых по размерам с целыми кварталами, требующих огромных инвестиций и потребляющих колоссальное количество энергии. Эта тенденция основана на убеждении, что увеличение вычислительной мощности позволит существующим методам обучения ИИ создавать сверхразумные системы, способные выполнять любые задачи. Однако, все больше исследователей ИИ высказывают мнение, что масштабирование больших языковых моделей (LLM) достигает своих пределов, и для дальнейшего улучшения производительности ИИ необходимы другие прорывы.

Именно на это делает ставку Сара Хукер с её новым стартапом Adaption Labs. Компания, соучредителем которой является также ветеран Cohere и Google Судип Рой, основана на идее, что масштабирование LLM стало неэффективным способом повышения производительности моделей ИИ. Хукер покинула Cohere в августе и в этом месяце объявила о запуске стартапа, начав активный поиск новых сотрудников. Adaption Labs намерен разрабатывать «думающие машины», способные адаптироваться и непрерывно обучаться, делая акцент на эффективности использования ресурсов.

Значение для России

Российские компании, разрабатывающие решения в области ИИ, также сталкиваются с проблемой масштабирования. Создание и поддержка крупных дата-центров требует значительных финансовых и энергетических ресурсов, что может быть особенно актуально в условиях текущей экономической ситуации. Альтернативный подход, предложенный Adaption Labs, может быть интересен российским разработчикам, стремящимся к созданию эффективных и конкурентоспособных решений без необходимости огромных инвестиций в инфраструктуру. Например, российские компании, разрабатывающие голосовых помощников или системы машинного перевода, могут использовать более эффективные алгоритмы, требующие меньше вычислительных ресурсов, что позволит снизить затраты на их развертывание и поддержку.

Кроме того, фокус на адаптивности и непрерывном обучении может быть особенно важен для российского рынка, где необходимо учитывать специфику русского языка и культуры. Модели ИИ, способные быстро адаптироваться к новым данным и контекстам, могут быть более эффективными в решении задач, связанных с анализом русскоязычного контента и предоставлением персонализированных услуг.

Заключение

Ставка Сары Хукер на альтернативу гонке масштабирования может стать важным шагом в развитии искусственного интеллекта. Если Adaption Labs сможет разработать более эффективные и адаптивные алгоритмы, это может привести к снижению затрат на разработку и развертывание ИИ-решений, а также к созданию более устойчивых и гибких систем. В конечном итоге, это может открыть новые возможности для использования ИИ в различных областях, как в России, так и во всем мире.