OpenAI «раздевается» до основания: энтузиаст выпустил необузданную версию GPT-OSS-20B

Исследователь Джек Моррис создал gpt-oss-20b-base, версию языковой модели OpenAI, лишенную ограничений и «разумности». Это открывает новые горизонты для разработки ИИ, но и поднимает вопросы о безопасности.

📋 Обзор

Всего две недели прошло с момента выпуска OpenAI семейства мощных открытых языковых моделей gpt-oss под лицензией Apache 2.0 – первого подобного шага компании со времен GPT-2 в 2019 году. Но разработчики уже активно переделывают ее на свой вкус. Самый яркий пример – работа Джека Морриса, аспиранта Cornell Tech, бывшего сотрудника Google Brain и нынешнего исследователя Meta. Он представил gpt-oss-20b-base, собственную переработанную версию модели gpt-oss-20B от OpenAI, которая удаляет «рассуждающее» поведение модели и возвращает ее к предварительно обученной «базовой» версии, предлагающей более быстрые, свободные, менее подвергнутые цензуре и неограниченные ответы.

Основные детали

Модель уже доступна на платформе Hugging Face под лицензией MIT, что позволяет использовать ее как для дальнейших исследований, так и для коммерческих приложений. Ключевое отличие gpt-oss-20B-base от оригинальных моделей OpenAI gpt-oss заключается в том, что Моррис, по сути, «откатил» модель к состоянию до тонкой настройки и выравнивания. OpenAI, как и многие другие разработчики, применяет техники «выравнивания» (alignment) для того, чтобы большие языковые модели (LLM) соответствовали человеческим ценностям и нормам, то есть не выдавали токсичный, предвзятый или вредоносный контент. Однако, по мнению Морриса, такое «выравнивание» ограничивает возможности модели и мешает ее применению в некоторых областях. Он считает, что «базовая» версия, лишенная этих ограничений, может быть полезна для исследователей, которые хотят изучить фундаментальные возможности LLM или разработать новые методы обучения и контроля. Другими словами, Моррис дал модели больше свободы, но снял с себя ответственность за ее поведение.

Значение для России

В России, где дискуссии о цензуре и свободе информации особенно актуальны, появление gpt-oss-20b-base может вызвать неоднозначную реакцию. С одной стороны, разработчики и исследователи, работающие над созданием собственных ИИ-решений, получат доступ к более гибкому инструменту. Это может стимулировать инновации в таких областях, как обработка естественного языка, машинный перевод и генерация контента. С другой стороны, отсутствие «выравнивания» может привести к тому, что модель будет генерировать контент, нарушающий российское законодательство или этические нормы. Например, она может распространять дезинформацию, пропагандировать экстремизм или разжигать ненависть. В связи с этим, российским разработчикам, использующим gpt-oss-20b-base, необходимо будет уделять особое внимание контролю за контентом, который генерирует модель. Возможно, потребуется разработка собственных методов «выравнивания», учитывающих российские культурные и правовые особенности. Примером может служить разработка отечественных аналогов фильтров контента, подобных тем, что используются в социальных сетях, но адаптированных для работы с языковыми моделями.

Заключение

Создание gpt-oss-20b-base – это важный шаг в развитии открытого ИИ. Он демонстрирует, что сообщество готово экспериментировать с LLM и исследовать их возможности за пределами ограничений, установленных крупными компаниями. Однако, этот шаг также поднимает важные вопросы о безопасности и ответственности. Необходимо найти баланс между свободой и контролем, чтобы избежать негативных последствий использования мощных языковых моделей. В России это требует особенно внимательного подхода, учитывающего специфику национального контекста и законодательства.

🌟 Ключевые моменты

🤔 Экспертное мнение