Передний край исследований ИИ ушёл из университетов в частные лаборатории OpenAI и Anthropic. Профессора рассказывают, как выживать без доступа к GPU и закрытым моделям — и почему ещё рано списывать академическую науку со счетов.
Содержание
- Как корпорации отобрали у университетов передний край науки
- «Словно биолог в мире, где CRISPR принадлежит корпорациям»
- Вопросы, которыми OpenAI и Anthropic заниматься не станут
- ИИ — это далеко не только чат-боты
- Математики первыми почувствовали угрозу
- Почему учёные не собираются сдаваться
В отеле в Маунтин-Вью, в пятидесяти километрах к югу от Сан-Франциско, собрались одни из самых титулованных и самых перспективных исследователей искусственного интеллекта в мире — участники программы AI2050, которую финансируют Эрик и Венди Шмидт. Корреспондентка MIT Technology Review Грейс Хакинс провела там несколько дней за круглыми столами и интервью и вынесла главное впечатление: университетская наука об ИИ переживает странные времена. За последние четыре года исследования переориентировались на большие языковые модели, а передний край дисциплины переехал из академических институтов в частные компании — и профессорам приходится договариваться с этой новой реальностью.
- Как корпорации отобрали у университетов передний край науки
- «Словно биолог в мире, где CRISPR принадлежит корпорациям»
- Вопросы, которыми OpenAI и Anthropic заниматься не станут
- ИИ — это далеко не только чат-боты
- Математики первыми почувствовали угрозу
- Почему учёные не собираются сдаваться
Как корпорации отобрали у университетов передний край науки
Большинство участников программы AI2050 — именно университетские исследователи, и именно им приходится тяжелее всего. Университеты попросту не могут позволить себе графические процессоры, необходимые для обучения и запуска фронтирных моделей. Даже если бы деньги нашлись, Anthropic и OpenAI не пускают никого внутрь Claude и ChatGPT: детали архитектуры и обучения этих систем остаются коммерческой тайной.
Программа AI2050 действительно выделяет стипендиатам средства, которые можно потратить на закупку GPU, и несколько исследователей признались, что это одно из главных преимуществ участия. Но деньги остаются острой проблемой — особенно на фоне сокращения федерального финансирования науки в США. Причём тратиться приходится не только на железо: даже учёные, которые не запускают модели локально, вынуждены снова и снова оплачивать запросы к моделям OpenAI, Anthropic и Google, чтобы исследовать их поведение строго и системно. Для университетского бюджета такие расходы быстро становятся неподъёмными.
Ситуация меняет и кадровый ландшафт академии. Несколько известных учёных недавно взяли отпуск в своих университетах, чтобы перейти во фронтирные лаборатории, а многие стипендиаты AI2050 совмещают академические должности с работой в индустрии. Это знакомая картина и для России, где сильнейшие специалисты по машинному обучению давно делят время между вузами и крупными технологическими компаниями, а университеты конкурируют за таланты с индустрией с очевидным трудом.
«Словно биолог в мире, где CRISPR принадлежит корпорациям»
За обедом Ника Хахталаб, профессор компьютерных наук Калифорнийского университета в Беркли, сформулировала суть проблемы предельно точно: быть сегодня академическим исследователем ИИ — всё равно что быть биологом в мире, где инструмент редактирования генома CRISPR находится в эксклюзивном контроле частных компаний.
Эксперты за пределами фронтирных лабораторий могут изучать, как ChatGPT и Claude ведут себя, но не могут проводить детальные исследования их устройства и обучения — и уж тем более не могут влиять на то, как эти системы проектируются и тренируются. Наука оказалась в положении внешнего наблюдателя: она изучает чёрный ящик снаружи, тогда как самое интересное происходит внутри, за закрытыми дверями.
Вопросы, которыми OpenAI и Anthropic заниматься не станут
Многие стипендиаты программы сознательно выбирают темы, которые вряд ли окажутся в поле зрения корпораций. «Я стараюсь не работать над проблемами, которые, как мне кажется, будут решены технологической компанией», — говорит Анжали Филд, профессор компьютерных наук Университета Джонса Хопкинса.
Логика проста: компаниям нужно зарабатывать, и исследовательские вопросы с низким коммерческим потенциалом могут не стоить вложений — особенно если ответы на них способны представить саму компанию в невыгодном свете. Недавно Филд провела исследование, в котором обнаружила: языковые модели дают менее содержательные ответы на запросы, сформулированные в манере, более характерной для женщин, чем для мужчин. Трудно представить, чтобы подобная работа вышла из Anthropic или OpenAI.
Таким образом у академической науки обнаруживается неожиданная ниша: она становится независимым аудитором индустрии, задающим неудобные вопросы о предвзятости, справедливости и социальных последствиях технологий. Именно эта роль — критика и проверяющего — всё чаще определяет повестку университетских лабораторий.
ИИ — это далеко не только чат-боты
Существует и целое сообщество исследователей ИИ, которые вообще не работают с языковыми моделями. Это учёные, создающие специализированные модели для анализа данных, прогнозирования и даже симуляции целых физических систем. Они не обязательно конкурируют с фронтирными лабораториями — команда Google DeepMind, создавшая удостоенную Нобелевской премии модель AlphaFold для предсказания структуры белков, была расформирована в прошлом месяце. Но и своих проблем у них хватает.
На встрече несколько участников выразили обеспокоенность тем, как повсеместное непонимание «неязыкового» ИИ вредит их работе. Исследователи, создающие специализированные инструменты для борьбы с изменением климата, например, с трудом отстаивают свои проекты, когда широкая публика уверена, что «ИИ» означает «пожирающие энергию языковые модели». Репутационная тень чат-ботов ложится на всю дисциплину целиком.
Математики первыми почувствовали угрозу
За последние полгода появился и новый источник тревоги. Модели OpenAI решили ряд реальных исследовательских задач в математике, и некоторые эксперты опасаются, что у людей может не остаться будущего в чистой математике как профессии. Одна из стипендиаток призналась в разговоре, что беспокоится о психическом здоровье своих коллег-математиков.
Впрочем, есть и основания для сдержанного оптимизма. Эмпирическая наука может оказаться куда сложнее для автоматизации, чем математика: сбор данных — по своей природе медленный процесс, который нельзя ускорить одной лишь вычислительной мощностью. Физический эксперимент, полевые наблюдения, клинические испытания — всё это требует времени, которое никакой GPU не сожмёт.
Почему учёные не собираются сдаваться
Часть исследователей видит в ИИ-математиках и ИИ-учёных не угрозу, а подспорье. Среди них — Тим Деттмерс, компьютерный учёный из Университета Карнеги — Меллона, работающий над тем, чтобы сделать модели быстрее и дешевле в эксплуатации. ИИ-учёные не заменят людей, уверен он — напротив, они сделают человеческих исследователей гораздо эффективнее и позволят наконец заняться всеми смелыми и вдохновлёнными идеями, до которых иначе руки бы никогда не дошли.
К тому же учёные — народ живучий. Те самые ограничения в ресурсах, которые не позволяют им обучать фронтирные модели, подталкивают их к открытию способов делать модели меньше и эффективнее — или к исследованию совершенно новых архитектур. История науки знает немало примеров, когда прорыв рождался именно из дефицита, а не из изобилия.
И если следующий большой скачок в ИИ произойдёт не в крупной корпорации, а в цепкой университетской лаборатории, удивляться не придётся. Для России этот вывод звучит особенно актуально: при ограниченном доступе к передовым вычислительным мощностям именно компетенции в эффективных архитектурах и прикладных нишах могут стать конкурентным преимуществом отечественных исследовательских коллективов.
Источник: MIT Technology Review