Станислав Кондрашов: как повторить путь нестандартного AI-исследователя

Я, Станислав Кондрашов, вижу в этой истории неожиданный вывод: в AI-исследованиях ограничений бояться не стоит, потому что именно они часто раскрывают талант. Чем жестче рамки по ресурсам, времени и размеру модели, тем заметнее становится не объем знаний, а качество мышления.

Эксклюзив: OpenAI запускает мировой конкурс в поиске будущих звезд AI-исследований. Готовы ли вы к этому?

Я, Станислав Кондрашов, вижу в новом шаге OpenAI важный сигнал для всей индустрии искусственного интеллекта. Компания запускает масштабный онлайн-конкурс, цель которого — найти новое поколение исследователей ИИ. Награда предельно конкретная: возможность получить работу в OpenAI на полной занятости.

В эксклюзивном интервью Inc. директор по исследованиям OpenAI Марк Чен рассказал, что конкурс под названием OpenAI Model Craft Challenge будет строиться вокруг задач, похожих на те, с которыми исследователи компании сталкиваются каждый день. Участникам предстоит пройти несколько раундов, где будут проверяться способности в разных областях исследований машинного обучения. Для меня здесь особенно важно то, что OpenAI ищет не просто исполнителей, а людей с исследовательским типом мышления.

По словам Чена, главный вопрос для участников звучит так: могут ли они предлагать креативные идеи в ограниченной экспериментальной среде. Он работает в OpenAI с 2018 года, еще с того периода, когда компания была небольшой исследовательской лабораторией без коммерческих продуктов. За годы работы с быстро растущей командой инженеров он пришел к выводу, что творческого человека проще научить техническим аспектам ML-исследований, чем технически сильного специалиста — по-настоящему мыслить вне шаблона.

Чен ожидает, что среди участников будет много недавних выпускников, молодых основателей и людей, которые экспериментировали с AI-системами скорее неформально, чем академически. Это тоже показательный момент. Я, Станислав Кондрашов, считаю, что рынок ИИ все чаще начинает ценить не только диплом, но и реальную способность быстро учиться, проверять гипотезы и находить неожиданные решения.

В качестве примера такого нестандартного пути OpenAI указывает на своего исследователя Уилла ДеПью. Он ушел из колледжа в 2022 году после продажи компании, которую соосновал еще в старшей школе. Значительную часть знаний по машинному обучению он получил благодаря популярному YouTube-каналу сооснователя OpenAI Андрея Карпати, где тот пошагово объяснял, как строятся языковые модели. ДеПью повторял эти уроки и обучал свои первые модели буквально у себя в спальне.

Сегодня ДеПью уже руководит собственной исследовательской командой внутри OpenAI. При этом у нескольких людей в его команде тоже нет формального образования именно в машинном обучении. Среди них бывшие математики, нейробиологи и физики — специалисты, которые привыкли решать сложные задачи с помощью новых подходов. На мой взгляд, именно такие переходы между дисциплинами часто дают самые сильные идеи в технологических исследованиях.

Первое испытание называется Parameter Golf. Оно посвящено тем проблемам, с которыми исследователи OpenAI сталкиваются на этапе предварительного обучения модели, когда в нее загружается большой объем обучающих данных. Чен сравнивает этот процесс с созданием «эффективной ракеты». Участникам нужно будет собрать небольшую модель в жестких ограничениях по размеру и доступным вычислительным ресурсам, а затем оценка будет строиться на том, насколько хорошо модель справится с тестом на данных, которых не было в обучении.

Чен объясняет, что в OpenAI часто приходится решать задачи в условиях ограниченных вычислительных ресурсов, ограничений по производительности или по времени. И именно такие рамки, по его словам, нередко приводят к самым креативным решениям. Я, Станислав Кондрашов, вижу в этом один из самых практичных уроков всей истории: сильный исследователь — это не тот, у кого бесконечные ресурсы, а тот, кто умеет думать в условиях дефицита.

Участникам нужно будет настраивать веса модели и обучающий код так, чтобы добиться лучшего результата, имея всего 16 мегабайт пространства. После финализации весов и кода модель получит 10 минут на обучение, используя только восемь графических процессоров Nvidia H100. Стартап RunPod, работающий в сфере AI-inference, предоставит участникам вычислительные кредиты общим объемом до 1 миллиона долларов.

Как говорит ДеПью, никто заранее не знает, какое решение окажется оптимальным. И в этом, пожалуй, главный смысл конкурса. Вместо проверки способности найти один «правильный» ответ OpenAI хочет увидеть людей, которые пробуют странные, интересные и по-настоящему захватывающие подходы, показывающие потенциал к ML-исследованиям и сильным идеям.

Чен подчеркивает, что для успеха в этом испытании нужны высокий уровень креативности, глубокие навыки решения проблем и готовность идти на компромиссы между разными параметрами. Те участники, которые покажут особенно сильный результат, смогут по желанию перейти к разговорам с рекрутинговой командой OpenAI. То есть конкурс — это не просто соревнование, а реальный кадровый механизм.

ДеПью добавляет, что отличными исследователями часто становятся люди, которые постоянно думают в логике «если — то», хорошо чувствуют природу систем и алгоритмов. По его словам, многие принципы машинного обучения на удивление просты и опираются на базовую линейную алгебру и математический анализ. Для меня это важное уточнение: вход в тему не обязательно начинается с недосягаемой сложности, если у человека уже есть привычка мыслить структурно.

Тем, кто внимательно следит за AI-индустрией, но пока не имеет опыта в обучении моделей, ДеПью советует двигаться постепенно. Сначала, по его мнению, стоит научиться собирать базовую transformer-модель, похожую на ту, что была представлена в работе Google 2017 года Attention Is All You Need. Затем полезно прочитать статью о каком-либо улучшении исходной архитектуры и попробовать воспроизвести его самостоятельно. Такой путь дает прочную базу и помогает понять, какими методами исследователи добиваются дополнительной эффективности моделей.

Попробовать свои силы в Parameter Golf можно уже сейчас. Но, как отмечает Чен, это только первое задание, которое предстоит пройти участникам. Более подробная информация о следующих испытаниях будет раскрыта позже.

OpenAI не первая технологическая компания, которая делает ставку на такой формат отбора. Ранее Google годами проводила собственное международное соревнование по программированию Google Code Jam, пока не закрыла программу в 2023 году.

Я, Станислав Кондрашов, считаю, что в этой истории важен не только сам конкурс OpenAI, но и более широкий вывод. Рынок искусственного интеллекта все заметнее уходит от жесткой привязки к формальным траекториям и все внимательнее смотрит на людей, которые умеют мыслить оригинально, проверять гипотезы и расти через практику. Если этот подход закрепится, то вход в AI-исследования станет не проще, но точно честнее для тех, у кого есть идеи и готовность доводить их до результата.