NLP-разработчик в Алису
Мы — команда ML-исследователей и инженеров внутри Алисы. Строим первого в России автономного computer-use-агента, который умеет пользоваться компьютерными средами как человек: кликать, скроллить, заполнять формы, переключаться между приложениями и решать задачи пользователя автономно.
У нас уже есть работающий прототип в проде, платформа агентов на миллионы пользователей, GPU-кластеры, симуляторы сред и пайплайны обучения через GRPO-like-подходы. Нам нужен человек, который выведет RL-обучение агента на новый уровень.
Задачи и обязанности
Проектировать и запускать эксперименты по обучению агента взаимодействию с компьютерными средами
Вам предстоит придумывать и реализовывать новые RL-пайплайны — от формулировки reward-функций до архитектуры обучения на многошаговых траекториях с вызовами тулов. Вы будете работать с симуляторами сред и реальными траекториями: строить data flywheel от сбора данных до улучшения модели. Нужно будет обучать и файнтюнить большие модели, оптимизировать инференс для прода: FP8, дистилляцию, параллелизм.
Улучшать GUI grounding и визуальное понимание экрана (VLM-компоненты агента)
Вы будете участвовать в проектировании архитектуры агента: memory, planning, оркестрации тулов. Предстоит уделять внимание safety- и truthfulness-аспектам, доводить R&D-результаты до продакшна на платформе, обслуживающей миллионы пользователей.
Больше об ML в Яндексе — в канале Yandex for ML
Требования
- Имеете глубокий практический опыт с DL и RL: обучали модели через GRPO, GSPO, DAPO, Dr.GRPO, понимаете нюансы reward design, знаете, почему обучение разваливается и как это чинить
- Обучали большие модели — занимались файнтюнингом LLM и VLM не по туториалу, а в реальных задачах
- Обладаете исследовательским мышлением: умеете находить и критически оценивать статьи, вычленять применимые идеи и быстро проверять гипотезы
- Работаете с задачей от постановки эксперимента до результата в проде
- Уверенно владеете Python, PyTorch
Дополнительные требования
- Работали с VLM: занимались их обучением, файнтюнингом, инференсом
- Работали с multi-turn RL на траекториях взаимодействия с инструментами и средой
- Имеете публикации на топ-конференциях: NeurIPS, ICML, ICLR, ACL и т. д.
- Работали с computer use, web agents, GUI grounding