NLP-разработчик в команду качества претрейна Alice LLM

Навыки

• AI-инструменты в работе
• Data Quality
• LLM
• Machine Learning
• NLP
• Python

О компании и продукте

• Ищем ML-разработчика, который будет улучшать качество претрейна Alice AI LLM. Это направление, отвечающее за умность базовой модели и качество данных. Гонка LLM ускоряется: модели решают задачи в математике, коде, агентах, медицине, которые ещё недавно требовали участия человека. При этом крупные улучшения LLM происходят при обновлении и масштабировании претрейна: именно на этом этапе закладываются базовые способности модели, от которых зависит качество на всех последующих срезах. Мы считаем, что побеждает в этой гонке тот, кто эффективнее и быстрее улучшает претрейны, и вкладываемся в это направление: исследуем способы улучшения качества моделей, ставим тяжёлые вычислительные эксперименты, обрабатываем и синтезируем данные огромного масштаба. Результат нашей работы — это модели семейства Alice AI, которые доступны в одноименном сервисе
• Делая нашу модель умнее, вы улучшите главного и самого массового AI-ассистента в России, которым уже пользуется более 24 млн человек еженедельно. Что мы уже сделали. Наши текущие претрейн-модели уже успешно показали себя в предыдущих релизах Алисы

Задачи

• NLP-разработчик в команду качества претрейна Alice LLM
• Чем вам предстоит заниматься?
• Ризонинг-способности модели имеют доказанный профит в таких областях, как математика, код и агенты, но передовые игроки получают хорошие приросты качества за счёт рассуждений на более широком спектре задач: от финансов до компьютерных игр
• Наша цель — сделать рассуждающую модель Алисы сильнейшей в РФ и не только
• Какие задачи вас ждут Эксперименты с претрейн-моделями
• Ставить и анализировать вычислительно тяжёлые эксперименты с претрейн-стадией
• Проверять гипотезы об источниках прироста ризонинг-способностей внутри различных срезов умности
• Постановка и выбор сетапа эксперимента — это довольно творческий этап
• Пайплайны данных
• Строить эффективные пайплайны сбора обучающих данных, их синтеза, обработки и фильтрации в новых доменах
• Построенные пайплайны предстоит масштабировать и делать более эффективными
• Изменение процесса обучения
• Модифицировать процесс обучения модели для задач улучшения ризонинга. Внедрять изменения в обучающий пайплайн и оценивать их влияние на качество
• Экспертные модели
• Обучать модели-верификаторы для проверки качества данных и ответов
• Обучать модели для генерации обучающих данных, которые являются SOTA в своём узком домене
• Обучать модели-фильтры для отсева некачественных данных
• Исследование скейлинга
• Исследовать законы скейлинга качества модели с точки зрения данных и вычислений
• Определять, как масштабирование влияет на рост рассуждающих способностей в разных доменах
• Больше об ML в Яндексе — в канале Yandex for ML

Требования

• Глубоко разбираетесь в NLP
• Знаете Python и разрабатывали на нём
• От 3 лет
• Например, мы писали на Хабре , что показываем лучшее качество на фактовых и культурных срезах, замерах и не только
• Об исследованиях, которые легли в основу этих улучшений, мы говорили на Practical ML Conf 2025

Будет плюсом

• Обучали претрейн-модели в любой из модальностей (NLP, CV, звук, рекомендации)
• Строили эффективные CPU/GPU-пайплайны
• Погружены хотя бы в одну из областей исследования языковых моделей (RL, архитектуры или данные для LLM)

Условия

• Гибридный
• Удалённая работа

Паспорт вакансии

История публикации

Откуда что взялось

Отмечено то, что вывели мы. Без пометки — значение назвал работодатель.

Почему на этом месте в выдаче

Порядок выдачи объявлен контрактом: свежесть решает между днями, полнота и зарплата — внутри дня.