Разработчик бэкенда в команду инфраструктуры рекомендательных систем

Навыки

• AI-инструменты в работе
• C++
• Креативы
• Анализ данных
• Flink
• Hadoop
• Java

О компании и продукте

• Реклама — один из самых высоконагруженных сервисов Яндекса, который выдерживает до 700K RPS и оперирует миллиардами объявлений. Мы занимаемся подготовкой, обработкой и доставкой данных под показывающий рантайм, а также быстрым сбором статистики: расчётом нейросетевых моделей, генерацией баннеров, построением умных индексов k-NN. Наши системы обрабатывают десятки гигабайт сжатых данных в секунду и оперируют стейтом в сотни терабайт. Некоторое время назад мы совершили квантовый скачок , когда перевезли ключевые компоненты с парадигмы MapReduce в стриминговую обработку данных
• Мы уже сделали быстрые профили всех основных рекламных сущностей. Теперь занимаемся инкрементальным обновлением всех рекламных баз и индексов. Real-Time Machine Learning. Помимо простой доставки обновлённых профилей до рантайма, особняком стоит задача дообучения нейросетевых моделей на свежих данных. Мы делаем первые шаги к переносу построения датасетов из MapReduce в RT
• Для этого мы активно развиваем собственный фреймворк потоковой обработки данных. Единая база Яндекс Рекламы. База с рекламными данными должна одновременно обладать свойствами, которые на первый взгляд выглядят конфликтующими: способность хранить десятки ТБ данных, обеспечивать высоконагруженный синхронный доступ и поддерживать регулярные массовые асинхронные неблокирующие модификации. Поэтому мы развиваем собственную реляционную базу поверх динамических таблиц YTSaurus

Задачи

• Разработчик бэкенда в команду инфраструктуры рекомендательных систем
• Научитесь писать многопоточный код на C++ и узнаете, чем отличаются файберы от тредов
• Поймете, как сменой аллокатора ускорить систему на 30% — или замедлить
• Разберетесь, как строить действительно exactly-once-системы
• Какие задачи вас ждут Быстрые рекламные данные
• Для бизнеса крайне важно, чтобы любое событие — будь то изменение цены товара или клик пользователя — как можно быстрее было учтено в финальном ранжировании
• Наша задача состоит в том, чтобы снижать эти задержки до минут и секунд
• Нам необходимо построить систему, которая способна с минутной задержкой обрабатывать более 10 ГБ/с входных данных, осуществляя оконный join сразу нескольких логов

Требования

• Имеете опыт разработки на C++ или желаете этому научиться
• От 5 лет

Будет плюсом

• Знакомы с YTSaurus, Hadoop, Spark, Flink, Kafka
• Офисы в Москве
• Офисы в Минске
• Как в Яндексе проходят алгоритмические секции собеседований
• Как мы нанимаем бэкенд-разработчиков
• Задачи для подготовки к собеседованиям

Условия

• Гибридный
• Наши доклады с конференций
• Эффективное обновление состояний в базе данных из сервисов потоковой обработки
• Как реклама Яндекса генерирует с помощью GPT-нейросетей заголовки для трёх миллиардов объявлений
• Что вы получите, если придёте к нам
• Узнаете, как правильно настраивать динтаблицы YTSaurus, чтобы удерживать любую нагрузку

Паспорт вакансии

История публикации

Откуда что взялось

Отмечено то, что вывели мы. Без пометки — значение назвал работодатель.

Почему на этом месте в выдаче

Порядок выдачи объявлен контрактом: свежесть решает между днями, полнота и зарплата — внутри дня.