LLM Platform Engineer

Навыки

• AI-агенты
• API (интеграции)
• Bitbucket
• CI/CD
• CUDA / ONNX / TensorRT
• Docker
• Git

О компании и продукте

• Мы разрабатываем прикладные LLM-решения для внутренних продуктов и процессов: от ассистентов и автоматизации рутины до интеграции моделей с корпоративными системами. Фокус — надёжные прикладные сервисы.

Задачи

• проектировать и поддерживать MCP-серверы (Python/TypeScript): tools для LLM, auth, интеграция с корпоративными API (Bitbucket Server, EWS/Outlook, Grafana и др.)
• поддерживать и отвечать за единый реестр скиллов, плагинов и MCP-серверов
• участвовать в разработке безопасной среды исполнения агентов
• участвовать в выводе в prod/preprod: прототип
• мониторинг качества, latency и cost
• работать с кодовой базой и документацией, предлагать решения с учётом ограничений инфраструктуры Okko

Требования

• Обязательно: высшее техническое образование
• уверенный Python
• опыт backend-разработки и интеграций с API
• понимание современных LLM и LLM-приложений: prompt engineering, function/tool calling, RAG там, где нужен контекст
• опыт работы с Model Context Protocol (MCP)
• опыт интеграций через REST API и настройки доступа, плюсом — работа с системами контроля версий и review-процессами
• сильные навыки CI/CD: Docker/k8s, gitlab-ci, Jenkins
• опыт с трейсингом и логированием в контексте LLM: Langfuse, LangSmith, OpenTelemetry
• умение писать поддерживаемый код, тесты на критичные сценарии, документация
• опыт настройки инференса LLM (vLLM, SGLang, TensorRT). Желательно: опыт работы с векторными БД (Faiss, Chroma, Qdrant)
• опыт с LLM-платформами (OpenWebUI) и библиотеками оркестрации (чат-интерфейсы, LiteLLM, LangChain и аналоги)

Условия

• необходимое оборудование и софт для работы
• официальное трудоустройство
• ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки
• льготные условия ипотеки в рамках зарплатного проекта
• бесплатная подписка на сервисы партнёров
• корпоративный спорт
• насыщенная корпоративная жизнь
• электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам

Паспорт вакансии

История публикации

Откуда что взялось

Отмечено то, что вывели мы. Без пометки — значение назвал работодатель.

Почему на этом месте в выдаче

Порядок выдачи объявлен контрактом: свежесть решает между днями, полнота и зарплата — внутри дня.