AI/ML Engineer (NLP)

Навыки

• ASR / TTS
• Чат-боты
• CUDA / ONNX / TensorRT
• Docker
• JSON
• База знаний
• Linux

Задачи

• jobs #Астана
• Формат/working arrangement: гибрид / на месте работодателя, проектная занятость
• Должность/position: AI/ML Engineer (NLP)
• Место работы/workplace: ТОО CROCOS
• Обязанности/responsibilities
• Развёртывание open-source LLM (Mixture-of-Experts, ≥20B параметров) на on-premise GPU-сервере заказчика
• Настройка RAG-пайплайна: подключение базы знаний контакт-центра, настройка векторного поиска, chunking и retrieval-стратегий
• Конфигурация системных промптов, тональности ответов и фильтрации персональных данных
• Настройка function calling и генерации структурированного вывода (JSON/XML) для интеграций
• Оптимизация инференса: параллельная обработка запросов и управление GPU-памятью
• Интеграция LLM с low-code платформой через REST API
• Настройка мониторинга, логирования запросов и метрик качества ответов
• Подготовка технической документации по LLM-компоненту
• Требования/requirements

Требования

• Опыт развёртывания open-source LLM (Qwen, Mistral, DeepSeek, LLaMA и аналогов) от 1 года
• Понимание архитектур MoE, трансформеров и механизмов внимания
• Опыт построения RAG-систем с использованием LangChain, LlamaIndex или аналогов
• Опыт работы с векторными БД (Qdrant, Chroma, FAISS)
• Практический опыт работы с GPU-серверами (CUDA, vLLM, llama.cpp, Ollama или аналоги)
• Уверенное знание Python
• Понимание REST API
• Базовые знания Docker и Linux
• Навыки подготовки технической документации

Будет плюсом

• Опыт работы с ASR/TTS системами
• Опыт решения NLP-задач для казахского языка
• Опыт оптимизации моделей (quantization, GGUF, AWQ)
• Участие или достижения в соревнованиях Kaggle
• Условия/working conditions
• Проектная занятость сроком на 4 месяца с возможностью перехода в штат
• Работа над внедрением AI-диспетчера (голосовой + чат-бот) для крупной дорожной компании
• Современный стек: Python, LLM (MoE ≥20B), vLLM / llama.cpp, RAG, GPU Linux
• Выплаты за проект
• График работы: 5/2, 8-часовой рабочий день
• Старт проекта: июнь 2026 года
• Контакты для связи/Contact information: https://hh.kz/vacancy/134204667?query=Python+Developer+%28Data+%2F+ML%29&hhtmFrom=vacancy_search_list

Условия

• Заработная плата/salary estimate: от 500 000 до 1 000 000 ₸ в месяц (на руки)
• Гибридный формат работы или удалённая работа по согласованию

Паспорт вакансии

История публикации

Откуда что взялось

Отмечено то, что вывели мы. Без пометки — значение назвал работодатель.

Почему на этом месте в выдаче

Порядок выдачи объявлен контрактом: свежесть решает между днями, полнота и зарплата — внутри дня.