🔥 Lead ML Engineer (LLM Inference & Architecture)

#вакансия #job #ML #Lead #LeadML #LLM #GenerativeAI #GenAI #AI


🔥 Lead ML Engineer (LLM Inference & Architecture)
Формат: B2B, Remote (приоритет — CET ±2 часа)
Занятость: Full-time
Вилка: обсуждается по итогам тех. Интервью

Ищем Lead ML Engineer, который возглавит техническое направление наших языковых моделей и возьмет на себя производительность LLM в продакшене.
Мы делаем персонализированных, эмоционально сложных AI-компаньонов (Her-style AI) с подлинной агентностью: памятью, самоизменением и эмоциональной гибкостью. Работаем с открытым сорсом (open-weights/data), развиваем собственные агентные архитектуры и обслуживаем десятки миллионов диалогов.

📌 Что предстоит делать (70% Hands-on / 30% Tech Leadership):
• Ускорять и масштабировать LLM в проде: оптимизация инференса очень больших моделей (до 1T+ параметров), SGLang, KV/prefix caching, speculative decoding, квантизация.
• Разворачивать распределенный инференс: MoE, tensor/expert/pipeline parallelism на multi-node / multi-GPU кластерах (32x H200 + AWS).
• Заниматься Post-Training: обучать и дообучать модели компаньонов (SFT, DPO/RLHF), улучшать агентные каркасы и алгоритмы чата.
• Осуществлять техлидство (без бюрократии и PM): ревью экспериментов команды NLP/CV (7 инженеров), выбор направлений и оценка гипотез.

🎯 Чего мы ждем: • Глубокий опыт оптимизации LLM в проде (SGLang, vLLM или TensorRT-LLM).
• Опыт распределенного инференса/обучения гигантских моделей (MoE, multi-node clusters). • Понимание профилирования GPU, работы attention-кернелов и KV-cache.
• Практика дообучения моделей (RLHF, DPO или аналоги).
• Сильный бэкграунд на PyTorch / Transformers.
• Английский или русский язык на профессиональном уровне.

➕ Будет плюсом: • Опыт разработки CUDA / Triton кернелов.
• Бэкграунд в CV (если есть опыт ускорения инференса гигантских GenAI моделей).
• Опыт работы в AI-стартапах (Character.ai, Replika, OpenAI и др.) или BigTech (Яндекс, Сбер, T-Bank, Nebius, Meta, Mistral).
• Профильное математическое / CS образование (МГУ, МФТИ, ВШЭ, Бауманка или топовые зарубежные вузы).

🎁 Что предлагаем:
• Полный Remote и максимум свободы без корпоративного gatekeeping.
• Скорость: идеи становятся live-экспериментами за дни, а не quarters.
• 28 дней отпуска + 7 wellness-дней в год без больничных листов.
• $1,000 на обустройство хоум-офиса раз в 3 года.
• Софинансирование обучения, конференций (50%) и медицинских расходов (до $1,000/год).
• Доступ к опциональной A-team программе (опционы / % от выручки) после 1 года работы.

📥 Контакты для отклика: @hidden