Hybrid MLOps Engineer

Posted 2 weeks ago

Apply now

About the role

  • オープンソースモデルを効率的に運用・管理し、コストと信頼性を最適化する
  • GPU、CPU、メモリリソース全体で高いパフォーマンスと安定性を確保する
  • モデル推論を監視・トラブルシューティングし、低レイテンシーと高スループットを維持する
  • エンジニアと協力し、スケーラブルで信頼性の高いモデルサービングソリューションを実装する

Requirements

  • vLLM や HuggingFace TGI などのモデルサービングプラットフォームの使用経験
  • Kubernetes、Ray、Modal、RunPod、LambdaLabs などを用いた GPU オーケストレーションの経験
  • レイテンシーやコストを監視し、トラフィック需要に応じて効率的にシステムをスケールできる能力
  • バックエンドエンジニア向けの推論エンドポイントの構築経験

Benefits

  • フラットな組織構造と本当のオーナーシップ
  • プロダクト方向性や意思決定への全面的な関与
  • 柔軟な勤務形態
  • プロダクト・データ・エンジニアリングを横断する高インパクトな役割
  • 市場最高水準の給与と成果に基づくボーナス
  • グローバルなプロダクト開発への参画機会
  • 充実した福利厚生 —— 住宅補助、高品質な社員食堂、残業食事補助
  • 健康・歯科・眼科保険
  • グローバル旅行保険(本人および扶養家族対象)
  • 無制限で柔軟な有給休暇制度

Job title

MLOps Engineer

Job type

Experience level

Mid levelSenior

Salary

Not specified

Degree requirement

Bachelor's Degree

Tech skills

Location requirements

Report this job

See something inaccurate? Let us know and we'll update the listing.

Report job