- 「タイミーMLOpsエンジニアが描く、LLM基盤の夢妄想」
https://tech.timee.co.jp/entry/timee-llm-platform-design-2025
- 「LLMアプリケーション向けProduction Readiness Checklistの作成」
https://tech.timee.co.jp/entry/2025/11/04/113000
- 「Dev Container Feature で実現する ML 開発環境のガードレール」
https://tech.timee.co.jp/entry/2026/05/26/120628
- 「Docker Hardened Images から学ぶ、ビルド定義の抽象度」
https://tech.timee.co.jp/entry/2026/05/26/120826
https://tech.timee.co.jp/entry/2026/05/22/112812
- 「MLOpsエンジニアがAI Security Conferenceに参加してきたレポート」
https://tech.timee.co.jp/entry/2026/01/28/134844
業務内容
本ポジションのミッションは、LLM・AIエージェントの基盤を通じて、生成AIが生み出す事業価値を増幅させることです。
LLMは手軽に試せる一方、本番で使い続けるには、より複雑な課題への対応が必要です。本番運用に共通する複雑性を基盤側で引き受け、利用チームがユースケース固有の課題解決に集中できる状態を実現します。
個別のユースケースにおけるプロンプトやエージェント機能の設計・評価・改善は、主にプロダクトAI/MLエンジニアやソフトウェアエンジニアなどの利用チームが担います。本ポジションでは、これらのチームと連携し、モデル利用・評価・監視・変更管理を支える基盤、開発・運用環境、共通の運用パターンを設計・開発・運用します。
具体的な業務内容
検証した施策を、そのまま本番へつなげられる共通基盤の開発・運用 複数チームが共通の方法でLLMを利用するためのモデル利用基盤(LLM Gateway)や、AIエージェントの実行・外部ツール連携を支える基盤の設計・開発・運用
利用チームが個別に調整せずに、新しいモデルや機能を試し、切り替えられる仕組みの整備
クラウド、コンテナ、CI/CD、IaCを用いた再現性のある開発・実行環境の整備 **
安全性とコスト効率を標準で備えた仕組みづくり 認証・認可、Secret管理、利用制限、監査ログなどを組み込み、標準の利用方法で安全にモデル・ツールを使える環境の整備
セキュリティ・法務・事業部門と連携した、個人情報・機密情報の取り扱い、AI利用ポリシー、ガードレールの整備
利用量・コストの可視化と、用途に応じたモデル選択、キャッシュ、利用制限などによるコスト最適化
品質を確かめながら届け、改善し続けられる運用づくり 利用チームと連携した評価データセット・評価方法の整備と、自動評価と人による確認を組み合わせた、リスクに応じた評価・レビューの仕組みづくり
プロンプト・モデルのバージョン管理、変更時のリグレッションテスト、リリース・切り戻し、提供終了に伴う切り替えの仕組みづくり
出力品質、応答時間、エラー率などを把握するログ・メトリクス・トレースと、フォールバック、アラート、Runbookの整備
利用チームとの協働と、標準化・セルフサービス化の推進 個別のLLMアプリケーション・AIエージェントが抱えるインフラ・運用上の課題に対するアーキテクチャの設計・実装・改善
個別案件で得た知見を、共通ライブラリ、テンプレート、チェックリスト、ドキュメント、自動化へ反映
本番導入時に確認すべき品質・安全性・運用要件と、共通化する範囲・ユースケース側に残す責任の整理
既存のモデル利用・評価・監視の仕組みの見直しと、共通基盤・標準パターンへの段階的な移行・定着
これらを一度にすべて整備するのではなく、既存の基盤・運用知見と利用チームの課題を踏まえ、優先順位をつけて進めます。共通化によって開発を進めやすくする一方、ユースケースごとに必要な柔軟性を残すことも大切にしています。
技術スタック(主要な部分の抜粋)
クラウド Google Cloud
開発言語 Python
データ基盤 BigQuery / Fivetran / dbt Cloud
ML / LLM基盤 Vertex AI / MLflow / LiteLLM / Datadog LLM Observability
BIツール Looker / Looker Studio
IaC Terraform
開発環境・ツール Visual Studio Code / Cursor / Claude Code / GitHub Copilot / Devin / GAS etc
扱っているデータ
- アプリユーザーのアクセスログ、募集内容に関する情報
- マッチングに関する情報
- レビューや評価情報や、アプリインストールなどの広告効果に関わるデータ
- 問い合わせに関するデータ
- 営業活動情報のデータ
上記のようなデータを扱っております。
このポジションの魅力
基盤がLLM活用の広がりに左右するため、影響力が大きい 不正検知からプロダクト体験、社内業務まで、LLM・AIエージェントの活用は領域を問わず広がっています。安全に使える基盤があるかどうかが、活用の広がりと成果を左右します。
これまでの土台を活かし、標準をつくることができる LLM活用を支える基盤や、本番導入時の品質・安全性を確認する仕組みはす