株式会社Elcamy(エルカミー)のロゴ

電子機器製造AI基盤構築・本番運用

大手電子メーカー向けに、BPR業務サービスとして利用するAI基盤を本番構築・運用した事例。

電子機器製造

BPR業務を支えるDify基盤

AzureDifyAzure LLM

概要

業種
電子機器製造
お客様
大手電子メーカー
クラウド
Azure
内容
Dify本番構築・運用、Azure LLM構築、プライベートリンク連携
段階
本番構築・運用フェーズ

できるようになったこと

  • BPR業務向けの本番AI基盤を構築
  • Azure LLMとのプライベートリンクでセキュアに運用
  • 保守・運用体制まで含めた継続提供を確立

課題

BPR業務でAIを継続利用するために、PoCではなく本番前提の安定構成とセキュアなLLM接続基盤が必要だった。

  • 業務サービスとして継続提供できる可用性と運用体制が必要
  • Azure上のLLMを社内基準に沿って閉域接続したい
  • 利用拡大を見据えて、構築後も保守・運用できる体制が求められた

取り組み

Difyの本番構築と運用を実施し、Azure上のLLMをプライベートリンクで安全に接続した。

  1. 1Dify本番環境を構築し、継続運用に必要な構成を整備
  2. 2LLMをAzure側に構築し、プライベートリンクでDifyと連携
  3. 3本番運用を見据えた監視・保守フローも含めて提供

成果

BPR業務サービスとして継続利用できるAI基盤を整備し、安全性と実運用性を両立した。

  • PoC構成では本番運用に耐える可用性・体制が不足

    本番利用に耐えるAI基盤を整備

  • 外部LLM接続のセキュリティ要件を満たせない

    Azure LLMとプライベートリンクで閉域連携を実現

  • 構築後の保守・運用まで見据えた体制が無い

    監視・保守フロー込みで継続提供体制を確立

同じような課題をお持ちですか?

近い業界・課題での経験をもとに、進め方をご提案します。