⽬次

1. はじめに
2. サービスの概要
3. 環境構成
　3-1. アーキテクチャ図
　3-2. 主なコンポーネントと役割
　3-3. 運⽤フロー
4. カスタマイズ・拡張性
5. 導⼊メリット
6. 今後の展望
7. 終わりに

1. はじめに

こんにちは。DXビジネス事業部のはしです。


今回は、⽣成AI環境の導⼊を検討している企業の皆様に向けて、弊社のサービスをご紹介したいと思います。


⽣成AIは、業務の効率化などが期待されていますが、⾃社内に展開し社員に利⽤してもらうにあたっては、どのように進めればよいか悩んでいる⽅もいらっしゃるのではないでしょうか。
弊社の「⽣成AI環境構築サービス」は、セキュリティを重視し、お客様の要件に応じたカスタマイズが可能な環境を提供します。


この記事では、サービスの概要から具体的な環境構成、導⼊メリットまでを解説し、企業の皆様が⾃社に最適な⽣成AI環境を構築するための参考となる情報をお届けできればと思っています。
また記載している内容は、執筆時点(2025年6⽉)での内容となります点について、ご留意ただければ幸いです。

2. サービスの概要

弊社の社内向けに展開している⽣成AI環境を、お客様の環境に最適化してご提供します。


このサービスには、以下の主要な機能が含まれています。

  • チャットボット︓⾃然⾔語でのコミュニケーションを通じて、ユーザーの質問に応じた迅速な回答を提供します。
  • RAG（Retrieval-Augmented Generation）: ⾃社内のドキュメントやナレッジベースを検索し、正確な情報を提供する機能です。これにより、⾃社固有の情報に基づいた的確な回答が得られます。
  • APIキーによるアクセス制御︓APIキーを利⽤して、チャットボットやRAGを含む各種アプリケーションへのアクセスを管理します。また、社員向けにAPIキーを払い出すことで、⾃社で便利なツールを開発し、業務の効率化を図ることも可能です。

 

標準構成では、弊社が定めたプラットフォームをそのまま展開しますが、お客様の具体的なニーズに応じてカスタマイズ対応も⾏っております。

 

本サービスをご利⽤いただいて構築した環境は、お客様の資産としてご利⽤可能であり、⽣成AI内製化のスタートダッシュを切ることができると考えています。


また、お客様の内製化のご⽀援を⾏うことも可能です。
新しくAPIサーバを追加したり、アプリケーションを追加するなど、お客様の環境に最適な対応が可能です。

 

このサービスの具体的な構成に関しては、以降のセクションで詳しく説明しますので、引き続きご覧ください。

3. 環境構成

3-1. アーキテクチャ図

標準では、以下のような構成となっています。

3-2. 主なコンポーネントと役割

  • Frontend

ユーザーがチャットボットやRAGの機能にアクセスできるインターフェースを提供します。

 

  • API GW

APIキーによるアクセス制御や、CrePTサーバへのリクエストのルーティングを⾏います。

 

  • CrePT

Azure環境上のリソースを呼び出し、チャットボットやRAGにおける応答⽣成を⾏います。
利用できるモデルの制御や、レートリミットなどの機能もこちらで提供しています。
現在利用できるモデルはGPT4oシリーズ、GPT4.1シリーズ、o-シリーズの一部です。

 

  • Azure

チャットボットで利⽤するAzure OpenAIや、RAGで利⽤するAI Search、Frontendで提供している⾳声の入出力で利用するSTT/TTSなどの、リソースを提供します。

3-3.運⽤フロー

本サービスの運⽤フローは、GitHubを⽤いたソースコード管理およびGitHub ActionsによるCI/CDのプロセスを中⼼に構築されています。

 

  • ソースコード管理

プロジェクトはGitHubにて管理されており、ブランチ戦略を採⽤しています。
ブランチ戦略は、お客様のご要望に応じてカスタマイズ可能です。
プルリクエストを通じたコードレビューにより、品質の確保とチーム内の知識共有が促進されています。

 

  • CI/CDプロセス

GitHub Actionsを利⽤して、ソースコードがリポジトリにプッシュされるたびに⾃動でビルドとテストが実⾏されます。
テストが通過すると、各環境に⾃動デプロイが⾏われます。

4. カスタマイズ・拡張性

状況に応じて、以下のようにお客様ご⾃⾝ででカスタマイズや拡張を⾏うことが可能です。

 

  • Frontendへの新規アプリケーション開発

チャットボットやRAGだけでなく、お客様⾃⾝で新しいアプリケーションを作成し、Frontendに追加することができます。

 

  • 社員が作成するクライアントアプリケーション環境

社員の⽅が独⾃にクライアントアプリケーション環境を構築し、業務に役⽴てることも可能です。

実際に弊社内でも、管理部門の業務をRPAを利用して効率化する事例もございます。

 

  • CrePTへのAPIエンドポイントの追加

CrePTにAmazon Bedrockなど、他のLLMを呼び出すAPIエンドポイントを作成することにより、さらなるAIリソースの利⽤が可能となります。

 

  • ローカルLLMのAPIサーバ追加

CrePT以外にも、ローカルで動作するLLM（⼤規模⾔語モデル）のAPIサーバを追加し、⾃社のニーズに特化した環境を構築することができます。

 

本サービスは、基本的には環境構築までをターゲットとしていますが、お客様のご要望があれば、弊社にて保守や運⽤サポートも⾏うことができます。
これにより、より安⼼してサービスをご利⽤いただけるサポート体制が整っています。

5. 導⼊メリット

本サービスでは、すでに弊社で利⽤実績のある⽣成AI環境を基にし、⽐較的短期間でご利⽤が可能です。


これにより、次のようなメリットが得られると考えています。

  • 迅速な導⼊︓既存の実績をベースに構築されるため、開発にかかるコストや時間を⼤幅に削減でき、早期にビジネスのニーズに応じた機能を利⽤できます。
  • リスクの軽減︓すでに検証済みのソリューションを使⽤することで、未検証の新しい技術導⼊によるリスクを⼤幅に低減します。
  • 柔軟性と拡張性︓⾃社の特性や業務フローに合わせたカスタマイズが可能で、⼀層の業務効率化を図ることができます。
  • 競争⼒の向上︓⽣成AIの活⽤により、業務の効率化やサービスの向上が実現し、他社と⽐べた際の競争優位性が強化されます。

6. 今後の展望

現在はAzure OpenAIで提供されているモデルのみを使⽤していますが、Amazon Bedrockに対応するなど、利⽤可能なモデルを増やしていきたいと思っています。


また、利⽤している社員からのフィードバックをもとに、より使いやすいアプリケーションにしていきたいと考えています。

7. 終わりに

簡単にではありますが、弊社のサービスを紹介させていただきました。
本サービスがお客様のビジネスにどのように貢献できるか、ご検討いただければ幸いです。


もし本サービスにご興味がございましたら、サービス紹介ページより、資料請求もしくはお問い合わせください。お待ちしております。