
Azure OpenAI Serviceは、Microsoftのクラウド「Microsoft Azure」上で、OpenAIの生成AIモデルをAPI経由で利用できるサービスです。2023年1月17日に一般提供が始まり、現在のMicrosoftの公式資料では、Microsoft Foundry(旧Azure AI Foundry)のモデル提供の一部として「Azure OpenAI in Foundry Models」と案内されています。
ChatGPTのような完成済みのチャットアプリではなく、自社のアプリや業務システムに組み込んで使うための基盤です。今回は、Azure OpenAI Serviceの概要と、OpenAI API・ChatGPTとの違い、料金の仕組み、企業で使うときのメリットと注意点、導入の流れを解説します。
|
この記事の要点 ・Azure OpenAI Serviceは、Microsoft Azure上でOpenAIの生成AIモデルをAPI経由で利用し、自社のアプリや業務システムに組み込めるサービス ・現在はMicrosoft Foundry(旧Azure AI Foundry)のモデル提供の一部で、Microsoftの製品ページでは「Azure OpenAI in Foundry Models」と案内されている ・ChatGPTは完成済みのアプリ、Azure OpenAI ServiceとOpenAI APIはシステムに組み込むためのもの。両者の違いは契約先と管理の仕組みで、入出力はどちらも標準ではモデルの学習に使われない ・料金はStandard(従量課金)・Provisioned(処理容量の確保)・Batch(非同期処理)の3方式が基本。金額はモデル・方式・地域などで変わる ・企業で使うときは、データの保存条件・処理場所・アクセス権を確認する |
Azure OpenAI Serviceとは?
はじめに、Azure OpenAI Serviceの概要と、Microsoft Foundryとの関係について解説します。
Azure OpenAI Serviceの概要
Azure OpenAI Serviceは、OpenAIの生成AIモデルをMicrosoft Azure経由で利用し、自社のアプリや業務システムに組み込むためのサービスで、Microsoft社が2023年1月17日に一般提供を開始しました。Azure(アジュール)とは、Microsoft社が提供しているクラウドコンピューティングサービスであり、AWSやGoogle Cloudなどと並んで代表的なクラウド上のプラットフォームです。
ChatGPTというアプリをそのまま利用するサービスではなく、モデルを使って文章の生成・要約、画像の分析、推論、ツールと連携する業務支援などの機能を自社のシステムに実装します。利用できるモデルや機能は、モデルの種類・バージョン・リージョンによって異なります。
利用資格は、法人のメールアドレスかどうかだけでは決まりません。原則としてAzureの顧客がアクセスの対象で、限定アクセスの対象となるモデルや、一部の設定の変更には申請が必要です。
出典:Microsoft Azure(Azure OpenAI Serviceの一般提供の発表)/Microsoft Learn(Azureが直接提供するモデル)/Microsoft Learn(Azure OpenAIのアクセス条件)
Microsoft Foundryとの関係
Microsoft Foundryは、AIのモデル・ツール・エージェント・管理機能をまとめたMicrosoftの基盤です。2025年11月には、旧Azure AI FoundryからMicrosoft Foundryの名称で機能が整理されました。
Azure OpenAI Serviceは、このMicrosoft Foundryのモデル提供の一部に位置づけられており、Microsoftの製品ページでは「Azure OpenAI in Foundry Models」と表記されています。モデルを試したりデプロイしたりする開発画面も、以前のAzure OpenAI StudioからMicrosoft Foundryポータルに変わりました。
出典:Microsoft Learn(Microsoft Foundryとは)/Microsoft Foundry Blog(2025年10〜11月の更新)/Microsoft Azure「Azure OpenAI in Foundry Models」/Microsoft Learn(Microsoft Foundryのセットアップ)
Azure OpenAI ServiceとOpenAI API・ChatGPTの違い
「OpenAIとの違い」を考えるときは、比較の相手が、OpenAIが直接提供するAPI(OpenAI API)なのか、利用者が画面で使うChatGPTなのかを分けると理解しやすくなります。ここでは、ChatGPTとの違い、OpenAI APIとの違い、どちらを選ぶかの目安を解説します。
ChatGPTとの違い
ChatGPTは、利用者が画面で質問や指示を入力して使う、完成済みのアプリです。一方、Azure OpenAI ServiceとOpenAI APIは、開発者が自社のアプリや業務システムにAIの機能を組み込むためのものです。
課金の仕組みも異なります。ChatGPTの有料プランが1ユーザー当たりの月額で設定されているのに対し、Azure OpenAI ServiceとOpenAI APIは利用量に応じて課金されます。
出典:OpenAI ヘルプ(ChatGPTとAPIの請求設定)/Microsoft Azure「Azure OpenAI in Foundry Models」
OpenAI APIとの違い
Azure OpenAI ServiceとOpenAI APIは、どちらもOpenAIのモデルを使ってアプリケーションを開発できるサービスです。主な違いは、契約先と、データの処理条件、アクセス管理や接続・運用の仕組みにあり、おもな違いは下表のとおりです。
| 比較項目 | Azure OpenAI Service | OpenAI API |
|---|---|---|
| 提供・運用 | MicrosoftがAzure上で提供・運用 | OpenAIが直接提供 |
| 契約・請求 | Azureのサブスクリプションを通じて請求(Azureの請求にまとめられる) | OpenAIのAPI料金体系で、OpenAIから請求 |
| 入力・出力の学習利用 | 許可・指示なく基盤モデルの学習に使わない | 標準では学習に使わない(明示的にデータ共有を設定した場合は別) |
| データの保存・処理場所 | 機能とデプロイ方式による。Global方式では国外で処理されることがある | APIの機能・設定・契約条件による。対象の顧客向けに地域別の保存機能がある(国内での処理の保証とは別) |
| 認証・権限 | Microsoft Entra ID・Azure RBAC | OpenAI側の組織・プロジェクトの管理機能 |
| プライベート接続 | 仮想ネットワーク・プライベートエンドポイントに対応 | Azure Private Linkに対応(利用には申請・調整が必要) |
| 利用状況の管理 | Azure Monitorなどで監視 | Usage Dashboardなどで利用量・費用を確認 |
| サポート | Azureのサポートプランに応じた技術サポート | OpenAIのサポート窓口(対応条件は契約で確認) |
| SLA | AzureのSLAの対象(条件はデプロイ方式と契約で異なる) | Scale TierなどSLAを伴う提供方式がある |
| 料金体系 | Standard(従量課金)・Provisioned(PTU)・Batch | 従量課金・Batch・Reserved Tierなど |
| 使えるモデル | Azureで提供されるモデルから選ぶ(リージョンによって提供範囲が異なる) | OpenAIのAPIで提供されるモデルから選ぶ |
表のとおり、「OpenAI APIは学習に使われ、Azureなら使われない」という違いではありません。どちらも入力・出力を標準ではモデルの学習に使わず、違いは契約先と、認証・接続・処理場所を自社の管理の仕組みに合わせられるかどうかにあります。
また、MicrosoftのFAQが説明しているのは、APIの互換性と、同じOpenAIのモデルを使えることです。すべての機能や出力が同じになるとは限らないため、比較するときは、モデルのバージョン、利用するAPI、設定をそろえ、自社の業務データで評価しましょう。
出典:Microsoft Learn(Azure OpenAIのFAQ)/Microsoft Learn(データ・プライバシー・セキュリティ)/Microsoft Learn(Azure OpenAIの監視)/OpenAI(ビジネスデータの取り扱い)/OpenAI(APIのデータ管理)/OpenAI(Private Link)/OpenAI(Scale Tier)/OpenAI ヘルプ(APIの利用状況と費用の確認)
どちらを選ぶかの目安
社員が対話型AIをすぐに使いたい場合はChatGPTの法人向けサービス、自社のシステムや顧客向けのサービスにAIを組み込みたい場合はAPIが検討の対象です。そのうえで、Azure OpenAI ServiceとOpenAI APIは、次のような観点で選ぶと判断しやすくなります。
- Azure OpenAI Service:すでにAzureを利用している、Microsoft Entra IDやネットワークの設定で利用を統制したい、請求やサポートをAzureにまとめたい場合
- OpenAI API:必要なモデルやAPIの機能をOpenAIから直接使いたい、Azureとの統合が必要ない場合
なお、データの扱いの要件によっては、OpenAIが2025年8月に公開したオープンウェイトモデル「gpt-oss」を、自社の環境で動かす方法も比較対象になります。
出典:OpenAI「Introducing gpt-oss」
Azure OpenAI Serviceの特徴・メリット
続いて、Azure OpenAI Serviceの特徴・メリットについて解説します。おもな特徴・メリットは以下のとおりです。
- 強固なセキュリティー環境で利用できる
- 用途に合わせてさまざまなAIモデルを選べる
- 社内の情報活用や業務システムとの連携に利用できる
- 可用性・処理性能の要件に合わせて構成を選べる
- 運用要件に合わせたサポートプランを選べる
- 海外拠点への展開とデータ処理場所を考慮できる
強固なセキュリティー環境で利用できる
Azure OpenAI Serviceの特徴・メリットの一つは、強固なセキュリティー環境でOpenAIのモデルを利用できる点です。Microsoft Entra IDによる認証とアクセス制御や、Private Linkのプライベートエンドポイントを組み合わせ、パブリックネットワークからのアクセスを制限するなど、自社のセキュリティーポリシーに沿った構成を設計できます。
また、入力・出力のデータはOpenAIに提供されず、許可や指示なく基盤モデルの学習に使われることもありません。保存や監視の条件など、企業で使うときの確認点は後半で解説します。
出典:Microsoft Learn(Azure AIのセキュリティの推奨事項)/Microsoft Learn(データ・プライバシー・セキュリティ)
用途に合わせてさまざまなAIモデルを選べる
Azure OpenAI Serviceでは、推論・テキスト生成、画像生成、音声、検索用の埋め込みなど、用途の異なるモデルを選べます。主なモデルの系列は次のとおりです。
| 用途 | モデルの系列 | 主な機能・確認すること |
|---|---|---|
| 推論・テキスト生成 | GPT系の言語モデル | 推論・画像入力・ツール利用に対応するモデルがある。対応する入力形式・API・扱える長さはモデルごとに違う |
| 画像生成 | GPT-Image系 | DALL-EはAzureでの提供を終了し、GPT-Image系への移行が案内されている。使えるリージョンを確認する |
| 音声 | リアルタイムの音声対話に使うモデル | 提供リージョンを確認し、必要な言語を本番に近い音声で検証する |
| 検索用の埋め込み | 埋め込み(Embedding)モデル | テキストをベクトルに変換し、社内文書の検索などに使う |
ただし、モデル一覧に載っていても、自社の契約や日本のリージョンですぐに使えるとは限りません。提供終了の予定もあるため、公式のモデル一覧とリージョン別の提供表で確認しましょう。
出典:Microsoft Learn(Azureが直接提供するモデル)/Microsoft Learn(リージョン別の提供状況)/Microsoft Learn(提供を終了したモデル)/Microsoft Learn(画像生成)/Microsoft Learn(Realtime API)
社内の情報活用や業務システムとの連携に利用できる
Azure OpenAI Serviceは、社内の情報活用や業務システムとの連携にも利用できます。ただし、Azure OpenAI単体で社内のファイルやデータベースを検索するわけではありません。社内文書を検索・参照させるには、Azure AI Searchなどの検索基盤と組み合わせる構成をとります。
また、Foundry Agent Serviceを使えば、検索・コード実行・関数・OpenAPI・MCPなどのツールを組み合わせた業務フローも作れます。
なお、社内データを参照させる従来の機能「Azure OpenAI On Your Data」は非推奨となり、新しいモデルの追加も停止されました。Microsoftは2026年10月14日を提供終了日としており、Foundry Agent ServiceとFoundry IQへの移行を推奨しています。
出典:Microsoft Learn(Azure OpenAI On Your Data)/Microsoft Learn(Foundry Agent Service)
可用性・処理性能の要件に合わせて構成を選べる
Azure OpenAI Serviceでは、デプロイ方式を選ぶことで、従量課金のStandardと、処理容量を確保するProvisionedを使い分けられます。Provisionedは、処理量や応答時間の変動を抑えたい用途の選択肢です。ただし、利用量には上限(クォータ)があります。Provisionedのクォータがあっても空き容量は保証されず、縮小した後の再拡張も保証されません。
SLA(サービス品質保証)の対象や条件は、デプロイ方式と契約によって異なります。たとえば、Developer方式にはSLAがありません。SLAには条件に応じたサービスクレジットの規定もあるので、本番運用の前に、適用される最新のSLAを確認しましょう。
また、Azure OpenAI Serviceはクラウドサービスであることから、導入にあたってハードウェアやソフトウェアを調達する必要がありません。
出典:Microsoft Learn(デプロイ方式)/Microsoft Learn(Provisioned throughput)/Microsoft(オンラインサービスのSLA)
運用要件に合わせたサポートプランを選べる
Azureには、開発環境や本番運用などの要件に応じたサポートプランが用意されています。請求・サブスクリプション管理のサポートは含まれますが、技術サポートの内容や初回応答時間は、購入したサポートプランと問い合わせの重大度によって異なります。
日本語のサポートにも対応していますが、日本語での24時間365日の対応は重大度Aのみとされているため、自社の運用時間に合う条件かを確認しましょう。
出典:Microsoft Azure(サポートプラン)/Microsoft Azure(サポートに関するFAQ)
海外拠点への展開とデータ処理場所を考慮できる
Azure OpenAI Serviceは、Microsoft Azureのインフラを利用しており、複数のリージョンを使って海外拠点への展開を検討できます。ただし、使えるモデルとデプロイ方式はリージョンによって異なります。日本については、Japan Eastで使えるモデルが公式の提供表に掲載されています。
また、デプロイ方式によって、データが処理される場所も変わります。
出典:Microsoft Learn(リージョン別の提供状況)/Microsoft Learn(データ・プライバシー・セキュリティ)
Azure OpenAI Serviceの料金
Azure OpenAI Serviceの料金は、ChatGPTのような1ユーザー当たりの月額ではなく、利用するモデルとデプロイ方式によって決まります。主な課金方式は次の3つです。
| 課金方式 | 費用の考え方 | 向いている使い方・確認点 |
|---|---|---|
| Standard(従量課金) | 入力・出力などのトークン数に応じて課金 | 開発・検証や、利用量が変動するシステム。モデル・入力の種類・キャッシュ・処理場所を確認する |
| Provisioned(PTU) | 確保した処理容量に対して課金(利用量にかかわらず時間単位で課金される) | 大量の利用が続き、応答性能を安定させたい本番システム。必要な容量と予約条件を確認する |
| Batch | 非同期処理向けの割引料金(Global BatchはGlobal Standard比で50%割引) | 即時の応答が不要な大量処理(分類・要約・データ変換など)。完了の目標は24時間で、それ以上かかる場合もある |
実際の費用は、課金方式に加えて、次のような条件でも変わります。
- 利用するモデル
- 入力と出力のトークン数(言語モデルの価格表は、主に100万トークン当たりの単価で表示されている)
- キャッシュ(対応モデルでは読み取りに割引があり、一部の新しいモデルでは書き込みにも料金が発生する場合がある)
- 推論トークン(回答に表示されなくても出力として課金される。会話やエージェントの処理が続くと、履歴も入力に含まれる)
- 入力の長さ(一部のモデルでは、入力の長さによって単価の区分が変わる)
- 画像・音声(GPT-Image系はテキスト入力・画像入力・画像出力を分けたトークン料金。音声にも別の料金欄がある)
- デプロイ方式と地域、契約条件、為替
- 検索・ストレージ・ログ・ネットワークなど、関連サービスの費用
見積もりには、公式の価格ページとAzure料金計算ツールを使います。Azure OpenAI Serviceには予算の超過を自動で止める上限がないため、Cost Managementで予算の通知を設定し、運用を始めた後も使用額を確認しましょう。
OpenAI APIと価格を比べる場合も、どちらが必ず安いとはいえません。同じモデル・同じ処理方式で、関連サービスの費用も含めて比較することが大切です。
料金体系は変更となる可能性もあるため、最新情報は以下の公式ページよりご確認ください。
参考:Azure OpenAI Service の価格
出典:Microsoft Learn(デプロイ方式)/Microsoft Learn(プロンプトキャッシュ)/Microsoft Learn(推論モデル)/Microsoft Learn(費用の管理)
Azure OpenAI Serviceの活用例
ここでは、Azure OpenAI Serviceの活用例として、以下の項目について説明していきます。
- AIチャットボットの構築
- データ分析によるマーケティング支援
- プログラミングのサポート
- コールセンター業務の改善
- 業務システムと連携するAIエージェントの開発
AIチャットボットの構築
Azure OpenAI Serviceを活用することで、AIチャットボットを構築できます。たとえば、Azure AI Searchなどと組み合わせると、社内規程や製品マニュアルを検索し、その結果をもとに回答するAIチャットボットを作れます。このように、検索した情報を回答の生成に使う仕組みがRAG(検索拡張生成)です。
顧客向けのFAQや社内問い合わせの一次対応に使う際は、回答に参照元を表示し、利用者の権限に応じて検索対象を絞りましょう。RAGを使っても誤った回答は起こりうるため、回答の品質を評価し、担当者へ引き継ぐ条件を決めておくことが大切です。
また、AIチャットボットを使えば、質問への回答だけでなく文章の要約や議事録の作成なども可能です。
データ分析によるマーケティング支援
Azure OpenAI Serviceの活用例として、データ分析によるマーケティング支援も挙げられます。たとえば、顧客データや売上データを集計・可視化して各顧客の購買動向や商品ごとの顧客層を把握し、その結果を説明する文章を作成するといった使い方です。Foundry Agent ServiceのCode Interpreterと組み合わせると、CSVファイルをもとにPythonコードを実行し、分析やグラフの作成を支援できます。
実務では、集計条件や計算結果を担当者が確認したうえで、施策の判断材料に使います。なお、Code Interpreterにはモデルの利用料とは別の料金がかかるため、利用頻度も含めて費用を見積もりましょう。
出典:Microsoft Learn(Code Interpreter)
プログラミングのサポート
Azure OpenAI Serviceは、プログラミングのサポートにも活用できます。自然言語で要件を伝えてコードのたたき台を作成するなど、開発作業を効率化する使い方です。推論モデルは、複雑なコード生成や問題解決の支援にも対応しています。
生成したコードは、開発担当者が要件との整合性や安全性をレビューし、テストしたうえで使いましょう。なお、コード生成による支援とノーコード開発は別のものです。画面操作を中心にアプリやエージェントを作りたい場合は、Copilot Studioなどの開発環境もあります。
出典:Microsoft Learn(推論モデル)/Microsoft Learn(Azure OpenAIの責任ある利用)/Microsoft(Copilot Studio)
コールセンター業務の改善
Azure OpenAI Serviceは、コールセンター業務にも活用できます。たとえば、通話内容の文字起こしとAzure OpenAI Serviceによる要約を組み合わせれば、対応記録の作成の支援が可能です。また、顧客からの問い合わせ内容や通話ログを分析し、多く寄せられる問い合わせを可視化しておくことで、対応スピードの向上を実現できます。
これまでの問い合わせ履歴やレビュー情報を分析してFAQの改善候補を整理し、重要な情報をWebサイトなどに掲載しておけば、問い合わせ数の減少を図ることも可能です。
音声で対話するシステムでは、Azure OpenAI ServiceのRealtime APIも選択肢になります。Azure Speechは日本語の音声認識・音声合成に対応していますが、導入前に実際の通話音声で精度を評価しましょう。
出典:Microsoft Learn(通話のリアルタイム文字起こし)/Microsoft Learn(Realtime API)/Microsoft Learn(Azure Speechの対応言語)
業務システムと連携するAIエージェントの開発
Azure OpenAI Serviceは、業務システムと連携するAIエージェントの開発にも使えます。Responses APIでは、会話に加えて、ツールの呼び出しやCode Interpreterを扱えます。Foundry Agent Serviceを使えば、検索・関数・OpenAPIなどのツールを組み合わせて、業務APIと連携した問い合わせ対応などを作ることも可能です。
なお、通常のfunction callingでは、関数の実行そのものはアプリ側が担います。接続先の権限や操作範囲の設計は、次の章で解説します。
出典:Microsoft Learn(Responses API)/Microsoft Learn(function calling)/Microsoft Learn(Foundry Agent Service)
Azure OpenAI Serviceを企業で使うときの注意点
Azure OpenAI Serviceを選べば、それだけでデータの保護が完結するわけではありません。企業で使うときは、以下の3点を確認しましょう。
- 「学習に使われない」と「保存されない」は別
- 日本のリージョンに作っても、国外で処理されることがある
- アクセス権とAIエージェントの操作範囲を設計する
「学習に使われない」と「保存されない」は別
前述のとおり、入力・出力は基盤モデルの学習には使われません。ただし、学習に使われないことと、データが保存されないことは別です。会話の状態を保持するAPIやファイル機能などでは、履歴が保存される場合があります。また、不正利用の監視では、必要に応じて人がレビューします。
機密情報を扱う前に、利用する機能の保存・監視の条件と、社内のルールを確認しましょう。
出典:Microsoft Learn(データ・プライバシー・セキュリティ)
日本のリージョンに作っても、国外で処理されることがある
Global方式でデプロイすると、日本のリージョンに作成したリソースを使っていても、推論が国外で処理される場合があります。国内での処理が要件であれば、データの保存場所と推論の処理場所を分けて確認し、要件に合うデプロイ方式とモデルを選びましょう。厳密な国内処理の要件がある場合は、対象の構成についてMicrosoftに確認すると安心です。
なお、日本語を扱えることと、国内で処理されることは別の条件です。
出典:Microsoft Learn(データ・プライバシー・セキュリティ)/Microsoft Learn(デプロイ方式)
アクセス権とAIエージェントの操作範囲を設計する
アクセス管理では、Microsoft Entra IDによる認証、Azure RBACによる権限管理、プライベートエンドポイントによる接続制限を組み合わせます。
AIエージェントを業務システムと連携させる場合は、接続先の権限と実行できる操作を必要な範囲に絞りましょう。外部の資料やツールの応答に埋め込まれた不正な指示による攻撃も、想定しておく必要があります。Microsoftは2025年のIgniteで、エージェント単位のガードレールを発表しました。
出典:Microsoft Learn(AIアプリの認証と権限管理)/Microsoft Learn(ネットワークの設定)/Microsoft Foundry Blog(2025年10〜11月の更新)/Microsoft Learn(ガードレール)
Azure OpenAI Serviceの導入方法
Azure OpenAI Serviceを導入する際は、以下の手順に沿って進めます。
- Azureのサブスクリプションと利用権限を用意する
- 用途に合うモデルと、提供地域・処理場所・料金・利用上限を確認する
- リソースを作成し、Microsoft Foundryポータルでモデルをデプロイする
- プレイグラウンドで試し、APIやSDKからアプリに接続する
1. Azureサブスクリプションと利用権限の準備
はじめに、有効なAzureサブスクリプションと、それを利用できるアカウントを準備します。Microsoft Azureサブスクリプションは、Microsoft Azureを利用するために必要な契約です。社内ですでにAzureを利用している場合は、既存のサブスクリプションを使えるか管理者に確認しましょう。新しく契約する場合は、契約内容やサポートプランに応じて自社に合ったものを選択します。
あわせて、リソースの作成やモデルの利用、担当者へのアクセス権の付与に必要な権限も確認しておきます。
出典:Microsoft Learn(Microsoft Foundryのセットアップの前提条件)
2. モデル・提供地域・利用条件の確認
続いて、用途に合うモデルを選び、提供地域・処理場所・料金・利用上限を確認します。対応する機能や扱える長さ(コンテキスト長)はモデルとバージョンによって異なり、提供終了の予定もあります。
通常の利用では、サービスへのアクセス申請を行って承認を待つ必要はありません。ただし、一部の制限付きモデルや、安全性設定の特別な変更には申請が必要です。
また、利用上限(クォータ)は、サブスクリプション・リージョン・モデル・デプロイ方式ごとに割り当てられます。足りない場合は、増枠を申請しましょう。
出典:Microsoft Learn(限定アクセスの対象)/Microsoft Learn(モデルの提供終了スケジュール)/Microsoft Learn(クォータの管理)
3. リソース作成およびモデルのデプロイ
確認ができたら、Azureポータルにログインし、Azure OpenAI用のリソースを作成します。続いて、Microsoft Foundryポータルで利用したいモデルを選択してデプロイします。デプロイの際に設定するのは、モデルのバージョン、デプロイ方式、デプロイ名、利用上限、コンテンツフィルターなどです。
従来のAzure OpenAIリソースを使う場合は、Foundryの「classic」画面を指定する公式手順を参照してください。エージェントを開発する場合は、Microsoft Foundryのリソースとプロジェクトを作成する手順もあります。
出典:Microsoft Learn(Azure OpenAIリソースの作成とデプロイ)/Microsoft Learn(Microsoft Foundryのセットアップ)
4. 動作検証とアプリケーションへの接続
モデルのデプロイまでできたら、Microsoft Foundryポータルのプレイグラウンドで応答を試し、APIやSDKを使ってアプリケーションに接続します。APIで呼び出す際に指定するのは、エンドポイントとデプロイ名です。
認証には、APIキーのほかMicrosoft Entra IDも使えます。マネージドIDを使えば、キーを保存せずに接続することも可能です。
本番で利用する前には、自社の日本語データを使って、回答の品質・応答時間・費用・コンテンツフィルターの動作を検証しましょう。主要なテキストフィルターは日本語でも学習・検証されていますが、用途に応じたテストが必要です。
出典:Microsoft Learn(Azure OpenAIリソースの作成とデプロイ)/Microsoft Learn(キーを使わない接続)/Microsoft Learn(既定の安全性ポリシー)
Azure OpenAI Serviceに関するよくある質問
Azure OpenAI Serviceとは何ですか?
Azure OpenAI Serviceは、Microsoftのクラウド「Microsoft Azure」上で、OpenAIの生成AIモデルをAPI経由で利用し、自社のアプリや業務システムに組み込めるサービスです。2023年1月17日に一般提供が始まりました。現在はMicrosoft Foundry(旧Azure AI Foundry)のモデル提供の一部として、「Azure OpenAI in Foundry Models」と案内されています。ChatGPTのような完成済みのアプリではなく、開発者がAIの機能を組み込むための基盤です。
Azure OpenAI Service の料金はいくらですか?
Azure OpenAI Serviceの料金は、1ユーザー当たりの月額ではなく、利用するモデルとデプロイ方式で決まります。主な方式は、トークン数に応じた従量課金のStandard、処理容量を確保するProvisioned、非同期処理向けの割引料金が適用されるBatchの3つです。入力・出力の量、キャッシュ、推論トークン、地域、契約条件によっても費用は変わります。最新の料金は、公式の価格ページとAzure料金計算ツールでご確認ください。
Azure OpenAI ServiceとOpenAI APIの違いは何ですか?
どちらもOpenAIのモデルを使ってアプリケーションを開発できるサービスです。違いは、提供・契約先がMicrosoftのAzureか、OpenAIの直接提供かという点と、管理の仕組みにあります。Azure OpenAI Serviceでは、Microsoft Entra IDによる認証やプライベートエンドポイント、Azureの請求・サポートを利用できます。入力・出力は、どちらも標準ではモデルの学習に使われません。処理場所はAzureでもデプロイ方式によって変わり、OpenAI APIにも申請制のPrivate Linkがあります。同じモデルでも、バージョンや設定をそろえて自社のデータで評価しましょう。
Azure OpenAIは無料で利用できますか?
Azure OpenAI Serviceは、使った量に応じて料金が発生するサービスです。たとえばStandardでは、入力・出力のトークン数に応じて課金されます。予算の超過を自動で止める上限はないため、試すときは少量から始め、Cost Managementで予算の通知を設定して使用額を確認しましょう。
Azure OpenAI Serviceを活用して、自社のセキュリティー要件に沿ってAIを利用しよう
Azure OpenAI Serviceは、OpenAIの生成AIモデルをMicrosoft Azure上でAPI経由で利用し、自社のアプリや業務システムに組み込めるサービスです。現在はMicrosoft Foundryのモデル提供の一部として案内されており、用途に応じて推論や画像・音声の処理などに対応するモデルを選べます。
入力・出力はOpenAIに提供されず、許可や指示なく基盤モデルの学習に使われることはありません。ただし、利用する機能によってはデータが保存され、不正利用の監視で人がレビューする場合もあります。自社のセキュリティー要件に沿って使うには、Microsoft Entra IDによる認証と権限管理、プライベートエンドポイントによる接続制限に加え、デプロイ方式ごとの処理場所を確認することが大切です。
活用例としては、AIチャットボットの構築やデータ分析によるマーケティング支援、プログラミングのサポート、コールセンター業務の改善などが挙げられます。チャットによる応答の支援に加え、業務データやツールと連携するAIエージェントの開発も選択肢になります。まずは対象の業務を絞って検証し、実際の業務での品質・応答時間・費用を評価しながら導入を進めましょう。
SEデザインは1985年の創業以来、外資系IT企業のブランドローカライズをはじめ、日系・外資を問わず多くのテクノロジー企業のマーケティングを支援してきました。生成AIをコンテンツ制作にどう取り入れるか、AI検索で引用される記事をどう作るかといったご相談にも対応しています。業務の効率化や顧客へのアプローチでお困りの際は、お気軽にSEデザインへご相談ください。