Azure Open AI Serviceで社内ChatGPTを構築してみた
こんにちは皆さん!
昨今はOpen AI や Microsoft、Meta など大規模LLM の開発が進んでおり、AI ブームが止まりませんね。
多くの企業がAIを盛り上げている一方、企業データのセキュリティについて懸念を抱いていて、多くの企業は仕事でChatGPTの利用を禁止しているかと思います。
今回は、ChatGPTを社内のAzureに閉じた環境で利用できるAzure Open AI Service を使って社内ChatGPT環境を構築してみます。
最近は、BingChatEnterpriseなどデータ漏洩の心配なくChatGPTを使えるサービスもありますが、Azure Open AI サービスを利用することで、
社内のデータ取り込み(Add your data機能)や、ログ収集などカスタマイズを施していくことも可能になります。
Add your data機能についてはこちらの記事で紹介しています。
では早速作っていきましょう。
Web App VNET統合とプライベートエンドポイント用のサブネット作成
初めに閉域環境でAzure Open AIサービスを利用できるようにプライベートエンドポイントを準備します。
対象のVNET で「+サブネット」をクリックして、web appのVnet統合用と、Azure Open AI用のプライベートエンドポイント用のサブネットを作成します。
Web App 用のサブネットを作成。
Azure Open AI 用のサブネットを作成。
Azure Open AI Serviceのデプロイ
Azure Portal > Azure Open AI から「作成」をクリック。
アジアリージョンで作成できるようになったので、Japn Eastを選択します。
パブリックのアクセスを無効にします。
プライベートエンドポイントを作成します。
Chatgptモデルのデプロイ
作成したAzure Open AI のリソース開き、[Azure Open AI Studio に移動する]をクリックします。
チャット > 新しいデプロイの作成と進みます。
モデルを選択し、デプロイの名前を任意で設定し作成します。
※2023年7月時点でgpt-35-turboはadd your dataがサポートされていないようです。
Add your data 利用時はgpt-35-turbo-16kを選択してください。
作成するとChatGPTプレイグランドのページが表示されます。
デプロイしたモデルとチャットもできます。
右上にある[Deploy to]ボタンからフロントエンドのWebAppをデプロイすることができます。
デプロイするWeb Appのパラメーターを設定し、デプロイします。
デプロイ完了後、Azure Portal から対象のWeb Appリソースを開き、ネットワーク > Vnet 統合から
Vnet統合を有効にします。
この際、初めに準備したwebapp用のサブネットに統合しましょう。そうすることで、WebAppからの通信がVnet内からAzure Open AIの
プライベートエンドポイントを通じて閉域で通信可能になります。
設定が完了したら、Chat GPTを利用することができます!
このチャットのやり取りはAzure内で完結するため、モデルの学習等で使われることはなく外部にデータが流出することはありません。
別の記事で、社内データをChatGPTに取り込み回答させることができる「Add your data」機能や、プロンプトのログの取り方等も解説していきます。
社内ChatGPT導入をご検討中の方へ
上記でご紹介した様な社内向けChatGPTの導入をご検討中の方へ、社内ChatGPTを導入する際には、不安や疑問がつきものですよね。
自社データと連携したChatGPTでどこまで精度が出るのか、またユーザーが本当に使うようになるのか・・・。
そこで、それらの不安を解消すべく、社内ChatGPTの成功のポイントを解説するセミナーを企画しました。
マイクロソフトのスペシャリストが登壇し、社内ChatGPTの成功に必要な情報をお話しします。
8月28日(月)に日本マイクロソフト品川本社で開催しますので、ご興味お持ちいただけましたらぜひお申し込みください!
\ マイクロソフトのスペシャリストが登壇 ! /
どうぞよろしくお願いいたします。
この記事を書いた人
- 髙橋 和輝
-
テクニカルマーケターとして、新技術の検証、ブログ執筆、セミナー講師を行っております!
学生時代はアプリ開発に興味がありましたが、インフラ、セキュリティ事業を経て、現在はクラウド屋さんになっております。
コロナ禍前は、月1で海外旅行にいくなどアクティブに活動していましたが、最近は家に引きこもってゲームが趣味になっています。
宜しくお願い致します!
この投稿者の最新の記事
- 2024年3月25日ブログOracle Database@Azureが東日本リージョンに展開されることが発表されました!
- 2024年3月22日ブログAzure SQL DatabaseでCopilotがプレビュー公開!
- 2024年3月18日ブログAzureリソースの誤削除を防ぐ「ロック」機能とは
- 2024年3月14日ブログCopilot for Security の一般公開日が発表