企業が生成AIを利用する際、情報漏えいにつながる懸念や、大規模データゆえに正確性の担保が難しいなどの課題があります。また、社会規範に反する表現などの不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要とされています。

株式会社NTTドコモは、これらの課題に着目し、生成AIを活用する際の安全性と利便性向上のための「LLM付加価値基盤」を開発しました。

そしてこのたび、NTTドコモグループ3社（株式会社NTTドコモ、NTTコミュニケーションズ株式会社、NTTコムウェア株式会社）が、同基盤を活用した実証実験を開始。社内業務のDX推進や、生成AIの付加価値を高める新たなサービス提供を目指します。

生成AIの安全性・便利性を高める「LLM付加価値基盤」

「LLM付加価値基盤」は、プロンプト入力時に回答のもととなるマニュアルなどのファイルを追加投入することで、ファイルの内容をもとに回答を生成し、回答にファイル内のリファレンスを表示する機能を搭載。ユーザーは、回答の根拠を確認できるでしょう。

また、パーソナルデータなどLLMへの入力が好ましくないデータをチェックし、流出を防止するフィルタリング機能や、社会規範に反する表現などの不適切な回答を低減するフィルタリング機能も提供予定です。

同基盤は、Azure OpenAI Serviceと連携して利用可能。今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダが提供するLLMを活用し、ユースケースに合わせさまざまなLLMを選択して利用できる基盤として拡張する見通しです。

実験の概要と今後の展開

今回の実証実験では、2023年8月21日（月）～12月31日（日）の期間、「LLM付加価値基盤」をNTTドコモグループ3社で活用します。

まずは、全従業員の業務効率化に向け、社内業務において同基盤を活用。例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答するという活用法が挙げられています。

同基盤を活用して社内業務のDXを推進し、そこで得られたノウハウをもとに、顧客応対業務などより多くの業務への適用を検討するとのことです。

また、同実験で得られたノウハウをもとに同基盤の最適化を行い、法人顧客との検証を経て、2023年度中のサービス提供開始を目指します。

さらに、同基盤を株式会社NTTドコモが保有するビッグデータや音声認識/画像認識などのAI技術と組み合わせることで、法人顧客とともに新たな付加価値サービスの検討を開始する方針です。

参考元：https://prtimes.jp/main/html/rd/p/000000003.000126160.html

（文・Higuchi）