ニュース
複数の生成AIを活用し、処理を高度化する新機能「AI多段階推論」を実装
「AmiVoice Communication Suite（アミボイス コミュニケーション スイート）」に、通話内容や目的、用途に合わせて複数の生成AIを使い分け、処理を段階的に分担することで、精度向上・効率化・コスト最適化を実現する「AI多段階推論」機能を実装しました。
「AmiVoice Communication Suite」は、国内シェアNo.1※1のコンタクトセンター向けAI音声認識ソリューションです。2024年8月にはオプションとして、ローカル環境でセキュアに利用可能な生成AI「AOI LLM for AmiVoice Communication Suite（アオイ エルエルエム フォー アミボイス コミュニケーション スイート 以下、AOI LLM）」の提供を開始し、2025年2月には外部生成AI連携機能をリリースしました。
本機能は、「AmiVoice Communication Suite」および「AOI LLM」を導入いただいてる企業様から、「通話内容に応じて、最適なプロンプトに自動で切り替える仕組みを導入したい」というニーズを受けて開発しました。コンタクトセンターにおける通話では、「配送日を変更したい」「スタッフの対応が悪かった」など、問い合わせ内容や目的によって必要な要約や情報抽出などのポイントが異なるため、従来の単一の生成AIによる処理では十分な対応が難しく、精度や業務効率に課題がありました。
そのような中「AmiVoice Communication Suite」は、通話内容や目的、用途に合わせて複数の生成AIを組み合わせ、段階的に活用することで、より的確かつ柔軟な処理を可能にした新機能「AI多段階推論」を実装しました。
「AI多段階推論」の各工程でどのような処理を実行するかは、お客様ごとに柔軟な設定が可能です。目的や用途に応じて最適な生成AI・プロンプトを選定し切り替えることで、生成AIの出力品質を高め、より高度かつ柔軟な処理を実現します。本機能により、従来の単一の生成AIによる処理では対応が難しかった複雑な話題の整理や、多面的な情報処理にも対応できるようになります。また、タスクの難易度に応じて安価な生成AIと高性能な生成AIを使い分けることで、コストの最適化にも貢献します。
なお本機能は、通話に含まれるキーワードに応じて使用する生成AI・プロンプトを設定することも可能です。さらにCTI連携をしている場合は、システムで定義されたスキルに応じて使用する生成AI・プロンプトを自動的に変えることもできます。
■「AI多段階推論」の活用例
①問い合わせ内容を分類し、コールリーズンに応じて要約
1段階目の生成AIが通話内容を分析し、「住所変更」「カード紛失」「利用明細の確認」などのカテゴリに分類します。分類結果に基づき、2段階目の生成AIが、それぞれのカテゴリに最適化されたプロンプトを用いて要約処理を実行します。コールリーズンに応じた要約を自動化することで、オペレーターの業務負荷を大幅に軽減し、後処理時間の削減に貢献します。
②CTI連携により通話の属性情報に応じて生成AIを活用
インバウンドコールでは生成AIが通話内容の要約・分析を行い、アウトバウンドコールではスクリプト提案行うなど、CTI連携により通話の属性に応じたAI活用を行うことが可能です。また「契約情報の更新」「解約対応」など、システムで定義されたスキルごとに生成AIの処理内容を設定することで、より柔軟かつ的確な支援を行い、オペレータースキルに依存しない高品質な応対を実現します。
③ローカル型とクラウド型の生成AIを組み合わせ、セキュアな運用を実現
1段階目に、ローカル環境でセキュアに利用可能な生成AI「AOI LLM」を活用し、氏名・住所・電話番号などの個人情報をマスキングします。次に、マスキング済みのテキストデータをクラウド型の生成AI（ChatGPTなど）に渡し、要約・分類・分析などの高度な処理を実行します。個人情報を含まないデータのみをクラウド型の生成AIに渡すことで、セキュリティポリシーが厳しい業種・業界でも安心してご利用いただけます。
④複数の生成AIを活用し、ハルシネーションを抑制
異なる生成AIを組み合わせ、特定のモデルに依存したハルシネーションを抑制する効果も期待できます。例えば、1段階目の生成AIが出力した要約結果を、2段階目の生成AIに通話データとともに再提示することで、内容の整合性や妥当性を検証・補完することができます。複数の生成AIを活用することで、誤った情報の生成を防ぎ、より信頼性の高いアウトプットを得ることが可能です。
■「AI多段階推論」の特長
1. 複数の生成AIを目的ごとに組み合わせ、精度向上と効率化を実現
通話内容や目的、用途に合わせて複数の生成AIを組み合わせることで、より的確かつ柔軟な処理を実現し、生成AIによる出力結果の精度向上と大幅な業務効率化を支援します。使用する生成AI・プロンプトや処理の内容は、お客様ごとに設定することが可能です。
2. タスク難易度に応じた生成AI選定でコストを最適化
生成AIに実行させる処理の難易度に応じて、安価な生成AIと高性能な生成AIを使い分けることで運用コスト最適化し、業務効率とコストパフォーマンスの両立を実現します。
3. さまざまな業務で柔軟に活用できる汎用性
通話内容の分類や分析、要約、情報抽出、整文、個人情報のマスキング、ハルシネーションチェックなど、コンタクトセンターにおけるあらゆる目的でご活用いただけます。コンシューマー向けの問い合わせ窓口から、個人情報を扱う保険・金融などのコンタクトセンターまで、幅広い業種・業界での利用が可能です。
※1 出典：ITR「ITR Market View：画像・音声認識市場2024」音声認識市場―コンタクトセンター業務向けベンダー別売上金額シェア（2024年度予測）