お客の「困った」を言い当てる！　ハルシネーション解消に導く生成AIチャットボットの「質問をひも解く」仕組みとは

2024/07/17（最終更新日：2024/07/17）

目次: +問い合わせ内容を特定するまでAIが対話する; +国産LLMとの連携も予定

カスタマーサポートDXを推進するカラクリ株式会社（以下、カラクリ）は、コールセンター向けに生成AI機能をAIチャットボット「KARAKURI chatbot」に搭載しました。

特許取得の同機能は、生成AI活用領域を「お客の質問をひも解くこと」にフォーカスすることで、事実と異なる回答の混在（ハルシネーション）リスクを回避できるそうです。

問い合わせ内容を特定するまでAIが対話する

2022年のChatGPTリリース以降、注目されている生成AI。コールセンターでのAI活用による業務効率化も期待されています。

カラクリは、『コールセンター白書2023』（リックテレコム株式会社）の調査から、73.1％のコールセンターが「生成AI活用による顧客対応の自動化」を期待する成果だと伝えています。

出典：リックテレコム社『コールセンター白書 2023』より引用

さらに、この調査では生成AIに回答させることで発生するハルシネーションへの不安も77.8％を占めているといいます。

それを受けてカラクリは、ハルシネーションの検知技術やRAG検索（※）によって対策を進めている企業も多いなか、数パーセント発生するハルシネーションの許容が難しく、生成AIの導入に足踏みをする傾向も見られる現状があると指摘しています。

※Retrieval-Augmented Generationの略。日本語では「検索拡張生成」といいます。大規模言語モデル（LLM）によるテキスト生成に、外部のデータベースから探した情報を組み合わせて回答を生成する仕組みのこと。

出典：リックテレコム社『コールセンター白書 2023』より引用

その問題解消のため、カラクリは生成AIの活用領域を「回答」生成ではなく、「質問」生成にフォーカス。同社提供の「KARAKURI chatbot」の新機能として搭載しました。

特許技術を用いたという新機能では、まず顧客の問い合わせ内容について文脈を読み取りながら特定していきます。質問を生成していくことで、生成AIのアウトプットが合っているのかユーザーが判断することが可能です。

そして、質問を特定できた後は、適格なチャネルへ誘導。事前にセットした定型回答や有人オペレーター・データ連携などへ引き継がれます。顧客の問い合わせ内容はFAQデータとして自動生成し、学習データにも使用されます。これにより、メンテナンスフリーのチャットボット運用も実現するとのことです。

国産LLMとの連携も予定

また、同社が6月20日（木）に発表した、国産LLM「KARAKURI LM 8x7B Instruct v0.1」との連携も予定しているそうです。

これにより、ChatGPTなどの汎用サービスでは困難だった、機密情報・個人情報の取り扱いにおけるオンプレミスやプライベートクラウドを組み合わせたプロセスの構築が実現するとのこと。

コールセンター業務において、対応時間が長くなる要因の1つに「質問を特定するまでの時間」があるといいます。カラクリは、お客と生成AIが協同して「質問特定」する新機能搭載の「KARAKURI chatbot」と国産LLM「KARAKURI LM 8x7B Instruct v0.1」との連携により、カスタマーサポート業務の自動化支援をさらに加速していきたい、と述べています。

＜参照＞

お客さまの困りごとを“ズバリ言い当てる”コールセンター向け生成AIチャットボットの提供開始

【関連記事】