サステックスのバックエンドエンジニア、鈴木です。

本記事では、Difyのナレッジ機能を用いて、社内FAQチャットボットを作成してみようと思います。

はじめに

多くの企業において、社内からの問い合わせ対応は大きな業務負荷となっています。特に頻繁に寄せられる質問（FAQ）への対応は、担当者の貴重な時間を消費し、本来注力すべき業務に支障をきたすことがあります。本記事では、この課題に対して、既存の社内FAQをナレッジベースとして活用し、Difyのチャットフローを用いてFAQチャットボットを構築する手順についてご紹介します。

事前準備

チャットボット構築を始めるにあたって、まずは社内FAQをまとめたエクセルファイルを準備しましょう。FAQデータの整理は、チャットボットの性能を左右する重要な工程です。エクセルファイルには、質問文とそれに対する回答を記載します。また、質問のジャンル分けやキーワードも含めることで、より効果的な検索が可能となります。この段階で丁寧にデータを整理することで、後のナレッジベース構築がスムーズになります。

Difyでのナレッジベース作成

ナレッジベース作成のために、上記のエクセルファイルをDifyにアップロードします。この際、「最大チャンク長」と「チャンクのオーバーラップ」の設定が必要になります。マイクロソフトの研究結果によると、512トークンの最大チャンク長、128トークンのオーバーラップが最適とされています。

https://techcommunity.microsoft.com/blog/azure-ai-services-blog/azure-ai-search-outperforming-vector-search-with-hybrid-retrieval-and-reranking/3929167#toc-hId—537705592

上記の理由から、１レコードに含まれるチャンク長が512トークンを超えそうな場合には、要約をするなどして文章量を抑えるのが望ましいです。

また、ハイブリッド検索を選択することで、キーワードベースの検索と意味ベースの検索を組み合わせた効果的な情報検索が実現できるため、精度の向上が期待できます。

「チャンクをプレビュー」をクリックすると、各チャンクに含まれる情報を確認できます。ここで１つのチャンクに、１レコード分の質問と回答がすべて含まれていることを確認してください。

※ 途中で切れている場合は、文章量を減らして要約するか、最大チャンク長を増やすなど対応が必要です。ただし、最大チャンク長を大きくし過ぎるとうまく参照してくれなくなるので注意しましょう。

※ もしAPI設定が済んでいない場合は、以下から設定してください。

チャットフローの作成

では次に、Difyのチャットフローを作成していきましょう。作業は単純で、入力ブロックとLLMブロックの間に、ナレッジブロックを追加し、先程埋め込みしたFAQドキュメントを選択します。

後はLLMブロックのコンテキストとSYSTEM部分で、ナレッジベースの内容を参照するように設定してやればOKです（ / を入力することで選択できます）。

まとめ

いかがでしたでしょうか？

Difyを活用した社内FAQチャットボットは、問い合わせ対応の効率化に大きく貢献する可能性を秘めています。本記事で紹介したように、ナレッジベースを作成する際の各パラメータはRAGの精度を左右する重要なものなので、必ず確認を行うようにしましょう。

実際の導入に際しては、組織の規模や業務の特性に応じたカスタマイズが必要となりますが、ユーザーからのフィードバックを積極的に取り入れ、継続的な改善を行うことで、組織全体の業務効率化に貢献する強力なツールになるかと思います。ぜひ本記事の内容を参考に社内で活用していっていただけると幸いです。