もう社内対応に追われない！問い合わせを1/3に減らすRAGチャットボットの作り方
「この件は、Aさんしか分からない。」
多くの企業で、こうした"暗黙知"の属人化が問題になっています。担当者が不在のとき、退職してしまったとき——業務が止まるリスクを抱えていませんか？
本記事では、Dify・Slack・Notionの3ツールを使い、プログラミング不要で「社内ナレッジに答えてくれるAIチャットボット」を構築する手順をステップバイステップで解説します。中核となるRAG（検索拡張生成）技術の仕組みから、すぐに使えるプロンプトのテンプレート、運用時のトラブル対処法まで、この1記事でカバーします。
💡 この記事でわかること
- RAGの仕組みと、なぜ社内ナレッジ共有に有効なのか
- 構築前に押さえるべきNotionドキュメント整備のコツ
- Dify × Slack × Notionの連携手順（スクリーンショット付き）
- コピペで使えるシステムプロンプトのテンプレート
- 構築後のよくあるトラブルと対処法
なぜナレッジ共有は失敗するのか
社内Wikiを整備しても「誰も見ない」、マニュアルを作っても「どこにあるか分からない」。ナレッジ共有が続かない最大の原因は、情報を探す手間が、人に聞く手間を上回るからです。
こういうケース、ありませんか？
ケース1：営業ルールが"人"に蓄積されている
ベテラン営業のAさんだけが知っている特別割引ルール。Aさんが休みの日は、誰も判断できずに商談が止まる。
ケース2：マニュアルが散在している
Notion、SharePoint、Google Drive、個人のPC。情報がバラバラで、結局「詳しい人に聞く」のが最速の手段になっている。
ケース3：担当者の退職で業務が混乱する
経理のBさんが退職した途端、月次決算の手順が分からなくなった。引き継ぎ資料はあるが、例外処理の手順が抜けている。
これらに共通するのは、知識が特定の人や場所に閉じ込められていること。解決策は「情報を一箇所に集める」ことではなく、「聞けば即座に答えてくれる仕組み」を作ることです。
その仕組みを実現するのが、次に紹介するRAGチャットボットです。
RAGチャットボットとは？仕組みをわかりやすく解説
RAGチャットボットとは、社内ドキュメントなどの外部情報を検索し、その内容をもとにAIが回答を生成するチャットボットです。
ChatGPTのような一般的なAIは、学習済みの知識だけで回答します。そのため、自社独自のルールや手順については正確に答えられません。RAG（Retrieval-Augmented Generation：検索拡張生成）は、この弱点を補う技術です。
RAGの3ステップ：検索→拡張→生成
ステップ | 処理内容 | イメージ |
|---|---|---|
①検索（Retrieval） | ユーザーの質問を「ベクトル」（文章の意味を数値で表したもの）に変換し、社内ナレッジから関連情報を検索する | 図書館で司書が質問に合う本を探してくるイメージ |
②拡張（Augmented） | 検索で見つかった情報を、AIへの指示（プロンプト）に埋め込む | 司書が該当ページを開いてAIに「これを読んで」と渡す |
③生成（Generation） | AIが渡された情報に基づいて、自然な言葉で回答を生成する | AIが該当ページの内容をもとに、質問者にわかりやすく答える |
ポイントは、AIが自分の知識ではなく、検索で見つけた社内ドキュメントの内容に基づいて回答する点です。
RAGがハルシネーションを抑制する理由
AI（大規模言語モデル）には「ハルシネーション」という課題があります。もっともらしいが事実と異なる回答を生成してしまう現象です。
RAGはこのリスクを以下の仕組みで軽減します。
- 回答の根拠が明確：どのドキュメントを参照したかが分かる
- 知らないことは「知らない」と答えられる：検索結果がなければ回答を控えるよう設定できる
- 情報の鮮度を保ちやすい：ドキュメントを更新し、ナレッジベースに再同期すれば回答に反映される
⚠️ 注意 RAGはハルシネーションを完全に防ぐ技術ではなく、抑制する技術です。回答には必ず参照元の提示を設定し、重要な判断には人間の確認を組み合わせることを推奨します。
Slack上でのRAGチャットボット：動作イメージ
本記事で構築するのは、Slackで質問するだけで、Notionに蓄積された社内ナレッジから回答が返ってくるBotです。
- ユーザーがSlackで
@ナレッジBot 経費精算の申請方法を教えてとメンション - Difyが質問を受け取り、Notionのナレッジベースからベクトル検索を実行
- 関連ドキュメントが見つかると、AIがその内容をもとに回答を生成
- Slackに回答が返される（参照元ドキュメント名つき）
普段使っているSlackの中で完結するため、新しいツールの導入なしで始められます。
RAGあり vs RAGなし：回答の違い
RAGなし（一般的なAI） | RAGあり（社内ナレッジ連携） | |
|---|---|---|
質問 | 経費精算の申請方法は？ | 経費精算の申請方法は？ |
回答 | 「一般的に、経費精算は上司に領収書を提出し…」 | 「経費精算は社内ポータルの申請フォームから提出します。領収書の添付が必須で、申請期限は月末締めの翌月5日です（参照元：経理マニュアル）」 |
情報源 | AIの学習データ（一般論） | 社内マニュアル「経理マニュアル」 |
正確性 | ❌ 自社ルールと一致しない | ✅ 実際の社内ルールに基づく |
📩 「うちの会社でもできるのか」気になったら
シェルシステムでは、業務の棚卸しからAIボット構築・運用定着まで一貫してサポートしています。 👉 まずは無料相談
使用するツールと全体像
なぜこの3ツールなのか
ツール | 役割 | 選定理由 | 費用 |
|---|---|---|---|
Slack | ユーザーインターフェース | 多くの企業で導入済み。追加の学習コストなし | フリープランあり |
Notion | ドキュメント管理 | API連携が容易。Difyとのネイティブ連携をサポート | フリープランあり |
Dify | RAGプラットフォーム | ノーコードでRAG構築可能。Slack・Notionとの連携を標準機能でサポート | Sandboxプラン（無料・200メッセージまで）あり。本格運用はProプラン月額$59〜 |
この3つの組み合わせを選ぶ最大の理由は、ツール間の連携が標準機能でサポートされており、コードを書かずに構築できるためです。
システムの全体像
[ユーザー] → Slackで @ナレッジBot に質問
↓
[Slack] → Event SubscriptionsでDifyに通知
↓
[Dify] → Notionのナレッジベースをベクトル検索
↓
[Dify] → 検索結果をもとにLLMが回答を生成
↓
[Slack] → ユーザーに回答を返却
構築前の準備：Notionドキュメント整備のコツ
RAGチャットボットの回答精度は、元となるドキュメントの質で決まります。「AIを導入したのに回答がおかしい」という失敗の多くは、この準備段階の不備が原因です。
整理すべきドキュメントの種類
すべてを一度に整理する必要はありません。問い合わせが多い領域から優先的に取り組みましょう。
ドキュメント種別 | 具体例 | 優先度 |
|---|---|---|
業務マニュアル | 営業フロー、経費精算手順、入社手続き | 高 |
社内FAQ | よくある質問と回答集（情シス・総務・人事宛） | 高 |
社内ルール・規定 | 就業規則、セキュリティポリシー、承認フロー | 中 |
製品・サービス情報 | 製品仕様、料金表、導入事例 | 中 |
議事録 | 定例会議の決定事項、プロジェクト方針 | 低 |
Notionの見出し設計ルール
Difyはドキュメントを「チャンク」と呼ばれる小さな単位に分割して取り込みます。見出しが適切に設定されていると分割精度が上がり、回答品質が向上します。
- 1ページ1トピックにする
- ❌ 「総務部マニュアル」に経費精算・有給申請・備品管理を全部まとめる
- ✅ 「経費精算の手順」「有給申請の手順」「備品管理の手順」をそれぞれ別ページに
- 見出しに要点（キーワード）を含める
- ❌ 「その他」「補足事項」「注意点」
- ✅ 「交通費精算の例外ルール」「有給申請の期限と承認フロー」
- 箇条書き・番号付きリストを活用する
- 長文の段落よりAIが正確に解釈しやすい
3ステップ構築ガイド
ここからが本題です。以下の3ステップで、ノーコードでRAGチャットボットを構築します。
⏱️ 所要時間の目安 初回は各ステップの設定確認やトライ&エラーを含め、全体で3〜5時間を見込んでください。2回目以降の構築や、設定変更のみなら1〜2時間程度です。（ドキュメント整備の時間は別途）
Step 1 — Difyでナレッジベースを作成する
Notion上のドキュメントをDifyに取り込み、AIが検索できるナレッジベースを作成します。
1. Difyにサインアップする
Dify公式サイト にアクセスし、アカウントを作成します。Sandboxプラン（無料）で始められます。
⚠️ Sandboxプランの制限
無料のSandboxプランは200メッセージクレジットが上限です。動作検証や小規模チームでの試用には十分ですが、本格運用にはProfessionalプラン（月額$59〜）への移行が必要になります。
2. Notionと連携する
Difyのダッシュボードから「ナレッジ」→「知識を作成」→「Notionから同期」を選択します。Notionの認証画面が表示されるので、対象のページへのアクセスを許可してください。
3. ドキュメントをインポートする
連携が完了すると、Notionのページ一覧が表示されます。取り込みたいページを選択し、インポートを実行します。
Difyが自動的にテキストをチャンク分割し、ベクトルデータとしてインデックスを作成します。
💡 インデックス方法の選択
- 「経済的」：無料のembeddingモデルを使用。小規模なナレッジベースなら十分。
- 「高品質」：有料のembeddingモデルを使用。ドキュメント量が多い場合や精度を重視する場合に選択。
初回は「経済的」で試し、精度に不満があれば「高品質」に切り替えるアプローチがおすすめです。
4. チャンク設定を確認する（任意）
デフォルト設定で問題なければスキップできます。回答精度を調整したい場合は以下を参考にしてください。
設定項目 | 推奨値 | 説明 |
|---|---|---|
チャンクサイズ | 500〜1,000文字 | 小さすぎると文脈が失われ、大きすぎると検索精度が落ちる |
オーバーラップ | 50〜100文字 | チャンク間の重複。文脈の断裂を防ぐ |
Step 2 — Difyでチャットボットを設定する
ナレッジベースを活用するチャットボットを作成します。
1. 新しいアプリを作成する
ダッシュボードから「最初から作成」→「チャットボット」を選択し、アプリ名（例：「社内ナレッジBot」）を入力します。
2. コンテキストにナレッジベースを追加する
設定画面の 「コンテキスト」 セクションを開き、Step 1で作成したナレッジベースを追加します。これにより、ユーザーの質問に対してナレッジベースの情報が自動的にAIに渡されるようになります。
3. 「手順」にシステムプロンプトを設定する（重要）
設定画面の 「手順」 セクションに、AIの振る舞いを定義するプロンプトを入力します。この設定がRAGチャットボットの回答品質を大きく左右します。
システムプロンプトのテンプレート
以下は社内ナレッジボット向けの推奨テンプレートです。そのままコピーしてDifyの「手順」に貼り付けてください。
あなたは社内ナレッジに基づいて回答するAIアシスタントです。
以下のルールを厳守してください。
【回答ルール】
1. コンテキストとして提供された社内ドキュメントの情報のみに基づいて回答する
2. コンテキストに該当する情報がない場合は、以下のように回答する：
「この質問に該当する情報は社内ドキュメントから見つかりませんでした。
担当部署に直接お問い合わせください。」
3. 回答の末尾に、参照したドキュメント名を記載する
4. 専門用語は避け、簡潔に回答する
5. 手順を説明する場合は番号付きリストを使う
💡 プロンプト設計のポイント
- 「コンテキストの情報のみ」 と明記 → AIが一般知識に基づく推測（ハルシネーション）をするのを抑制
- 「該当情報がない場合」 の対応を定義 → 知らないことへの誤回答を防止
- 「参照元を記載」 → ユーザーが正確性を自分で確認できる
4. 動作をプレビューで確認する
Difyには設定画面の右側にプレビュー機能があります。実際に質問を入力して回答を確認し、意図通りに動作するか検証します。
Step 3 — Slack Botと連携する
最後に、DifyのチャットボットをSlackから使えるようにします。Difyの Slack Botプラグイン を使うことで、コードを書かずに連携できます。
1. Slack Appを作成する
Slack API にアクセスし、「Create New App」→「From scratch」を選択。アプリ名（例：knowledge-bot）とワークスペースを指定します。
2. Bot Token Scopesを設定する
「OAuth & Permissions」から、以下のスコープを追加します。
スコープ | 用途 |
|---|---|
| Botがメッセージを送信するため |
|
|
設定後、「Install App to Workspace」をクリックしてワークスペースにインストールし、Bot User OAuth Token（xoxb- で始まる文字列）をコピーします。
3. DifyのSlack Botプラグインを設定する
Difyの画面に戻り、以下の手順で連携します。
- Difyの「プラグイン」→ マーケットプレイスから 「Slack Bot」 を検索してインストール
- 「エンドポイントを作成」をクリック
- Bot User OAuth Token（先ほどコピーした
xoxb-...）を貼り付け - 接続するDifyアプリ（Step 2で作成したチャットボット）を選択
- 保存すると、Difyが リクエストURL を生成する
4. SlackのEvent Subscriptionsを設定する
Slack APIの管理画面に戻り、以下を設定します。
- 「Event Subscriptions」を有効化
- 「Request URL」にDifyが生成したURLを貼り付け（認証が自動的に行われます）
- 「Subscribe to bot events」で
app_mentionを追加 - 「Save Changes」をクリック
5. 動作確認する
Slackで、Botを任意のチャンネルに招待（/invite @knowledge-bot）した上で、以下のようにメンションしてみてください。（質問内容は自由に変更してください。）
@knowledge-bot A社の状況を教えて
ナレッジベースに該当するドキュメントがあれば、数秒〜十数秒でAIが回答を返します。
回答が正確でない場合は、以下を確認してください。
- Notionのドキュメントに該当する情報が記載されているか
- Difyのナレッジベースが最新のドキュメントと同期されているか（手動で「同期」ボタンの押下が必要です）
- 「手順」のプロンプトが正しく設定されているか
🛠️ 構築・運用をプロに任せたい方へ
まずは業務の棚卸から始め、御社の業務に最適化したRAGチャットボットを構築します。ドキュメント整備から運用定着まで一貫してサポート。 👉 無料相談はこちら
よくあるトラブルと対処法
回答精度が低いときの改善方法
症状 | 考えられる原因 | 対処法 |
|---|---|---|
質問と無関係な回答が返る | ドキュメントの見出しが曖昧 | Notionの見出しに具体的なキーワードを含める |
「わかりません」が多すぎる | チャンクサイズが小さすぎて文脈が失われている | チャンクサイズを1,000文字程度に拡大する |
古い情報で回答される | Notion側は更新済みだがDifyに未反映 | Difyの「ナレッジ」画面でNotionデータを手動で再同期する |
回答が長すぎる | プロンプトにフォーマット指示がない | 「手順」に「簡潔に回答すること」を追記する |
複数トピックが混在した回答 | Notionの1ページに複数トピックが同居 | 1ページ1トピックに分割してから再インポート |
Slack連携がうまくいかないとき
- Botがメンションに反応しない → Slack APIの「Event Subscriptions」でRequest URLが正しく認証されているか確認。
app_mentionイベントが登録されているかもチェック。 - 「not_in_channel」エラーが出る → BotがチャンネルにJoinしていない。
/invite @bot名でチャンネルに招待する。 - 回答に時間がかかりすぎる → ナレッジベースのドキュメント量が多い場合、検索に時間がかかることがある。ナレッジベースを用途別に分割する（例：「人事系」「経理系」「IT系」）ことで改善できる場合がある。
よくある質問（FAQ）
Q. RAGチャットボットの構築にプログラミングは必要ですか？
A. Difyを使えばプログラミングは不要です。本記事のStep 1〜3はすべてブラウザ上の操作で完結します。
Q. 構築にかかる費用はどのくらいですか？
A. Difyの無料Sandboxプラン（200メッセージまで）、Slackフリープラン、Notionフリープランの組み合わせで、まず動作検証ができます。本格運用にはDify Professionalプラン（月額$59〜）が必要になるケースが多いです。チーム規模が大きい場合はTeamプラン（月額$159）も選択肢になります。
Q. 回答の精度はどの程度ですか？
A. ドキュメントの整備状況に大きく依存します。1ページ1トピックで見出しが適切に設計されたドキュメントであれば、定型的なFAQ（手順の確認やルールの参照）に対しては高い精度で回答できます。一方、複雑な判断や複数ドキュメントの横断的な推論が必要な質問には弱い傾向があります。まずは小さな範囲で試し、精度を確認しながら対象を広げていくのがおすすめです。
Q. 社内の機密情報が外部に漏れませんか？
A. Difyのクラウド版を使用する場合、データはDifyのサーバーとLLM提供元（OpenAI等）を経由します。導入前にLLM提供元のデータ利用ポリシーを確認してください。セキュリティ要件が厳しい場合は、Difyのセルフホスト版（オープンソース・Docker環境が必要）を自社サーバーに構築する選択肢もあります。セルフホスト版の構築には技術者の支援が必要です。
Q. Notion以外のツール（Google Drive、SharePoint等）でも使えますか？
A. Difyでは、Notionとの連携のほか、PDFやテキストファイルの直接アップロード、Webサイトのクロールにも対応しています。Google DriveやSharePointのドキュメントは、一度PDF等に変換してからDifyにインポートすることで利用可能です。
Q. Notionのドキュメントを更新したら、回答にも自動で反映されますか？
A. 自動では反映されません。Notion側でドキュメントを更新した後、Difyのナレッジ画面で手動の「同期」操作が必要です。定期的に同期を行う運用ルールを決めておくことを推奨します。
まとめ：ナレッジを資産に変える第一歩
本記事では、Dify × Slack × Notionを使ったRAGチャットボットの作り方を解説しました。
ステップ | やること | 所要時間の目安 |
|---|---|---|
準備 | Notionのドキュメント整備（1ページ1トピック、見出し設計） | 2〜5時間（ドキュメント量に依存） |
Step 1 | Difyでナレッジベースを作成 | 1時間 |
Step 2 | Difyでチャットボットを設定 | 1時間 |
Step 3 | Slack Botプラグインで連携 | 1〜2時間 |
RAGチャットボットは「作って終わり」ではありません。運用しながらドキュメントを追加・更新し、プロンプトを調整していくことで、回答精度は段階的に向上します。
まずは問い合わせが多い1つの領域で試し、効果を実感してから対象を広げていくのがおすすめです。
📩 社内ナレッジの共有に課題感をお持ちなら
「記事を読んだけど、自社でやりきれるか不安」「ドキュメント整備から手伝ってほしい」——そんな方はぜひ一度ご相談ください。
シェルシステムでは、RAGチャットボットの企画・構築・運用定着まで一貫して伴走支援しています。ナレッジの棚卸しからプロンプト最適化、社内展開後の改善サイクルまでサポートします。
👉 無料相談はこちら