ChatGPTを社内で使ってみたものの、自社の業務データを踏まえない回答しか返ってこないと感じていないでしょうか。RAG（検索拡張生成）という言葉を目にしても、非エンジニアには何から手を付ければよいのか分かりにくいものです。

ChatGPTのプロジェクト機能に社内ファイルを入れれば、その日のうちに自社データを参照した回答を試せます。本格的な仕組みづくりは、そのあとで判断すれば十分です。

ChatGPTにRAGを組み込む手順は、まずファイル投入から試す

最初の一歩は、開発ではなくファイルを入れて試すことです。ChatGPTのプロジェクト画面はテキスト・PDF・CSV・Excelなどに対応しています。最大20個までアップロードできます（出典：forest.watch.impress.co.jp）。この範囲であれば非エンジニアでも操作できます。

この記事では、試す→対象業務を決める→データを整える→ツールを選ぶ→検証する、という5段階の流れで手順を示します。まず試して答えの様子を見てから、次の作業に進むかどうかを決める順番です。

この記事で見ていく5段階
  1. ファイル投入でまず試す
  2. 対象業務を1つ決める
  3. 社内データを整える
  4. 自社対応か外部依頼かを選ぶ
  5. 実データで検証する

非エンジニアでもできる範囲と、外部に頼む範囲はどこで分かれるか

ファイルを入れて答えさせるところまでは、非エンジニアだけで完結します。OpenAI APIの取得やベクトルデータベース（文書を検索しやすい形で保存する仕組み）の用意が出てくる段階があります。ここに来た時点で、社内開発か外注かを判断する段階に入ります。

判断の物差しは3点です。扱うファイル数と更新頻度、社内システムとの連携の有無、アクセス権限を人ごとに分ける必要があるかどうかです。この3点のどれかに当てはまるほど、外部への依頼が現実的になります。

自分たちだけで進められる作業

対象業務を決める、社内文書を集めて整理する、プロジェクトにファイルを入れる。ここまでは担当者だけで進められます。社内の数名で回答を試すところまでも、特別なツールの契約は不要です。

うまく答えない場合は、質問の仕方を変える、入れる文書を絞る、古い版を外す、といった調整も社内で対応できます。ここまでの試行錯誤を経てから、外部への依頼が必要かどうかを判断できます。

外部に頼んだほうがよい作業

ベクトルデータベースの用意、OpenAI APIを使った連携、既存システムとのAPI連携は、外部に依頼する範囲です。社内に開発者がいない場合、ここから先を自前で進めるのは難しくなります。

部署ごとの権限管理や監査ログの扱いも、外部に依頼する範囲に含まれます。この部分の考え方は、後ろの「誰がどの文書を見られるかを先に線引きする」で詳しく説明します。

RAGに載せる社内データは、どれを選んでどこまで整えるか

最初に載せるのは、就業規則・社内規程、業務マニュアル・手順書、社内FAQ・問い合わせ履歴、議事録や報告書です（出典：liber-craft.co.jp）。これらは繰り返し参照される文書です。効果を確かめやすい対象になります。

全社の文書をまとめて入れる必要はありません。1つの業務に関係する文書だけに絞ると、答えのずれが減ります。範囲を広げすぎると、どの文書を根拠にした回答か分かりにくくなります。

入れる前に必ず直す3点

同じ規程の新旧が両方残っていると、AIが古いほうを根拠にしてしまいます。最新版だけを残す作業が最初に必要です。スキャンした画像だけのPDFは文字として読み取れません。テキストが含まれているかを開いて確認します。

ファイル名に業務名と日付を入れておくと、回答の根拠がどの文書かを人が確認しやすくなります。この3点は地味な作業ですが、後から答えの精度を左右する部分です。

文書を更新したときに何をするか

RAGは元の文書を差し替えるだけで回答に反映できます。モデルを学習し直す作業は発生しません。差し替えれば、次の質問からは新しい内容を根拠に答えます。

誰がいつ差し替えるかを、担当者名で決めておきます。更新が止まると、古い規程を根拠にした回答が返り続けます。データの整え方は社内データを生成AIで使う準備は1業務だけでよい。RAGの仕組みと始め方でも扱っています。

社内データを外部AIに渡す前に決めておく権限とセキュリティ

外部ツールを使う前に、データの取り扱い方針をベンダーにヒアリングし、リスクを明確にしておきます（出典：dsk-cloud.com）。渡す前に決めておかないと、後から範囲を絞り直す手間が増えます。

上位ページが挙げている対策は、データの暗号化、アクセス制御、監査ログの管理、個人情報を含むデータは扱わないという運用ポリシーです（出典：dsk-cloud.com）。この4点を確認してから運用を始めます。

誰がどの文書を見られるかを先に線引きする

紙やファイルサーバーでは部署単位で閲覧を制限していた文書が、RAGでは全員の質問に答えてしまいます。人事評価・給与・取引条件は、最初の対象から外します。

部署ごとに参照できる文書を分けるなら、プロジェクト自体を業務ごとに分けるか、権限管理のある仕組みを選びます。自社でAIエージェントを開発している立場から見ても、権限設計を後回しにした案件ほど、途中で作り直しが発生します。当社は着手前にNDAを締結し、使用するデータ、利用サービス、アクセス権限、保存・削除方法を事前に確認しています。

決めること 確認の相手
扱わない情報の範囲（人事評価・給与・取引条件など） 社内の情報管理担当
利用するAIサービスへのデータ送信範囲 ベンダー・NDA締結時
部署ごとのアクセス権限の分け方 社内の業務担当者
保存・削除の方法と期間 ベンダー

RAGを入れるとChatGPTの回答はどう変わるか

社内規程や過去の対応履歴を根拠にした回答が返るようになります。汎用的な一般論だけの回答から変わります（出典：chatsense.jp）。根拠となる文書を示させることで、AIが誤った情報をもっともらしく生成すること（ハルシネーション）を防ぎやすくなります（出典：qiita.com）。

参照する文書が増えるほど、応答時間は伸びます。回答速度が落ちる点は上位ページも指摘しています（出典：dsk-cloud.com）。速度と参照範囲の広さは、どちらかを優先すると決めて運用します。

RAGを入れても間違える場面

元の文書に書かれていないことは答えられません。答えが出なかった質問は、文書自体が足りていないというサインとして扱います。

口頭で引き継がれてきた判断基準は、文書に無いため答えられません。ヒアリングして文書化してから載せると、次の質問からは答えられるようになります。

RAG導入後の回答の変化

導入前

  • 一般論だけの回答
  • 根拠が示されない
  • 参照文書が少なく速い

導入後

  • 社内文書を根拠にした回答
  • 根拠となる文書を提示できる
  • 文書が増えるほど応答が伸びる

自社開発・外部サービス・PoCで、期間と費用と体制はどう違うか

進め方によって、必要な期間・体制・初期費用が大きく変わります。自社開発はOpenAI APIの取得からベクトルデータベースの構築まで自前で行います。そのため、社内に開発できる人が必要です（出典：dsk-cloud.com）。

RAGサービスは用意された画面にファイルを入れるだけで始められます。ただし、既存システムとの連携や独自の判定処理は範囲外になりやすい仕組みです。当社のPoC開発は、一つの業務に絞って20万円〜・着手から10日で納品します。費用の内訳をさらに詳しく知りたい場合は、RAG構築の費用を抑えて小さく始める、業務1つのPoCという方法にまとめています。

進め方 期間 初期費用 更新作業
自社開発 社内の開発体制による 社内の人件費・ツール費用 社内の開発担当者
外部のRAGサービス 契約後すぐに利用開始できる場合が多い サービスのプラン費用 文書の差し替えのみ社内で対応
当社のPoC開発 着手から10日 20万円〜（対象業務・開発範囲で見積り） 手順書をもとに社内で対応

社内に開発できる人がいない場合、選択肢は外部のRAGサービスかPoC開発にしぼられます。既存システムとの連携や独自の判定処理まで必要かどうかが、どちらを選ぶかの分かれ目になります。

最初の1業務をどう選ぶか

PoCに向いている業務の条件は4つです。毎日・毎週くり返し発生している、入力・照合・下書き・検索など手順が説明できる、過去の記録が残っている、最終確認は人が行える、の4点です。

問い合わせ対応や社内規程の確認は、質問が繰り返し発生し過去の記録も残っているため、最初の対象にしやすい業務です。対象業務を決めてから集める文書を選ぶ順番にします。文書を集めてから使い道を考える順番だと、載せる範囲が決まりません。

最初の1業務を選ぶ条件
  • 毎日・毎週くり返し発生する
  • 手順が説明できる
  • 過去の記録が残っている
  • 最終確認は人が行える

導入して終わりにしないために、何を記録しておくか

当社は、回答までの日数、確認の往復回数、担当者以外でも対応できた件数、入力の誤りの件数で効果を測っています。

導入前に同じ項目を数週間記録しておかないと、後から変化を説明できません。答えられなかった質問も記録し、足りない文書を追加する材料にします。

貴社の課題をAIで1つずつ解決いたします。

1つの業務にしぼってAIエージェントを作るPoC開発を是非ご検討ください。開発・検証20万円〜。話がまとまっていなくても、お気軽に相談してください。

30分の無料相談を予約するサービス資料を請求する

当社のPoC開発でRAGを試す場合の進め方

当社のPoC開発は、無料相談から納品まで4つの段階で進みます。STEP1は**無料相談（30分）**で、現在の課題と作業内容をヒアリングし、AIで解決できる範囲を説明します。開発内容が未定でも相談できます。

STEP2はご提案・お見積もりで、対象業務と機能を決めてNDAを締結します。STEP3の開発・検証は、DAY1〜2でヒアリングとデータ受領、DAY3〜7で開発、DAY8〜9で実データ検証、DAY10で報告・納品という流れです。開発・検証は20万円〜・着手から10日です。AIサービスの利用料、既存システムとのAPI連携、検証後の保守・追加開発は別途費用になります。PoCで作ったものは、検証後もそのまま業務で使えます。

この記事で使った材料

株式会社AiPHAが公開しているPoC開発サービスの料金・進め方に加え、forest.watch.impress.co.jp、dsk-cloud.com、liber-craft.co.jp、chatsense.jp、qiita.comの各記事（確認済み）を参照しています。

よくある質問

ChatGPTのRAGとは何ですか？

ChatGPTが回答を作る前に、指定した社内文書から関係する部分を探し、それを根拠に答えさせる仕組みです。

ChatGPTとRAGの違いは何ですか？

ChatGPTは回答を作る側、RAGは参照する資料を渡す仕組みです。RAGは単体のサービス名ではありません。

社内でChatGPTを使うと会社にバレますか？

法人向けプランでは、管理者が利用状況を確認できます。個人アカウントで社内文書を扱うと、会社が把握できない場所に情報が残ります。社内導入の進め方はChatGPTの社内導入を5つのステップで進める手順と、最初に決めることにまとめています。

ファインチューニングとは何が違うのですか？

ファインチューニングはモデル自体を調整します。RAGは文書を差し替えるだけで内容を更新できます。

RAGの構築は外部に頼むとどれくらいで終わりますか？

当社のPoC開発は着手から10日で納品、開発・検証は20万円〜です。相談から提案までは無料です。

まとめ

  • ChatGPTのプロジェクトにファイルを入れて試し、答えが返るか確かめるのが最初の一歩
  • 対象業務を1つ決め、最新版の文書だけを、テキストとして読める形で用意する
  • 外部AIに渡す前に、扱わない情報とアクセス権限を決める
  • 自社開発か外部サービスかは、更新頻度・連携の有無・権限管理の要否で決める

まず1業務で試してみて、答えの様子を見てから次を判断してください。会社として仕組みにする段階まで来たら、無料相談（30分）から対象業務の相談を始められます。ご相談はフォームから受け付けています。