社内AI・RAGツールの選び方｜自社データをAIに読ませる方法

「就業規則のこの場合どうなるんでしたっけ」「あの商品の納期って標準で何日でしたっけ」——ベテラン社員のところに、同じような質問が1日に何度も飛んでくる。そんな状態を変える手段として注目されているのが、自社の資料をAIに読ませて答えさせる「社内AI」＝RAGです。この記事では、RAGで何ができて何ができないのか、ツールを選ぶときに見るべき基準はどこか、そしてどう小さく始めるかを、一緒に整理していきます。

社内AI（RAG）とは何か｜ChatGPTをそのまま使うのと何が違うか

ChatGPTのような生成AIは、インターネット上の一般的な知識をもとに答えます。だから「就業規則の一般的な考え方」は答えられても、「御社の就業規則ではどうなっているか」は答えられません。知らないからです。

RAG（ラグ／Retrieval-Augmented Generation）は、この穴を埋める仕組みです。日本語にすると「検索して補強してから答える」。社員が質問すると、AIはまず自社の資料の中から関係しそうな箇所を探し、その中身を読んだうえで答えを作ります。

ここで大事なのは、RAGはAIそのものを作り変えているわけではないという点です。よく「AIに学習させる」と表現されますが、実際にやっているのは資料を検索できる形で置いておくことに近い。だから規程を改定したら、資料を差し替えるだけで答えも新しくなります。逆に言えば、元の資料が古ければ、AIは堂々と古い答えを返します。

RAGでできること・できないこと

期待値を最初に合わせておくと、導入後の落胆がぐっと減ります。中小企業の現場で実際に効きやすいのは、次のような領域です。

一方で、苦手なこともはっきりしています。ここを理解しないまま導入すると「使えない」という評価になりがちです。

社内AIツールを選ぶ5つの基準

RAGを謳うツールは、月数万円のクラウドサービスから、数百万円規模の構築案件までさまざまです。機能一覧を並べて比べ始めると必ず迷うので、次の5点だけを軸に見ることをおすすめします。

1. 基準1：回答に「出典」が出るか

   最重要です。AIの答えは、もっともらしいけれど間違っていることがあります。「就業規則 第○条」「◯◯マニュアル p.12」のように根拠が示され、その原文をすぐ開けるなら、社員が自分で正誤を確かめられます。出典が出ないツールは、社内の正式な問い合わせ先には使いにくいと考えてください。

2. 基準2：見せる相手を分けられるか（権限管理）

   給与テーブルや人事評価の資料を全社員が引ける状態は避けたいはずです。部署・役職ごとに「この資料はこの人にしか答えない」を設定できるか。従業員数が増えるほど、後から効いてくる項目です。

3. 基準3：資料の追加・差し替えが現場の手でできるか

   規程やマニュアルは変わります。更新のたびにベンダーへ依頼が必要な仕組みだと、半年で情報が古くなり、誰も使わなくなります。担当者が管理画面からファイルを入れ替えられるかを必ず確認してください。

4. 基準4：入力したデータがAIの学習に使われないか

   法人向けサービスの多くは「入力データを学習に利用しない」ことを明示していますが、プランによって扱いが違う場合があります。契約書・利用規約でどう書かれているか、データの保存場所（国内／国外）とあわせて確認しましょう。社内ルール側の整備もセットで必要です。

5. 基準5：社内に運用の担い手を置けるか

   意外と見落とされる基準です。資料を入れ、回答の質を見て、直していく人が必要です。専任である必要はありませんが、「誰の仕事か」が決まっていない導入はほぼ止まります。1人で月数時間見られる体制が現実的な最低ラインです。

費用の考え方と、小さく始める手順

費用は方式によって大きく変わります。一般的な相場観として、既製のクラウド型サービスなら月額数万円〜、自社向けに作り込む構築型なら初期で数十万円〜数百万円という幅があります。最初から構築型を選ぶ必要はほとんどありません。

判断の順番はこうです。まずクラウド型で試し、「権限管理が足りない」「基幹システムのデータも見に行かせたい」といった具体的な不足が出てきた時点で、初めて構築型を検討する。逆に、不足が言語化できていない段階で構築型に進むと、要件が固まらないまま費用だけが膨らみます。最初の投資は「試すための費用」と割り切ると、判断がぶれません。

見落とされがちなのが、ツール費用以外にかかる社内の手間です。資料を集めて最新版に整える初期作業と、その後の更新作業。ここは外注してもよい部分ですが、「誰かがやる前提の作業がある」と最初から見込んでおくことが大切です。

効果の測り方も先に決めておきます。難しい指標は不要で、「ベテランへの質問が週に何件減ったか」で十分です。減っていれば横に広げ、減っていなければ資料か質問の集め方に原因があります。

1. STEP1：質問が集中している領域を1つ選ぶ

   「総務への問い合わせ」「製品仕様の確認」など、いま人が答えている質問が多い場所を選びます。ここが最初のテーマです。

2. STEP2：その領域の「最新版だけ」を集める

   旧版・下書き・重複ファイルは入れません。数を入れるほど良くなるわけではなく、むしろ古い資料が精度を下げます。

3. STEP3：想定質問を20個書き出して試す

   実際に社員から来ている質問を20個ほど用意し、答えの正確さと出典の妥当性を確認します。ここでツールの実力がほぼ分かります。

4. STEP4：1部署で1ヶ月使い、答えられなかった質問を記録する

   答えられなかった質問は、そのまま「資料に書かれていないこと」のリストになります。これが次に整備すべき資料です。

5. STEP5：運用ルールを決めてから広げる

   資料の更新担当・更新頻度・入力してはいけない情報を決め、他部署へ展開します。

補助金で導入費用を抑えられる可能性

社内AI・RAGの導入は、ソフトウェアの導入費や構築費が対象になる補助金と相性が良い領域です。デジタル化・AI導入補助金や省力化投資補助金など、中小企業のIT・省人化投資を支援する制度がいくつも動いています。

ただし、対象になるかどうかは「どのツールを」「どういう業務改善のために」導入するかで変わります。ツールが登録済みかどうか、対象経費に何が含まれるかも公募回ごとに条件が異なります。

導入前のチェックリスト

• いま「人に聞かないと分からない」質問が多い領域を1つ特定したか
• その領域の資料が、最新版として1か所にまとまっているか
• 回答に出典が表示されるツールかを確認したか
• 権限管理（見せる相手を分ける機能）の有無を確認したか
• 入力データの学習利用の扱いと、データの保存場所を契約書で確認したか
• 資料を更新する担当者と頻度を決めたか
• 効果を測る物差し（質問件数の減少など）を決めたか

つまずきポイント

よくある質問

Q. ITに詳しい社員がいなくても導入できますか？

A. 既製のクラウド型サービスであれば、管理画面からファイルをアップロードする程度の操作で始められるものが増えています。必要なのは技術力よりも「どの資料が最新版か」を判断できることなので、その領域の業務を分かっている人が担当するほうがうまくいきます。

Q. 社外に情報が漏れないか心配です。

A. 法人向けサービスの多くは、入力データを学習に利用しない旨を明示しています。ただしプランや契約形態によって扱いが異なる場合があるため、利用規約・契約書での確認は必須です。あわせて、社内側でも「入力してよい情報・いけない情報」のルールを決めておくと安心です。

Q. どのくらいで効果が見えますか？

A. 対象を1領域に絞って始めた場合、1ヶ月ほどで「ベテランへの質問が減ったかどうか」は体感できることが多いです。逆に、対象を広げすぎると効果が薄まって判断がつかなくなるため、最初こそ範囲を絞ることをおすすめします。