#AIエージェント
作成:中小企業診断士の研究会PIT

ガードレールとは

AIが不適切な答えをしたり、危険な操作をしたりしないように、あらかじめ設けておく安全のための決まりや仕組みのことです。道路のガードレールのように、AIが外れた方向へ進むのを防ぐ役割から、この名前で呼ばれています。

ガードレールのしくみと基本

ガードレールは、大きく入口・出口・行動の3か所で考えられます。入口は、AIに渡す内容を確認して、個人情報や不適切な依頼を止めること。出口は、AIの答えを確認して、問題のある表現や事実と違う内容を外に出さないこと。行動は、AIが実行できる操作の範囲を限ることです。

AIが自分で手順を考えて操作まで行うAIエージェントが広がるにつれて、ガードレールの重要性は高まっています。メールの送信、ファイルの削除、支払いなど、取り返しのつかない操作については、AIに権限を与えない、または人の承認を必須にするといった設計が一般的です。

ガードレールには、技術的な仕組みだけでなく、社内のルールや運用も含まれます。たとえば「AIの答えを社外に出す前には必ず人が読む」「AIに入力してよい情報の範囲を決める」といった決まりも、立派なガードレールです。中小企業ではこちらのほうが先に取り組みやすいでしょう。

ガードレールのイメージ

入力フィルタリング 行動制限ルール 出力チェック 倫理的制約

中小企業では、どう関わってくるか

中小企業では、AIのチャットでお客様対応をする場合に、扱わない話題(料金の値引き約束、医療や法律の判断など)を決めておく、個人情報を入力させないようにする、といった形で関係してきます。社内でAIを使うときのルールづくりも、広い意味でのガードレールです。

ガードレールの業種別の具体例

小売業の例

ネットショップを運営する衣料品店が、AIのチャットで問い合わせに答える場合、返品や返金の可否は答えさせず担当者に引き継ぐ、といった線引きをしておく使い方が考えられます。答えてよい範囲をよくある質問の内容に限るのも一つの方法です。

医療・介護の例

地域の介護事業所が、職員向けにAIで記録の文章を整える使い方をする場合、利用者の氏名などを入力しない、AIに介護方針の判断をさせない、といったルールを決めておく例が考えられます。

士業・事務所の例

司法書士事務所が、AIで書類の下書きを作る場合に、AIが出した内容をそのまま依頼者に渡さず、必ず資格者が確認するという手順を決めておくといった使い方が考えられます。

※ 特定の企業の事例ではなく、よくある場面をもとにした想定例です。

ガードレールを押さえるメリットと注意点

知っておく・取り組むメリット

  • AIの不適切な答えや誤った操作による、お客様とのトラブルを防ぎやすくなります。
  • 使ってよい範囲がはっきりするため、社員が安心してAIを使えるようになります。
  • 取引先やお客様に、AIを安全に使っていることを説明しやすくなります。

気をつけたいこと

  • 制限を厳しくしすぎると、AIが何も答えられなくなり、使われなくなることがあります。
  • どれだけ対策しても、想定外の質問や使い方ですり抜けることがあります。
  • 業務やAIの機能が変わったのに、ルールを見直さずに古いまま放置しがちです。

ガードレールのよくある誤解

誤解:ガードレールはAIの開発会社が用意するもので、使う側は関係ない

提供会社の安全対策に加えて、使う側でも「何に使わせないか」「どこで人が確認するか」を決める必要があります。

誤解:ガードレールを設定すれば、問題は起きない

すり抜けるような使い方や想定外の質問もあります。完全には防げない前提で、問題が起きたときの対応も決めておきます。

ガードレールについてよくある質問

小さな会社でも、ガードレールを考える必要がありますか?

会社の規模に関係なく必要です。ただし、大がかりな仕組みは不要で、まずは「入力しない情報」「AIに決めさせないこと」「人が確認する場面」の3点を紙1枚にまとめるだけでも、十分な第一歩になります。

お客様対応のチャットにAIを使うときは、何に気をつければよいですか?

AIが答えてよい範囲を決め、それ以外は人に引き継ぐようにすることが大切です。また、AIが対応していることをお客様にわかるようにし、問題のある答えが出ていないか定期的に記録を確認します。

ガードレールの設定は、誰がやるのですか?

AIの提供会社が基本的な安全対策を用意していますが、自社の業務に合わせた線引きは、使う会社が決める必要があります。経営者が方針を決め、実際の設定は詳しい担当者や導入を支援する会社と一緒に進めるのが現実的です。

社内や支援先に説明するときは

「AIに任せる範囲と、任せない範囲をはっきり決めておく。それがガードレールです」

最初にやること・確認すること

  • AIに答えさせない話題・させない操作を書き出す
  • お客様向けに使う場合は、人に引き継ぐ条件を決める
  • 社内のAI利用ルールに、入力禁止の情報を明記する
最終更新:2026年11月1日