AIエージェント — 16 / 30
AIが不適切な答えをしたり、危険な操作をしたりしないように、あらかじめ設けておく安全のための決まりや仕組みのことです。道路のガードレールのように、AIが外れた方向へ進むのを防ぐ役割から、この名前で呼ばれています。
ガードレールは、大きく入口・出口・行動の3か所で考えられます。入口は、AIに渡す内容を確認して、個人情報や不適切な依頼を止めること。出口は、AIの答えを確認して、問題のある表現や事実と違う内容を外に出さないこと。行動は、AIが実行できる操作の範囲を限ることです。
AIが自分で手順を考えて操作まで行うAIエージェントが広がるにつれて、ガードレールの重要性は高まっています。メールの送信、ファイルの削除、支払いなど、取り返しのつかない操作については、AIに権限を与えない、または人の承認を必須にするといった設計が一般的です。
ガードレールには、技術的な仕組みだけでなく、社内のルールや運用も含まれます。たとえば「AIの答えを社外に出す前には必ず人が読む」「AIに入力してよい情報の範囲を決める」といった決まりも、立派なガードレールです。中小企業ではこちらのほうが先に取り組みやすいでしょう。
中小企業では、AIのチャットでお客様対応をする場合に、扱わない話題(料金の値引き約束、医療や法律の判断など)を決めておく、個人情報を入力させないようにする、といった形で関係してきます。社内でAIを使うときのルールづくりも、広い意味でのガードレールです。
ネットショップを運営する衣料品店が、AIのチャットで問い合わせに答える場合、返品や返金の可否は答えさせず担当者に引き継ぐ、といった線引きをしておく使い方が考えられます。答えてよい範囲をよくある質問の内容に限るのも一つの方法です。
地域の介護事業所が、職員向けにAIで記録の文章を整える使い方をする場合、利用者の氏名などを入力しない、AIに介護方針の判断をさせない、といったルールを決めておく例が考えられます。
司法書士事務所が、AIで書類の下書きを作る場合に、AIが出した内容をそのまま依頼者に渡さず、必ず資格者が確認するという手順を決めておくといった使い方が考えられます。
※ 特定の企業の事例ではなく、よくある場面をもとにした想定例です。
提供会社の安全対策に加えて、使う側でも「何に使わせないか」「どこで人が確認するか」を決める必要があります。
すり抜けるような使い方や想定外の質問もあります。完全には防げない前提で、問題が起きたときの対応も決めておきます。
会社の規模に関係なく必要です。ただし、大がかりな仕組みは不要で、まずは「入力しない情報」「AIに決めさせないこと」「人が確認する場面」の3点を紙1枚にまとめるだけでも、十分な第一歩になります。
AIが答えてよい範囲を決め、それ以外は人に引き継ぐようにすることが大切です。また、AIが対応していることをお客様にわかるようにし、問題のある答えが出ていないか定期的に記録を確認します。
AIの提供会社が基本的な安全対策を用意していますが、自社の業務に合わせた線引きは、使う会社が決める必要があります。経営者が方針を決め、実際の設定は詳しい担当者や導入を支援する会社と一緒に進めるのが現実的です。
「AIに任せる範囲と、任せない範囲をはっきり決めておく。それがガードレールです」