生成AIのガイドライン｜盛り込む10項目と、作り方5ステップ

40歳になり、体型維持のために、縄跳びや自重トレーニングとあわせて家の冷蔵庫に貼り紙をしたことがあります。「22時を過ぎたら開けない」と書いて、扉の真ん中に貼りました。

その日に守らなくなりました。

見かねた妻が、寝る前に冷蔵庫の前に体重計を置きました。扉に手を伸ばすには、またぐことになります。またぐと、足元に数字が出ます。

貼り紙は1日も守れませんでしたが、体重計を置いた週から、夜に扉を開けるのはやめました。

生成AI（指示に応じて文章などを作るAI）のガイドライン（業務で使う際の方針やルール）を整備する会社が増えてきました。ただ、ガイドラインを作れば守られるわけではなく、そのガイドラインをどこに置くかで結果がはっきり分かれます。同じ文面を配っても、半年後に守られているものと、誰も読み返さなくなるものに割れます。

僕も、生成AIのガイドラインの作り方を間違えました。禁止事項を144行まで書き足しましたが、そのあいだに同じ形の事故（生成AIに渡してはいけない情報を渡すこと）を10回以上出しています。

先に一行だけ置きます。生成AIのガイドラインは、人が読む場所に置くと守られません。 守られるのは、業務の情報が必ず通る経路に、生成AIへ渡してよいかどうかを毎回検査する仕組みとして置いたときだけです。

今回の事例は整体院5店舗で、受付が備品の貸し借りを記録する画面の話

大企業と僕の会社の共創事業（複数の会社が共同で進める事業）で、僕の会社が開発を担当し、整体院5店舗の受付の担当者が、店舗をまたいだ備品の貸し借りを記録するために開く画面を立ち上げました。最小限の機能だけを先に作って現場に出す、MVPと呼ばれる作り方です。この整体院は、予約で施術者を指名でき、1枠90分です。

店舗をまたいで貸し借りしているのは、ポータブルの電気治療器、遠赤外線のマット、施術用の高さ違いの枕、テーピングのロールです。貸出の表は、店舗ごとに1つずつ、全部で5つありました。

受付の担当者は、この表を生成AIに貼り付けて聞くようになりました。「今日、駅前の店に電気治療器は何台残っているか」。表をまるごと貼って、要点だけ答えさせる使い方です。

ところが、その表の右端には、借りた理由を書く列がついていました。そこには、たとえば次のような記載がありました。「腰椎ヘルニアの既往あり。うつ伏せ不可」。来院した人の体の状態が、備品の貸出の表に記録されていました。 表をまるごと貼り付ければ、この列ごと、生成AIサービスを提供する会社へ渡すことになります。

だから、生成AIのガイドラインを作ることにしました。

今日は、禁止事項を書き足すほど生成AIのガイドラインが守られなくなる、という話をしていこうと思います。

前置きはさておき、本題に入ります。

① 教科書どおりに、禁止事項を並べてみた

生成AIのガイドラインとは

生成AIのガイドラインとは、組織の中で生成AIを使うときの、許可されている範囲と守るべき手順を書いた文書です。対象は業務での利用で、私的な利用は通常は範囲外に置きます。

「禁止事項の一覧」と理解されがちですが、実際に必要なのは「どうすれば使ってよいか」の記述です。使ってよい条件が書かれていないと、判断がつかない場面で人は聞きに来るか、黙って自分で決めるかのどちらかになります。

なぜ社内でガイドラインを定める必要があるのか

理由は3つあります。

• 入力してよい情報の線を、全員で同じ位置に引くため — 常識は人によってずれる
• 出力をそのまま使ってよいかの判断を、担当者に丸投げしないため
• 事故が起きたときに、誰にどう報告するかを決めておくため

3つ目が抜けている文書が多い項目です。禁止だけ書いて報告先を書かないと、事故は報告されずに消えます。報告されない事故は、次の版の材料になりません。

ガイドライン・ポリシー・規程の違い

	書くもの	拘束力
ポリシー（方針）	会社としての姿勢と原則	対外的な宣言に近い
ガイドライン（指針）	使うときの範囲と手順	運用上の指示
規程・就業規則	違反したときの扱い	懲戒の根拠になる

3つを1つの文書に混ぜないでください。罰則まで書きたいなら規程に置き、ガイドラインからは参照するだけにします。混ぜると、手順を1行直すたびに規程の改定手続きが要ることになります。

参照できる公的なガイドラインとひな形

ゼロから書く必要はありません。次の公表物が土台になります。

• AI事業者ガイドライン（経済産業省・総務省） — AIを開発・提供・利用する事業者が守る原則
• 生成AIの利用ガイドライン（日本ディープラーニング協会／JDLA） — そのまま社内文書の下敷きにできる条項のひな形。画像編もある
• 初等中等教育段階における生成AIの利活用に関するガイドライン（文部科学省）
• デジタル庁・各自治体のガイドライン — 公共の調達に関わるとき参照される
• IPAの資料 — セキュリティ側の観点を補える

ひな形をそのまま配ると、自社に無い前提の条文が混ざります。ひな形は項目の抜けを防ぐために使い、条文の中身は自社で実際に使っているツール名と業務で書き直してください。

リスク1｜機密情報・個人情報の漏えい

入力した文章が、提供元のサービス側に残る場合があります。氏名、連絡先、取引先名、契約書の本文、ソースコード。入れてしまってから消すことはできません。

対策は、入れてよい情報を列挙するのではなく、入れられない状態を先に作ることです。業務用アカウントに限定する、学習に使わせない設定を必須にする、扱う情報の種類ごとに使えるツールを分ける。この3つは文章より設定で効きます。

リスク2｜著作権など第三者の権利侵害

出力が既存の著作物に似ることがあります。文章、画像、コードのいずれでも起こります。

「AIが作ったから責任が無い」は通りません。公開する前に、既存のものと似ていないかを確かめる担当を決めてください。確認の工程を誰が持つかまで書いていないガイドラインは、実務では機能しません。

リスク3｜誤情報（ハルシネーション）

生成AIは、根拠が無いときも同じ調子で答えます。実在しない判例や統計が、もっともらしい形で出てきます。

裏付けを取る対象を、文書の中で名指ししてください。「必ず確認する」と書くと、全部を確認する運用になって守られなくなります。数字・固有名詞・法令の条文・引用。この4つに限って裏付けを取る、と書くほうが守られます。

リスク4｜把握できない利用（シャドーAI）

会社が用意していないツールを、各自が個人契約で使い始める状態です。入力された情報がどこへ行ったかを、後から追えません。

使ってよいツールを1つ用意して、そこを通れば速い状態を作ってください。申請の手続きが重いほど、迂回されます。申請が要るものと、要らないものを分けて書くのが実務的です。

実際に起きている事故の型

公表されている事故は、だいたい次の2つの型に収まります。

型	起きたこと	ガイドラインで防ぐ場所
入力側の事故	従業員が機密のソースコードを入力し、外部に出た	入力してよい情報の線と、業務用アカウントの限定
出力側の事故	生成された実在しない判例を、確認せずに提出した	裏付けを取る対象の名指しと、確認する担当の指定

入力側と出力側は、対策の置き場所が違います。入力側は設定と権限で止められますが、出力側は人の作業でしか止まりません。文書を書くときは、この2つを分けて章立てしてください。

書く項目1｜目的と基本方針

何のためにこの文書があるのかを1段落で書きます。「禁止するため」ではなく「安全に使えるようにするため」と書くほうが、後の条文と整合します。

基本方針には、会社として生成AIの利用を推奨するのか、限定するのかを明記してください。ここが曖昧だと、現場は迷ったときに使わない方を選びます。

書く項目2｜適用範囲（誰に・どこまで）

正社員だけか、業務委託や派遣を含むか。会社が契約したツールだけか、個人契約のものも含むか。業務での利用だけか、業務時間内の私的利用も含むか。

抜けやすいのは、社外の協力先です。自社の情報を扱う人が社外にいるなら、契約書側に同等の条項があるかを確認してください。

書く項目3｜利用してよい生成AIの分類

ツールを3つに分けて、名指しで書きます。

区分	扱い	例
許可	申請なしで使える	会社が契約した業務用アカウント
条件付き	申請と承認が要る	特定の用途・部署に限って使うもの
禁止	使わせない	入力内容が学習に使われる設定を外せないもの

製品名を書くと改版が増えますが、書かないと守れません。本文では「許可されたツールの一覧は別紙による」とし、一覧だけを差し替えられる形にしておくと運用が続きます。

書く項目4｜利用申請とアカウントの扱い

誰に申請し、誰が承認するか。承認の記録をどこに残すか。個人のアカウントを業務に使わないことを明記します。

退職・異動のときにアカウントを止める手順まで書いてください。止める手順が無いと、退職者のアカウントから社内の情報が読める状態が残ります。

書く項目5｜オプトアウト（学習に使わせない）設定

入力した内容をモデルの学習に使わせない設定を、利用開始の条件として必須にします。

設定の場所は製品ごとに違い、更新で変わります。文書には「必須である」ことだけを書き、手順は別紙かイントラの手順書に逃がすと、改版の負担が減ります。

書く項目6｜入力してよい情報・いけない情報

情報を種類で分けて書きます。個人情報、顧客の秘密情報、未公表の財務情報、ソースコード、契約書の本文。ここは自社の実物の名前で書いてください。

「機密情報を入力しない」だけでは動きません。現場が扱っているファイル名や画面名で書くと、判断できます。たとえば「◯◯管理システムからの出力は貼り付けない」という書き方です。

書く項目7｜出力の扱いと確認の手順

生成物をそのまま社外へ出してよいか、出す前に誰が確認するか、確認した記録をどこに残すかを書きます。

確認の対象を絞ってください。数字・固有名詞・法令・引用の4つに限る、と書けば実行されます。全文の確認を求めると、確認したことにして通す運用になります。

書く項目8｜コード生成支援ツールとブラウザ拡張機能

コード生成では、出力に含まれるライセンスの扱いが問題になります。生成されたコードをそのまま製品に入れてよいか、社外へ納品するコードで使ってよいかを決めます。

ブラウザ拡張機能は、閲覧している画面の中身を外部へ送るものがあるため、別枠で扱ってください。業務端末に入れてよい拡張機能を一覧で管理するのが確実です。

書く項目9｜違反したときの扱いと報告の経路

気づいた人がどこへ、いつまでに報告するか。報告した人が不利にならないことを明記してください。

罰則そのものは就業規則側に置き、ガイドラインからは参照します。報告の経路は、事故の対応より先に必要になります。経路が無いと、事故は「起きなかったこと」になります。

書く項目10｜位置づけと改版のしかた

就業規則・情報セキュリティ規程との関係を書きます。どちらが優先するかを決めておかないと、矛盾したときに現場が止まります。

改版履歴を文書の中に持ってください。生成AIの領域は製品側の仕様が変わるため、見直しの頻度（たとえば半年ごと）と、見直す担当を先に決めておきます。

生成AIのガイドラインの作り方（5ステップ）

	やること	終わったと言える状態
1. 実態を集める	いま誰が何に使っているかを聞き取る	使われているツールの名前が出そろっている
2. 守る対象を決める	外に出てはいけない情報を、実物の名前で列挙する	情報の種類が名指しできている
3. ひな形に当てる	JDLA等のひな形で項目の抜けを潰す	10項目が埋まっている
4. 設定に落とす	アカウント・権限・オプトアウトを実際に設定する	文章ではなく設定で止まっている項目がある
5. 配って、聞く	読み合わせ、判断に迷った場面を集める	次の版の材料が集まっている

1を飛ばして3から始めると、実態と合わない文書ができます。現場がすでに使っているツールが禁止側に入っていると、配った翌日から守られない文書になります。

周知と定着のさせ方

配って終わりにしないための手順は3つです。

• 読み合わせを短く、複数回やる — 1回30分を、部署ごとに
• 判断に迷った実例を集めて、次の版に足す
• 問い合わせ先を1つにする — 迷ったときに聞ける相手を決める

周知の成果は「読んだ人の数」では測れません。測るなら、迷ったときに問い合わせが来た件数を見てください。問い合わせが0件なら、読まれていないか、迷わずに自分で決めています。

中小企業でもガイドラインは必要か

必要です。ただし分量は変わります。人数が少ないほど、文書より設定で解決したほうが速く済みます。

最小構成は、使ってよいツールの一覧・入れてはいけない情報・困ったときの連絡先の3点。A4で1枚に収まります。10項目すべてを揃えるのは、扱う情報が増えてからで間に合います。

生成AIのガイドラインに関するよくある質問

Q. 生成AIのガイドラインには、最低限どの項目を書けばよいですか。
目的と基本方針、適用範囲、使ってよいツールの分類、入力してよい情報といけない情報、出力の確認手順、報告の経路。この6つが揃っていれば、最初の版としては成立します。

Q. ひな形をそのまま使ってもよいですか。
項目の抜けを防ぐ用途では有効です。ただしツール名と情報の種類は、自社で実際に使っているもので書き直してください。実態と合わない条文は、配った翌日から守られなくなります。

Q. ガイドラインと社内規程は分けるべきですか。
分けてください。罰則を伴う部分は規程に置き、ガイドラインからは参照するだけにします。混ぜると、手順を1行直すのに規程の改定手続きが要ります。

Q. どのくらいの頻度で見直せばよいですか。
製品側の仕様が変わる領域なので、半年ごとを目安に、見直す担当を決めたうえで改版履歴を残してください。許可ツールの一覧は別紙にしておくと、本文を触らずに差し替えられます。

Q. 違反が見つかったとき、どう対応すればよいですか。
先に決めておくのは、罰則ではなく報告の経路です。報告した人が不利にならないことを明記しておかないと、事故は表に出ません。表に出ない事故は、次の版の材料になりません。

生成AIのガイドラインは、素直に教科書どおりに作りました。

教科書に載っている手順は3つあります。使ってよい用途の範囲を決めること、入力してはいけない情報を列挙すること、破ったときの報告先を書くことです。この3つで組み立てると、文書の中身はほとんど禁止事項になります。

書き上げた初版は48行で、A4に1枚で収まりました。「来院した人の氏名を貼り付けないこと」「施術の記録を含む列を生成AIに入力しないこと」「個人で契約したアカウントを業務に使わないこと」。読み合わせを1回30分でやって、5店舗の受付の担当者全員から、読んだという返事をもらっています。

そして、この初版はちゃんと効きました。 配った直後の1か月、貸出の表をまるごと貼り付けた形跡は1件も出ていません。

この段階では、ガイドラインの作り方を間違えたという感覚はまったくありませんでした。

ここまでが、生成AIのガイドラインを作るときの教科書どおりの整理です。実態を集め、書く項目を埋め、配って、周知する。手順としては、これで足りています。

この記事の後半で扱うのは、この手順どおりに作ったガイドラインを3か月運用したあいだに、文書の側で何が起きていたかです。書き方の教科書に、載っていない工程がありました。

② 3か月で禁止事項が144行になり、事故は減らなかった

ところが、生成AIのガイドラインを運用（現場で使い続けること）しはじめて2か月目から、様子がおかしくなってきました。

受付の担当者が、借りた理由の列を消さないまま、表をまるごと貼り付けてしまう。この形の事故が出るたびに、僕は禁止事項を書き足しました。1件目で「借りた理由の列を含めないこと」を足し、2件目で「表を貼る前に右端の列を削ること」を足しました。3か月で、48行だった文書は144行になっています。

それでも、同じ形の事故は止まりませんでした。半年で10回以上出ています。

再現の条件は、数え直すとはっきりしていました。事故が出るのは月末と、担当者が別の店舗の応援に入った日です。つまり、いつもの手順が使えない日でした。

144行の禁止事項は、そういう日にこそ読み返されるはずのものです。ただ、応援に入った担当者が144行を頭から読み直すことは、一度もありませんでした。

③ 気づいたのは、事故の直前に何が起きていたかを並べたときでした

最初は、単に読んでいないだけだと思っていました。

だから読み合わせをもう一度やりました。1回30分を全店舗ぶん、5回。それでも2週間後に、また同じ形の事故が出ました。読ませる回数を増やしても、結果は動きませんでした。

そこで、事故の記録を時系列に並べ直しました。ここで引っかかったのは、事故そのものではなく、その直前に何が起きていたかです。

どの事故も、その前の数日以内に、受付の担当者が貸出の表の列を作り替えていました。 電気治療器の管理番号を足したとき、枕の高さを別の列に分けたとき、テーピングの残数を色分けしたとき。備品が増えるたびに、表の形が変わっていました。

つまり、禁止事項は「右端の列」と書いていたのに、右端がすでに別の列に入れ替わっていたわけです。禁止事項の文章は、表の形が変わっても自動では更新されません。

ここで、生成AIのガイドラインの置き場所が悪かったのではないか、と思いはじめました。

④ 原因を1件に絞る

ガイドラインの作り方を間違えた理由として思い当たることは、いくつもあります。文章が長すぎたこと、周知の回数が足りなかったこと、整体院の受付担当者をガイドライン作りに巻き込むのが遅かったこと。

ただ、原因を絞ると1件でした。

生成AIのガイドラインを、人が読む場所にしか置かなかったこと。

読む場所に置いた文章は、読まれたときにしか働きません。人が文章を読み返すのは、いつもの手順が通る日です。手順が崩れた日、つまり事故が出る日には、誰も読み返しません。

しかも文章は、表の形が変わっても自分では変わりません。表の列が入れ替わった瞬間から、144行のうち何行かは、現在の表の列を正しく指していない記述になります。

⑤ 直したのは1箇所だけ

やったことは1件です。144行のうち1行だけを、文章から検査（生成AIへ渡す前に内容を自動で確かめる仕組み）に移しました。

ただ、移す前に済ませておくことがありました。貸出の表を生成AIに聞く経路（表から生成AIへ情報を渡す手順）を、1本に寄せることです。

それまで受付の担当者は、貸出の表を自分の端末でコピーして、生成AIの画面へ貼り付けていました。この形では、表が受付の担当者の手を離れるのは、担当者が端末上で貼り付けた瞬間です。そのため、表を渡す手順の途中に検査を置けません。

そこで、備品の画面に「聞く」のボタンを付けました。押せば、表を貼らなくても同じ答えが返ります。貼る手間がなくなるので、担当者はこのボタンを使うようになりました。

検査を置いたのは、その「聞く」の一歩手前です。ボタンを押すと、必ずそこを通ります。

検査は、禁止語（含まれていたら止める語）を探す形にしませんでした。渡してよい列だけを13件、名指しして、それ以外が1件でも混ざっていたら止める形です。止まると、担当者の画面に理由が1行出ます。「この表には、渡してよい13件に入っていない列があります」。

書いた検査は163行で、動く時間は0.05秒未満です。渡す前に止まるので、生成AIサービスには一度も届きません。

作った当日に、5店舗ぶんの表を全部通してみました。3店舗で止まりました。止まった列は、どれも僕が144行のどこかで禁止したはずの列です。

⑥ あとで知った ── 公的な規格に、同じ順番が書いてありました

しばらくして、米国立標準技術研究所（NIST）が出している文書を読み、手が止まりました。「Artificial Intelligence Risk Management Framework（AI RMF 1.0）」は、AIのリスク管理の枠組みを示す文書で、文書番号は NIST AI 100-1、2023年1月の公開です。無料で読めます。

そこでは、方針の置き方に条件が付いていました。AIのリスクを洗い出し、測り、扱うための方針と手順が、組織全体で置かれていること、見えること、実効的に実施されていること。この3つが揃って初めて要求を満たす、という書き方です。原文では「are in place, transparent, and implemented effectively」となっています。

置くだけでは足りない、と明記されていました。

さらに、測定（MEASURE）の節にはこうありました。配る前に試すだけでなく、動いているあいだも繰り返し試すこと。原文は「AI systems should be tested before their deployment and regularly while in operation」です。

統治（組織全体で方針や手順を定め、管理すること）の節には、目を配り続けることが終わりの来ない要求だ、とも書かれています。あとから足すものではなく、初めから組み込まれているものだ、と。原文は「Attention to governance is a continual and intrinsic requirement」。ここまで引いた3か所は、置いたものを繰り返し確かめ続ける、という一点で同じことを言っています。文書を書き終えた日が、終わりではありません。

僕がやったのは、1行を毎回走る検査に移しただけでした。新しい理屈は、ひとつも要りませんでした。

⑦ 何が良くなって、何を失ったか

検査を生成AIへ情報を渡す経路に置いてから、受付担当者の作業で変わったことがあります。

止まった回数がそのまま記録に残るようになりました。以前は、事故が起きてから気づく形です。いまは、渡す前に止まった時点で数えられます。守られているかどうかが、初めて数で見えるようになりました。

ただ、代償があります。3件書いておきます。

1件目。検査そのものが古びます。 貸出の表は、この半年で189回作り替えられました。作り替えるたびに、名指しした13件の列を直すことになります。通してよい列を名指しする行は、これまでに120行書いて、そのうち101行はあとから消すか書き直しました。書いたもののほとんどを、一度は書き直している計算です。

2件目。通ったからといって、安全とは限りません。 この検査は、渡された表から列名を拾い、渡してよい13件の列名と照らし合わせる仕組みです。だから、列名を1件も拾えないと、照らし合わせる対象がないまま黙って通ります。応援だけで回した日に、この抜けが出ました。止まらなかったことと、守られたことは別です。

3件目。144行の文章は、捨てられませんでした。 検査に移せたのは、最初の1行と、そのあとに足したぶんを合わせても数行です。残りの禁止事項が守ろうとしている情報は、備品の画面に付けた「聞く」のボタンを通りません。担当者が施術の記録を自分の端末で開いて、そのまま生成AIへ貼り付ける経路は、いまも残っています。手前に何かを置ける場所が無いので、文章のまま置いておくしかありません。

だから、いまの実務では手をつける順番が入れ替わりました。禁止事項を先に書くのをやめて、まず経路を1本に減らし、そのあとで、その経路に置ける禁止事項だけを検査に移します。

⑧ 現場で使うなら、この3つの問い

生成AIのガイドラインに1行足すたびに、その行について次の3つだけを確かめています。

1. その禁止が破られる経路を、1本で言えるか。言えるなら、検査に移します。言えないなら、文章のまま残します。

2. 破ったとき、誰かの画面がその場で止まるか。止まるなら、効いています。止まらないなら、効いていません。事故のあとにしか気づけないからです。

3. 検査は、通してよい形を名指ししているか。名指ししているなら、その形を保ちます。禁止語を探す形は、必ず漏れます。

3つのうち、いちばん効くのは、いちばん下の問いです。禁止語を探す形にすると、表の形が変わった日に静かに素通りします。通してよい形を名指しすると、表が変わった日には、生成AIへ渡す処理が必ず止まります。 処理が止まるので、表に合わせて検査を直すことになります。

運用の手順は4件に絞りました。1件目、禁止事項を書く前に、その情報が外へ出ていく経路を全部書き出す。2件目、経路が2本以上あるものは、まず1本に寄せる。3件目、寄せた経路の手前に、通してよい形を名指しした検査を置く。4件目、止まった回数を毎月数える。

この4件は、1枚に印刷できる分量に収めています。増やすと、144行と同じ末路をたどります。

経路を1本に寄せてから検査を置くという見方は、扱っているものには依存しません。備品でも、見積書でも、契約書の下書きでも同じです。

⑨ この作り方が効き続ける理由

生成AIのモデル（入力に応じて文章を生成する仕組み）が賢くなっても、まず経路を1本に寄せ、そのあとで検査を置くという順番は変わらないと考えています。

生成AIが賢くなって短縮できるのは、書かれた文章を解釈する工程だけだからです。禁止の文章が、それ自体で経路を塞ぐようにはなりません。経路を塞ぐのは、その経路上に置いた検査だけです。

一方で、生成AIを使う業務が増えるほど、情報が外へ出ていく経路の本数も増えます。新しく増えた経路に対応する禁止事項は、まだ誰にも配られていません。だから、ガイドラインの行数を数えるより、経路の本数を数えるほうが、先に効きます。

AIガバナンスとは、組織としてAIの利用方針を定め、管理することです。この考え方を実際の社内規程と実装（実際に動く仕組みにすること）に落とす話は、AIガバナンスと全社導入のページに整理しています。どこに置けば守られるか決めかねているルールがあれば、こちらからご相談ください。

余談ですが、冷蔵庫の前の体重計は、いまもそこにあります。数字を見ないでまたぐのが、この半年でだいぶ上手くなりました。

以上です。

▶ この記事のテーマを実務で相談する: AIガバナンス・導入定着

生成AIのガイドライン よくある質問

生成AIのガイドラインには、最低限どの項目を書けばよいですか？

目的と基本方針、適用範囲（誰に・どこまで）、使ってよい生成AIの分類、入力してよい情報といけない情報、出力の確認手順、違反に気づいたときの報告の経路。この6つが揃っていれば最初の版として成立します。ここに、利用申請とアカウントの扱い、オプトアウト設定、コード生成支援ツールと拡張機能、位置づけと改版を足すと10項目になります。

生成AIガイドラインのひな形は、そのまま使ってよいですか？

日本ディープラーニング協会（JDLA）の「生成AIの利用ガイドライン」や、経済産業省・総務省の「AI事業者ガイドライン」は、項目の抜けを防ぐ土台として有効です。ただしツール名と情報の種類は、自社で実際に使っているもので書き直してください。実態と合わない条文が混ざると、配った翌日から守られない文書になります。

ガイドラインと社内規程は、分けるべきですか？

分けてください。ポリシーは会社の姿勢、ガイドラインは使うときの範囲と手順、規程・就業規則は違反したときの扱いを書くものです。罰則を伴う部分は規程に置き、ガイドラインからは参照するだけにします。混ぜると、手順を1行直すたびに規程の改定手続きが必要になります。

生成AIのガイドラインは、どのくらいの頻度で見直せばよいですか？

製品側の仕様が変わる領域なので、半年ごとを目安に、見直す担当を決めたうえで改版履歴を文書内に残してください。許可ツールの一覧やオプトアウト設定の手順は本文に書かず別紙に逃がすと、本文を触らずに差し替えられます。

中小企業でも生成AIのガイドラインは必要ですか？

必要ですが、分量は変わります。人数が少ないほど、文書より設定（業務用アカウントへの限定、学習に使わせない設定、扱う情報ごとのツール分け）で解決したほうが速く済みます。最小構成は、使ってよいツールの一覧・入れてはいけない情報・困ったときの連絡先の3点で、A4で1枚に収まります。

生成AIのガイドラインは、どのように作ればよいですか？

禁止事項を書く前に、情報が外へ出ていく経路をすべて書き出します。経路が2本以上あるものは1本に寄せ、その手前に通してよい形を名指しした検査を置きます。破ったときに担当者の画面がその場で止まるようにし、止まった回数を毎月数えます。検査に移せない禁止事項は文章のまま残します。

生成AIのガイドラインで禁止事項を増やしても、なぜ事故が減らないのですか？

文書は読まれたときにしか働かず、いつもの手順が崩れる日ほど読み返されないからです。また、業務で使う表の形が変わっても文章は自動で変わらず、現物を指さない禁止事項になります。この事例では文書を48行から144行へ増やしても、同じ形の事故が半年で10回以上出ました。読み合わせを増やしても結果は変わりませんでした。

生成AIへ情報を渡す前の検査は、どのように設計しますか？

禁止語を探すのではなく、渡してよい列だけを名指しし、それ以外が1件でも混ざれば止めます。事例では渡してよい列を13件に絞り、検査を「聞く」ボタンの一歩手前に置きました。検査は0.05秒未満で動き、止めた情報は生成AIの側へ届きません。表の形が変わった日には止まるため、検査を直すきっかけも作れます。

NIST AI RMF 1.0は、AIガバナンスの運用について何を求めていますか？

記事で参照したNIST AI RMF 1.0は、AIリスクを扱う方針と手順が、置かれ、見える状態で、実効的に実施されていることを求めています。また、AIシステムは配る前だけでなく、運用中も繰り返し試すべきだとしています。ガバナンスへの注意は継続的で、初めから組み込む要求とも説明されています。したがって、ガイドラインは文書を書き終えた時点で完成ではありません。

生成AIガイドラインを検査に置き換えるデメリットは何ですか？

検査そのものも、業務で使う表の変更に合わせて古びます。この事例では表が半年で189回作り替えられ、通してよい列を名指しするために書いた120行のうち101行を、あとから消すか書き直しました。また、列の名前を1件も拾えないと、照合する対象がないまま黙って通る抜けもありました。そのため、止まらなかったことと安全だったことは同じではありません。

生成AIガイドラインの禁止事項は、すべて検査に移せますか？

すべてを検査に移すことはできません。この事例で検査へ移せたのは数行で、「聞く」ボタンを通らない情報を守る禁止事項は残りました。担当者が自分の端末から生成AIへ直接貼り付ける経路には、手前に検査を置ける場所がありません。経路を1本に寄せられるものから検査へ移し、それ以外は文章のまま残します。