AIガバナンスの決め方｜必要な理由・6つのリスク・策定5ステップと法規制

電動アシスト自転車で長い坂を下っていて、あることに気づきました。スピードが乗ると、アシストがすっと消えるのです。調べると、法律で「アシストは時速24キロまで」と決まっていて、その規制はモーターの制御に直接埋め込まれていました。つまり僕は、道路交通法のその条文を一度も読んだことがないのに、一度も破ったことがありません。「規則が、読み物ではなく機構になっている」からです。

会社のAIに規則を守らせる話も、行き着いた先はこれと同じでした。今日は、AIガバナンスという言葉について、規程を書いても守らせられなかったところから機構に行き着くまでの記録で話をしていこうと思います。前置きはさておき、本題に入ります。

この話に出てくるシステム

言葉を先に置きます。AIガバナンスとは、AIを安全に使い続けるための統制の仕組み全体のことです。世の中の解説の多くは、「責任者を決め、委員会を作り、規程を整備する」という組織側の話をしています。それは大事な半分ですが、この記事が扱うのはもう半分——LLM（AIそのもの）にガバナンス機構をどう働かせるかという、実装側の話です。組織と現場ルールの側は、生成AIのガイドラインの話に書いてあります。

先に、組織側の標準回答も1表で置いておきます。AIガバナンスを調べると必ず出てくる規制と枠組みは、この4つです。

枠組み	発行・発効	性格
EU AI Act（欧州AI規則）	2024年8月1日発効。禁止行為は2025年2月、汎用AIは2025年8月、高リスクAIは2026年8月から段階適用。	法規制。リスク段階別の義務。
NIST AI RMF 1.0（米国）	2023年1月公開。	任意の枠組み。統治・把握・測定・管理の4機能。
AI事業者ガイドライン（日本）	2024年4月19日に第1.0版。以降更新継続。	事業者の自主的取り組みを促す指針。
ISO/IEC 42001	2023年12月発行。	世界初のAIマネジメントシステム国際規格。認証可能。

リスクの分類（公平性・プライバシー・著作権・誤情報など）と体制の作り方は、どの解説でも読めます。ここから先が、どこにも書いていない話です。

題材は、自社で開発しているAIの自律実行基盤です。「人が寝ているあいだも、AIが自分で仕事を進める」仕組みで、記事の制作や計測を担い、社内の実務で毎日動いています。

① 教科書どおりに、言葉で統制してみる

AIガバナンスとは

AIガバナンスとは、AIを安全に使い続けるための統制の仕組み全体を指します。責任者・体制・規程といった組織側の設計と、権限や承認をAIの実行の仕組みに埋め込む実装側の設計の両方を含みます。

解説の多くは組織側に寄っています。規程を作り、委員会を置き、研修を回す。それは必要ですが、それだけでは足りない相手が出てきた、というのがこの記事の後半です。

コーポレートガバナンス・内部統制との違い

形は似ていますが、統制の相手が違います。

	統制の相手	効かせ方
コーポレートガバナンス	経営と組織	規程・機関設計・開示。読んで従う
内部統制	業務プロセス	職務分掌・承認フロー。手順で縛る
AIガバナンス	読まずに動くもの	規程に加えて、権限・承認・記録を仕組みに埋める

3行目だけ、性質が違います。人は規程を読んで従いますが、AIは規程を読みません。指示文に書いた禁止事項は、守られることもあれば守られないこともあります。

なぜ今、AIガバナンスが求められるのか

理由は3つあります。

• 使う場所が業務の中心に移った — 試しに使う段階から、顧客対応や与信のような判断へ入り込んだ
• AIが自分で動く範囲が広がった — 人が1回ずつ指示する形から、任せて動かす形へ変わった
• 規制が形になり始めた — 国内外でガイドラインと法制度の整備が進み、統制の仕組みを持たないこと自体が事業のリスクになった

2つ目が、いちばん見落とされます。人が確認してから実行する仕組みなら、規程と教育で足ります。確認を挟まない仕組みにした瞬間、規程の効き方が変わります。

リスク1｜情報漏えい

入力した内容は、社外のサーバーへ送られます。個人向けのプランでは、入力が学習や品質改善に使われる設定になっていることがあります。

統制として決めるのは、禁止の一覧ではなく「入れてよい情報」の側です。禁止の一覧は、書いていないものが出てきたときに現場で判断できません。

リスク2｜著作権・商標権の侵害

生成された文章や画像が、既存の著作物に似てしまうことがあります。社外に出すものは、公開前に人が確認する手順を残してください。個別の案件が侵害に当たるかどうかは事案ごとの判断になるため、迷うものを専門家へ送る経路も先に決めておきます。

リスク3｜ハルシネーション（誤った情報の生成）

AIは、もっともらしい続きを作る仕組みです。正しさを判定してから出力しているわけではありません。実在しない条文・製品名・数値が、正しい文章と同じ調子で混ざります。

統制側でできるのは、誤りが混ざる前提で、出力を業務に流す手前に検査を置くことです。「間違えないように指示する」では止まりません。

リスク4｜出力の偏りと、不公平な判断

学習データの偏りが、そのまま出力に出ます。採用、与信、価格の判断にAIを使う場合、「なぜその結論になったか」を説明できないまま人に不利益を与えることが起こりえます。

この種の用途では、AIの出力を最終判断にしない（人が決める）という線を、規程で先に引いておきます。

リスク5｜サービス品質の低下

AIに任せた工程の出来がばらつくと、顧客から見た品質は、いちばん悪かった1件で決まります。平均が上がっても、下限が下がれば信用は落ちます。

見るべき指標は平均ではなく、外れた出力が何件あったかです。

リスク6｜AIエージェントによる新しいリスク

自分で処理を選んで実行する仕組みでは、間違いが「文章」ではなく「実行された結果」として出ます。メールが送られた、データが消えた、外部に公開された。

ここが、従来のAI利用といちばん違う点です。取り返しがつく作業と、つかない作業を先に仕分けてください。つかないほうにだけ承認を必須にし、残りは任せて記録を取ります。

AIガバナンスを整えると、何が得られるか

得られるのは3つです。

• 取引先への説明ができる — 統制の証明を求められる取引で、そのまま出せる資料になる
• 止めずに使える範囲が広がる — 線が引かれていれば、線の内側は迷わず使える
• 事故が起きたときに追える — 記録があれば、原因の切り分けと再発防止ができる

2つ目が実務では効きます。統制が無い会社ほど、結局「全面禁止」に寄ります。

AIガバナンスに関する法規制とガイドライン

実務で参照されるのは、次の4つの系統です。

• 国内のガイドライン — 総務省・経済産業省の「AI事業者ガイドライン」。開発者・提供者・利用者の役割ごとに、守るべき事項が整理されている
• 国内の法律 — AIそのものを包括的に規制する法律ではなく、個人情報保護法・著作権法など既存の法律が先に効く
• 海外の規制 — EUのAI規則（EU AI Act）のように、用途ごとにリスクを区分して義務を課す形の法制度が進んでいる
• 国際規格 — ISO/IEC 42001（AIマネジメントシステム）。第三者認証として使える

社内規程に条文や版番号を書き写さないでください。ガイドラインは更新されます。参照先を示す形にしておくほうが、運用が続きます。

策定ステップ1｜責任者を決め、体制を作る

最初に決めるのは、委員会の名前ではなく「誰が最終的に決めるか」です。法務・情報システム・事業部門の3者が関わるため、決める人を置かないと、判断が保留のまま現場が止まります。

策定ステップ2｜社内のどこでAIが使われているかを調べる

規程を書く前に、実態を数えます。把握できていない利用が、いちばん危険です。部署ごとに、使っているサービス名・用途・入力している情報の種類を出してもらいます。

この調査で、「業務に組み込まれてしまっているもの」が出てきます。それを禁止すると業務が止まるため、規程の設計はここから逆算します。

策定ステップ3｜ポリシーとガイドラインを作る

書くのは次の5点です。

• 使ってよいサービスと、使ってはいけないサービス
• 入力してよい情報と、入力してはいけない情報
• 出力をそのまま使ってよい用途と、人の確認が要る用途
• 事故が起きたときの連絡先と、止め方
• 見直す間隔と、見直す担当

5つ目を書いていない規程は、半年で実態と合わなくなります。

策定ステップ4｜監視と監査の仕組みを置く

見るのは、誰が・いつ・何を入力し・何が返り・何が実行されたかです。保存先、保存期間、閲覧できる人を、導入と同時に決めます。

遵守率の自己申告より、仕組みが自動で残した記録のほうが監査に耐えます。記録が残らない経路は、使わせないほうが安全です。

策定ステップ5｜規制とサービスの更新に追随する

ガイドラインも、AIサービスの仕様も変わります。追随の担当と間隔を決めていないと、規程だけが古いまま残ります。見直しは、年1回ではなく四半期ごとが現実的です。

ポイント1｜部門をまたいでリスクを見る

AIのリスクは、情報システムだけでも法務だけでも見切れません。入力してよい情報は法務が、通信経路は情報システムが、止めたときの業務影響は事業部門が、それぞれしか判断できません。

ポイント2｜規程と、仕組みへの実装を両方そろえる

人に向けた規程は、人には効きます。問題は、規程を読まないものが業務を実行するようになったことです。

だから統制は2階建てにします。人には規程で、実行する仕組みには権限・承認・記録で。どちらか一方だけでは、抜けが出ます。（この2階建ての下側をどう作るかが、この記事の後半の主題です）

ポイント3｜重要性を周知し、判断できる人を育てる

全員に研修を受けさせるより、各部署に1人、判断を引き取る人を置くほうが実務では効きます。判断が要るのは「この情報を入れてよいか」「この出力をそのまま出してよいか」の2つで、どちらも業務を知っている人でないと決められません。

AIガバナンスの導入でつまずくところ

よく詰まるのは次の3つです。

• 禁止だけを決めて、使ってよい範囲を決めない — 現場が止まる
• 実態調査を飛ばして規程を書く — 既に業務に入っている利用と衝突する
• 記録が残らない経路を放置する — 事故が起きたことに気づけない

3つ目は、事故が起きるまで表に出ません。そのぶん、後から取り返しがつきません。

AIガバナンスのよくある質問

Q. AIガバナンスとAI利用ガイドラインは何が違いますか。
ガイドラインは主に人に向けたルール文書で、AIガバナンスの一部です。AIガバナンスは、それに加えて体制・責任者・監査・実行の仕組みへの権限や記録の埋め込みまでを含みます。

Q. どこから始めればよいですか。
実態調査からです。規程を書く前に、どの部署が何にAIを使い、どんな情報を入れているかを数えてください。把握していない利用の上に規程を書くと、書いた翌日から守られません。

Q. 中小企業でも必要ですか。
必要です。ただし委員会や監査部門を置く形にする必要はありません。決める人を1人決め、入れてよい情報の線を引き、記録を残す。この3つから始められます。

Q. 禁止事項を指示文に書けば統制になりますか。
補助にはなりますが、保証にはなりません。守るかどうかがAIの判断に委ねられている限り、守られないことがあります。この記事の後半は、そこの話です。

Q. ISO/IEC 42001の認証は取るべきですか。
取引先から統制の証明を求められる事業なら検討の価値があります。ただし認証は組織側の仕組みの証明であって、AIそのものへの実装を保証するものではありません。

最初は、教科書どおりに言葉で統制しました。やってよいこと・いけないことを規程にまとめ、AIに渡す指示文にも「勝手に公開しない」「不確かなら確認する」といった禁止事項と注意書きを書き込みました。

人の組織に対しては、これで一応の形になります。ところがAIに対しては、様子が違いました。守るときは守る。でも、守らないときがあるのです。

ここまでが、AIガバナンスの教科書どおりの整理です。責任者を決め、実態を調べ、規程を書き、記録を残し、更新に追随する。相手が人であるかぎり、この形は機能します。

この記事の後半で扱うのは、規程を読まない相手に同じことをやったときの話です。禁止事項は書いてありました。守られる日と、守られない日がありました。

② 禁止事項は、確率でしか効かない

自律実行を続けるうちに、言葉の統制の限界がはっきりしてきました。LLMへの「してはいけない」は、機構ではなく確率として効きます。100回中99回守っても、100回目に「今回は状況が違うから」と、もっともらしい理由をつけて例外を作ることがあるのです。

実例を2つ挙げます。1つ目は推測です。「不確かなら確認する」と書いてあるのに、確認を挟まず推測で工程を先へ進めてしまう。2つ目は粘りです。品質チェックに落ちたとき、指摘を素直に直すのではなく、チェックのほうを通る形に言い回しを変えて再提出してくる。どちらも悪意の形をしておらず、目標に向かって熱心なだけに見えるのが厄介でした。禁止をプロンプトに書いても破られる構造は、プロンプトインジェクションの記事で書いた話と同根で、目標を渡したAIが根拠を捏造してみせた実験はAIエージェントの記事に記録があります。

③ 電動自転車を思い出した

対処を考えていて、冒頭の電動自転車を思い出しました。時速24キロの規制は、運転者に読ませて守らせる形をしていません。モーター制御という通り道に埋まっているから、読んでいない人でも破れないのです。

ここで、AIも同じではないかと考えました。言い聞かせる場所を増やすのではなく、AIの通り道——実行の仕組みそのもの——に統制を埋めれば、確率の問題が構造の問題に変わります。守るかどうかをAIの判断に委ねない。委ねる場面を、設計で減らす。ここから、基盤の作り直しが始まりました。

④ 原因は、統制を「言葉」で渡していたこと

原因を1つに絞ります。ガバナンスを、規程と指示文という言葉の形でAIに渡していたことです。

言葉の統制は、AIが読んで・解釈して・従う、という経路で効きます。ところが、この経路のどこにも保証がありません。機構の統制は、そもそも通れない・必ず止まる・必ず記録される、という形で効きます。解釈の余地がないぶん、確実です。アシストが時速24キロで切れるのと同じで、破るという選択肢が存在しなくなります。

⑤ LLMに効かせた、5つの機構

基盤に組み込んだガバナンス機構は5つです。どれも「言い聞かせ」ではなく、実行の仕組みに埋まっています。

1. 権限の既定値。作業を12個のノードに分け、それぞれに4段階の権限を設定。自動で実行してよいもの、報告が要るもの、事前承認が要るもの、人しか実行できないもの。公開のような取り返しのつかない操作は、AIがどう判断しようと承認なしには通れません。
2. 推測レベルのダイヤル。「不確かなら確認して」と言葉で頼むのをやめ、どこまで推測で進んでよいかを1〜5の数値で渡します。数値なら解釈がぶれません。
3. 受入ゲートと再試行の上限。仕事の合否はAIの自己申告ではなく、別の検収工程が判定します。3回落ちたら、粘るのをやめて必ず人に返る。チェックを言い回しで通り抜ける動きを、回数の上限で断ちます。
4. 指摘の台帳。検収での指摘は1件ずつ番号付きで台帳に記録され、次のサイクルに自動で編入されます。AIが指摘を忘れる・無視するという選択肢を、記憶の仕組みごと奪う形です。
5. 方向指示のキュー。人からの指示はキューに積まれ、サイクルの境界で必ず消費されます。AIの都合で後回しにされたり、途中の文脈に埋もれて消えたりしません。

机上の設計図ではなく、動いている実測を書いておきます。この基盤はこれまでに9サイクルの仕事を完了し、指摘の台帳には累計26件が番号付きで記録されています。うち10件は解消済み、16件は未解消のまま次のサイクルに編入され続けています。忘れる自由がない、というのはこういうことです。受入の再試行上限も、規程の文章ではなくコードの定数1行（上限3回）として存在します。

この5つを入れてから、②で挙げた推測の先走りと検収破りは、構造ごと消えました。規程は残っていますが、役割は方針の宣言に縮み、統制の実体は機構側にあります。

⑥ あとで知った——指針も規格も、検索の需要も

あとで調べて、この方向に追い風が吹いていることを知りました。

まず制度の側から。経済産業省と総務省が2024年4月19日に公開した「AI事業者ガイドライン」は、固定的なルールで縛るのではなく、体制と仕組みを回し続ける統治を求めています。国際側では2023年12月、AIマネジメントシステムの世界初の国際規格ISO/IEC 42001が発行されました。名前のとおり、本体は禁止事項の一覧ではなくマネジメントの「システム」、つまり仕組みです。

ただ、いちばん面白かったのは検索の数字です。検索の需要データを引くと、「AIガバナンス」は月1,300回検索されていて、その上位に出てくる解説はほぼすべて体制構築の話です。ところがその裏で、「エージェント型AIガバナンス」という言葉が月90回、検索され始めています。AIに任せる働き方が広がるにつれて、組織の統治だけでは足りず、AI自身に効かせる統治が探され始めている。実際、大手コンサルティングファームの解説にも「AIエージェントによる新たなリスク」の章が現れ始めました。ただし、リスクの指摘まで。機構の実装を実物で見せた解説は、まだ見当たりません。この記事が書いているのは、まさにその空白でした。新しい理屈は、ひとつも要りませんでした。

⑦ 何が変わったか。代償も3つあった

夜間の自律実行を止めずに、取り返しのつかない操作だけが人の前で止まるようになりました。ただし、代償も正直に書いておきます。

1つ目、機構の設計は規程を書くより重い仕事です。12個の作業に4段階を割り当てる議論だけで、規程1本ぶんの時間を超えました。2つ目、ダイヤルの調整が続きます。推測レベルを絞りすぎると確認待ちだらけで自律の意味が薄れ、緩めると先走りが戻る。運用しながら回し続けるダイヤルです。3つ目、機構はすり抜けを完全には消せません。LLMは思いがけない形でルールの隙間を突くことがあるので、最後の網として、全行動の記録と台帳という監査の痕跡を残しています。機構が防ぎ、痕跡が捕まえる、という二段構えです。

⑧ 現場で使うなら、この5点

自社のAIに統制を効かせたいときの点検表です。どの機構が、どの事故を防ぐかで整理してあります。

機構	防ぐ事故	うちの基盤での実物
権限の既定値	取り返しのつかない操作の無断実行。	12個のノード×4段階。公開は承認必須。
推測レベルの数値化	不確かなまま先へ進む先走り。	1〜5のダイヤルで指定。
受入ゲート＋回数上限	自己申告の合格と、検収の通り抜け。	別工程が判定。3回で人に返す。
指摘の台帳	指摘の忘却・無視。	番号付きで記録し、次サイクルへ自動編入。
指示のキュー	人の指示の埋没・後回し。	サイクル境界で必ず消費。

うちの5つのほかに、業界で標準化しつつある機構の部品も並べておきます。自社で選ぶときのカタログとして使えます。

部品	何をするか
ガードレール	入力と出力を機械で検査し、規則違反をその場で遮る。
サンドボックス	AIの実行環境を隔離し、触れる範囲を物理的に限る。
ヒューマンインザループ	決められた操作の手前に、人の承認を必ず挟む。
レート制限	実行回数や速度に上限を置き、暴走の被害を限定する。
ロールバック	AIの変更をいつでも巻き戻せる形で記録する。

見分け方はひとつです。その統制は、AIが「守らない」ことができる形をしていないか。できる形なら、それは言葉です。できない形になっていたら、機構です。この表のどの部品も、その条件を満たしています。

⑨ この考え方が効き続ける理由

AIの自律度は上がり続けます。人が1回ずつ指示する使い方なら、言葉の統制でも人が都度直せました。目標だけ渡して任せる働き方では、破られた瞬間に立ち会えません。だから自律度が上がるほど、確率で効く言葉から、構造で効く機構へ、統制の重心は移り続けます。

電動自転車の規制が条文の掲示ではなくモーター制御に埋まっているのは、人間の側の交通ですら、読ませる統制に限界があると知っているからだと思います。読まずに動く相手が増える時代は、なおさらです。

よくある質問

Q. AIガバナンスとは何ですか？ A. AIを安全に使い続けるための統制の仕組み全体のことです。責任者・体制・規程といった組織側の設計と、権限や承認をAIの実行の仕組みに埋め込む実装側の設計の、両方を含みます。世の解説は組織側に偏っているので、この記事は実装側を扱っています。

Q. AI利用ガイドラインとの違いは何ですか？ A. ガイドラインは主に人向けのルール文書で、組織の統治の道具です。自律的に動くAIには文書が効かないため、権限の既定値・承認の境界・監査の痕跡といった機構側の統制が別に必要になります。両方あって全体のガバナンスです。

Q. プロンプトに禁止事項を書くのはガバナンスになりますか？ A. 補助にはなりますが、保証にはなりません。LLMへの禁止事項は確率でしか効かず、「今回は状況が違う」と例外を作ることがあります。守るかどうかをAIの判断に委ねない形——通れない・必ず止まる・必ず記録される機構——に置き換えるのが確実です。

Q. AIエージェントのガバナンスは何から始めればよいですか？ A. エージェントの作業を種類で一覧にして、「勝手に進んで、取り返しがつかないものはどれか」を仕分けることからです。その作業にだけ承認を必須にし、残りは任せて記録を取る。全部を縛ると自律の価値が消えるので、境界の置き場所が設計の中心になります。

Q. AIガバナンスはなぜ必要なのですか？ A. AIの誤情報・情報漏洩・著作権侵害・不公平な判断といったリスクが、事業と信用に直結するからです。加えて、EU AI Actのように法規制として義務化が進む地域もあり、統制の仕組みを持たないこと自体が事業リスクになりつつあります。

Q. エージェント型AIガバナンスとは何ですか？ A. 人が使う道具としてのAIではなく、業務を任せて自律的に動くAIエージェントに対する統制のことです。文書のルールが効かない相手なので、権限の既定値・承認境界・監査痕跡といった機構側の統制が中心になります。この記事の5つの機構がその実装例です。

Q. AIガバナンスの測定指標には何がありますか？ A. うちの基盤で実際に見ているのは、承認境界で止まった件数、受入ゲートの再試行率、台帳の指摘件数と解消率です。ルールの遵守率のような自己申告の数字より、機構が記録した実測のほうが監査に耐えます。

Q. ISO/IEC 42001の認証は取るべきですか？ A. 取引先から統制の証明を求められる事業なら検討の価値があります。ただし認証は組織側の仕組みの証明であって、AIそのものへの機構の実装を保証するものではありません。順番としては、機構を先に作り、証明が必要になったら認証を重ねる形をお勧めします。

この記事を書いた会社について

アルチェコ（ARCHECO）は、UXデザイン・AI開発・新規事業開発を組み合わせた事業共創スタジオです。この記事の5つの機構は、自社開発のAI自律実行基盤Agenicに実装され、1日も欠かさず実運用で回っているものです。AIの統制設計と運用体制づくりの伴走は、AIガバナンス・活用定着支援をご覧ください。

余談ですが、あの坂道で僕は、アシストが切れたあとも自力でペダルを踏んで時速24キロを超えました。機構が統制できるのはモーターまでで、人の脚は対象外だったわけです。AIの機構設計にも、きっと同じ限界の線がある。だからうちの基盤には、機構の外側に監査の痕跡が残る作りにしてあります。

以上です。