AIガバナンスとは
AI Governance
AI利用統制
AI利用ルール
組織としてAIをどう使うかを定め、守られているかを確認し、問題が起きたときに対処できる状態にしておく取り組みです。
個人が使う分には自己責任で済みますが、組織で使うとなると、扱ってよい情報の範囲、確認の手順、責任の所在を決めておく必要があります。
実務では、次の3つが最低限です。①入れてよい情報の線引き（顧客情報・個人情報・未公開情報をどう扱うか）、②確認の工程（誰が、何を確認してから外に出すか）、③記録（何を、いつ、誰が使ったか）。
ルールを作るだけでは形骸化します。使いやすい道具を用意したうえで、その中で守られる形にするのが現実的です。
実務での使いどころ
禁止事項を並べるより、「これは使ってよい」を明確にするほうが機能します。禁止だけを増やすと、見えないところで使われ、かえって危険になります。
関連する用語
- プロンプトインジェクション — AIに読み込ませた文書やWebページの中に指示文を仕込み、本来の指示を上書きさせる攻撃手法です。
- ハルシネーション — 生成AIが、事実ではないことを、事実のような書きぶりで出力してしまう現象です。存在しない論文名・条文・数値・URLなどが典型です。
- AIエージェント — 指示された目的に向かって、必要な手順を自分で組み立て、道具（検索・ファイル操作・外部サービス）を使いながら作業を進めるAIの使い方です。