AI事業者ガイドライン

AIの急速な発展と社会実装の進展に伴い、AIがもたらす便益を最大化しつつ、AIに起因するリスクを適切に管理するための指針を示すことが本ガイドラインの目的である。法的拘束力はないが、AI事業者が自主的に取り組むべきベストプラクティスとして位置付けられる。政府としてはソフトロー・アプローチを基本としつつ、必要に応じてハードロー（法規制）による対応も検討する姿勢を示している。

本ガイドラインの対象は、AIシステムの開発を行う「AI開発者」、AIシステムをサービスとして提供する「AI提供者」、AIシステムを業務等に利用する「AI利用者」の3類型である。「AI」とは機械学習その他の手法により、データからパターンを学習し、予測、分類、生成等の知的タスクを実行するシステムをいう。生成AI（大規模言語モデル等）も本ガイドラインの対象に含まれる。

AI事業者は社会原則としての「人間中心のAI社会原則」（2019年統合イノベーション戦略推進会議決定）を踏まえ、AI技術の研究開発及び社会実装において人間の尊厳、多様性、持続可能性を尊重する。リスクベース・アプローチを採用し、AIシステムのリスクの大きさに応じた対策の実施を求める。過度な規制によるイノベーション阻害を避けつつ、社会的に許容されないリスクには適切に対処する。

AIシステムは人間の基本的人権を侵害してはならず、人間がAIの判断を理解し、必要に応じて介入・修正できるようにしなければならない。人間によるAIの監視（Human-in-the-Loop / Human-on-the-Loop）の体制を構築し、AIの判断が人間の最終的な意思決定を代替しないよう設計することが求められる。特に生命・身体・自由に影響を及ぼしうる場面（医療、司法、雇用等）では、人間による最終判断を確保する仕組みが不可欠である。

AIシステムが人の生命・身体・財産に危害を及ぼすリスクを適切に評価し、リスクの軽減措置を講じなければならない。開発段階でのリスクアセスメント、テスト・検証の実施、運用段階でのモニタリング及びインシデント対応体制の整備が求められる。生成AIについては、有害コンテンツの生成防止、プロンプトインジェクション攻撃への耐性確保等のセーフガードの実装が重要である。

AIシステムが特定の個人又は集団に対して不当な差別や偏見を生じさせないよう、公平性の確保に取り組まなければならない。学習データに内在するバイアスの検出・軽減、アルゴリズムの公平性テスト、継続的なモニタリングが求められる。採用選考、融資審査、保険料算定等の場面では、性別、人種、年齢等の保護属性に基づく不当な差別が生じないよう特に注意が必要である。公平性の定義・基準は文脈によって異なるため、ステークホルダーとの対話を通じて適切な基準を設定することが推奨される。

AIシステムの学習・推論過程における個人情報及びプライバシーの保護に取り組まなければならない。個人情報保護法の遵守はもとより、法律上の個人情報に該当しない場合であっても、個人のプライバシーに影響を及ぼしうる情報の取扱いに配慮する。学習データに含まれる個人情報の匿名化・仮名加工、プライバシー影響評価（PIA）の実施、生成AIによる個人情報の意図しない出力への対策が具体的な取組事項として挙げられる。

AIシステムに対するサイバー攻撃や不正利用のリスクに適切に対処するためのセキュリティ対策を講じなければならない。敵対的攻撃（Adversarial Attack）、データポイズニング、モデル抽出攻撃等のAI特有の脅威に加え、一般的な情報セキュリティ対策（アクセス制御、暗号化、脆弱性管理等）も必要である。インシデント発生時の報告・対応体制を整備し、サプライチェーン全体でのセキュリティ確保に取り組むことが求められる。

AIシステムの利用者及び影響を受ける者に対し、AIが利用されていること及びAIの判断過程についての適切な情報提供を行わなければならない。AIによる意思決定であることの明示、入力データと出力結果の関係についての説明可能性（Explainability）の確保、AIシステムの限界・リスクの開示が求められる。ただし、透明性の程度はAIシステムのリスクの大きさや利用場面に応じて柔軟に設定すべきであり、営業秘密やセキュリティ上の配慮も考慮される。

AI事業者はAIシステムの開発・提供・利用に関するアカウンタビリティ（説明責任）を果たさなければならない。AIシステムの設計・運用に関する方針の策定と公表、ステークホルダーからの問合せへの対応体制の整備、AIに起因する問題が生じた場合の原因究明と是正措置の実施が求められる。アカウンタビリティの内容はAIシステムのリスクレベルに応じて異なり、高リスクAIシステムについてはより詳細な説明が必要となる。

AI事業者はAIに関するリテラシーの向上に取り組み、従業者に対する教育・研修を実施しなければならない。AI開発者にはAI倫理や公平性に関する教育が、AI利用者にはAIの特性・限界に関する理解の促進が特に重要である。生成AIについては、出力の正確性を無批判に信頼しないこと（ハルシネーションのリスク）、著作権侵害の可能性への注意等のリテラシーが求められる。社会全体のAIリテラシー向上への貢献も期待される。

AIの開発・提供・利用において公正な競争環境を維持するよう取り組まなければならない。特定のAI事業者による市場の独占・寡占の防止、学習データの囲い込みによる競争阻害の回避、相互運用性（インターオペラビリティ）の確保が重要な論点として挙げられる。独占禁止法その他の競争法制との整合性を保ちつつ、AIエコシステム全体の健全な発展に資する行動が求められる。

AI事業者はイノベーションの創出と社会実装の促進に積極的に取り組むことが期待される。過度な規制回避姿勢による技術開発の萎縮を防ぎ、AIのもたらす便益を社会全体が享受できるようにするため、実証実験（サンドボックス）の活用、産学官連携の推進、国際標準化への参画等が推奨される。リスク管理とイノベーション促進は対立するものではなく、適切なガバナンスがイノベーションへの信頼を高め、社会実装を加速するとの認識を示す。

AIモデルの学習に使用するデータの品質管理、学習過程におけるバイアスの検出・軽減、モデルの性能評価・検証、脆弱性テストの実施等が求められる。開発段階でのリスクアセスメントの結果をAI提供者・利用者に適切に情報提供することが重要である。生成AI（基盤モデル）の開発者は、モデルの学習データに関する透明性の確保、安全性フィルターの実装、レッドチーミングの実施等に特に留意する必要がある。オープンソースモデルの開発者も同様の責任を負う。

AIシステムをサービスとして提供する事業者は、利用者に対するAIシステムの特性・限界の情報提供、利用規約における禁止事項の明示、不正利用の検知・防止体制の整備等が求められる。APIを通じてAI機能を提供する場合は、利用者の入力データの適切な取扱い（プライバシー保護、機密性確保）が重要である。利用者からのフィードバックを開発者に還元し、AIシステムの継続的な改善に貢献する役割も期待される。

AIシステムを業務に利用する事業者は、AIの出力結果を適切に検証し、重要な意思決定においてはAIの判断を鵜呑みにせず人間による最終確認を行うことが求められる。AIシステムの利用に関する社内ルールの策定、従業者への教育・研修、入力データに個人情報や機密情報を含む場合の取扱い基準の整備が必要である。生成AIの業務利用については、出力の著作権帰属、ハルシネーションのリスク、情報漏えいリスク等に留意した利用ポリシーを策定することが推奨される。