29-1. AIの進化とガバナンス・リスクマネジメントの喫緊性

29-2. AIガバナンスの国際標準：ISO/IEC 42001の全貌

29-3. AIに特有のリスクの特定と体系的な管理

29-4. ISO/IEC 42001に基づくAIマネジメントシステムの構築と運用

 

章の目的

第29章では、生成AIの利活用に伴うリスクとガバナンスの要点を理解し、組織としてのAI運用方針を確立すること及びAI倫理、情報セキュリティ、法的遵守を統合した管理体制を構築し、安全かつ信頼できる生成AI活用を実現することを目的とします。

主な達成目標

⚫︎ 生成AI利用における情報管理とリスクの仕組みを理解すること ⚫︎ ISO/IEC 42001（AIマネジメントシステム）の構成と適用範囲を把握すること ⚫︎ 自社のAI活用を統制する方針策定と運用手順を検討できるようにすること

 

主なキーワード 生成AI、AIマネジメントシステム、ISO/IEC 42001、AIリスク、ガバナンス、説明責任

 

要旨

29章の全体概要

29章では、生成AIの急速な普及を背景に、企業が直面するAI特有のリスクとガバナンスの必要性について解説しています。

生成AIの利活用に伴い、情報セキュリティ、プライバシー、倫理、法令遵守などの課題が顕在化する中で、組織としてリスクを把握し、体系的に管理するための枠組みとして、AIマネジメントシステムの考え方を整理しています。

 

章の前半では、AIの進化とリスクマネジメントの重要性を整理し、章の後半では、ISO/IEC 42001を中心とした国際標準を参照しながら、AIリスクの特定、評価、管理およびマネジメントシステムの構築・運用について解説しています。

 

29-1. AIの進化とガバナンス・リスクマネジメントの喫緊性

生成AIを含むAI技術の進化により、業務効率化や新たな価値創出が可能になる一方で、従来のITリスク管理では十分に対応できない課題が生じていることを整理しています。

このような状況において、AIの利活用を進めるためには、技術面だけでなく、ガバナンスおよびリスクマネジメントの観点から、組織的な対応が必要であることを示しています。

 

29-2. AIガバナンスの国際標準：ISO/IEC 42001の全貌

AIマネジメントシステムの国際標準であるISO/IEC 42001について、その目的、適用範囲および基本構造を解説しています。

AIのライフサイクル全体を対象とし、方針策定、役割と責任の明確化、リスク管理、運用管理および継続的改善を通じて、信頼できるAI利用を実現する枠組みであることを整理しています。

 

29-3. AIに特有のリスクの特定と体系的な管理

AIに特有のリスクとして、バイアス、プライバシー侵害、セキュリティ上の問題、倫理的課題などを整理しています。

ISO/IEC 42001におけるリスクベースアプローチの原則に基づき、AIリスクの特定、アセスメント、影響度評価を行い、ISO 31000のリスクマネジメントの指針と連携させて管理する考え方を解説しています。

 

29-4. ISO/IEC 42001に基づくAIマネジメントシステムの構築と運用

ISO/IEC 42001の要求事項およびAnnex Aの管理策を活用し、AIマネジメントシステムを構築・運用するための基本的な手順を解説しています。
既存の情報セキュリティマネジメントシステムやリスクマネジメントと統合することで、効率的かつ実務に即した導入が可能であることを整理しています。

 

 

訴求ポイント

章を通した気づき・学び

生成AIの活用を安全かつ継続的に進めるためには、AI特有のリスクを正しく認識し、国際標準に基づいたガバナンスとリスクマネジメントを組織として整備することが重要です。

ISO/IEC 42001を活用することで、AI利用を統制しながら価値創出につなげるための共通の枠組みを理解することができます。

 

 

認識していただきたい実施概要

⚫︎ 生成AIの利活用に伴うリスクを把握し、AIガバナンスおよびリスクマネジメントの観点から組織的に管理すること。 ⚫︎ ISO/IEC 42001およびISO 31000などの国際標準を参考に、既存のマネジメントシステムと統合したAIマネジメント体制を構築・運用すること。

 

詳細理解のため参考となる文献（参考文献）
東京都　AI時代の信頼性を築く：ISO/IEC 42001等のISO関連規格に基づくAIガバナンスとリスクマネジメントの活用戦略	https://www.cybersecurity.metro.tokyo.lg.jp/security/KnowLedge/619/index.html
経済産業省　AIマネジメントシステムの国際規格が発行されました	https://www.meti.go.jp/press/2023/01/20240115001/20240115001.html
講演レポート「AI規制について –欧米の動向と日本の状況–」 | JIPDEC	https://www.jipdec.or.jp/library/report/20240722-r01.html