MISSION 3-16　ビジネスを発展させるために（攻めのIT投資とサイバーセキュリティ対策）　ビジネスを発展させるための生成AIの利活用と、それに伴うサイバーセキュリティ対策

AI（人工知能）技術の進化は目覚ましく、中小企業にとっても、業務効率化や新規事業創出の大きなチャンスをもたらしています。しかし、その恩恵を最大限に享受し、企業としての信頼を守りながら成長していくためには、AIセキュリティへの適切な対応が不可欠です。

POINT 1　AI導入の現状とメリット

AIは、「業務の自動化によるコスト削減」や「顧客データの分析による新たなサービス開発」など、具体的な成功事例が増えています。国内外の中小企業でもAI導入の動きが広がり、今後もこの流れは加速すると見込まれます。

■メリット

・業務効率化とコスト削減： ルーティン作業の自動化により、人手不足の解消や人件費の最適化が期待できます。

・新規事業創出： データ分析を通じて、これまで見えなかった市場ニーズを発見し、新しい商品やサービスを生み出すことが可能です。

AIの活用が広がるにつれて、AI特有のセキュリティリスクも顕在化しています。データ漏洩や不正アクセスといった従来の脅威に加え、「AIモデルへの攻撃」や「AIの誤動作・判断の偏り（バイアス）」など、新たなリスクへの対応が求められます。これらのリスクを放置することは、企業の信頼性やブランドイメージを大きく損なうことにつながりかねません。また、個人情報保護法や不正競争防止法といった法規制への対応も重要です。

POINT 2　AI導入前の準備と計画

AI導入を成功させる第一歩は、その目的と達成目標（KPI）を明確にすることです。その上で、セキュリティ要件を定義し、潜在的なリスクを評価する「リスクアセスメント」を実施します。

そのためにはまず、社内体制の構築が必要です。AI活用の担当者を明確にし、責任体制を確立するとともに、委員会を設置するなどAIの公平性や透明性を確保するための組織を構築します。

また、AIサービスを選定する際には、サービス提供元（プロバイダー）のセキュリティ体制をしっかり確認することが重要です。

POINT 3　データ管理の重要性

AIは大量のデータを使って学習するため、データの管理は極めて重要です。まず、データ管理を徹底するにあたって、データの収集・管理・保管・廃棄それぞれで対策を実施します。データ収集時には、適切な同意の取得を徹底し、不要な情報は集めないようにします。

個人情報や機密データは、匿名化・仮名化し、暗号化することが基本です。また、アクセス権限は厳密に管理します。

そして、不要になったデータは安全に削除します。

次に、データ品質と安全確保という観点より、AI学習用データが改ざんされていないかチェックし、「データポイズニング」と呼ばれる悪意のある攻撃を防ぐ対策が必要です。そして、データに偏り（バイアス）がないかを確認し、公正なAIの判断を妨げないように是正します。

POINT 4　AIモデル・システムのセキュリティ対策

AIの核となるモデル自体にも対策が必要です。

まず、モデルの脆弱性対策として、AIを騙して誤作動させる「敵対的攻撃」からモデルを防御する必要があります。そのため、常にAIの判断理由を人間が理解できるようにする「透明性・説明可能モデルの性能と安全性を定期的に検証・評価しましょう。

また、AIシステムへのアクセス制御と監視を徹底性」を確保することで、モデルの挙動を適切に管理し、し、セキュリティパッチの適用や脆弱性診断を定期的に行いましょう。

POINT 5　 従業員向け教育と啓発

AIセキュリティは、担当者だけでなく、全従業員が一丸となって取り組むべき課題です。そのため、全従業員向けの基本教育を実施し、AIセキュリティに関する知識やAIを悪用したフィッシング詐欺などの手口と対策を周知・共有することが重要です。また、AI担当者を対象とし、AIサービスの適切な利用方法や社内ガイドラインの順守、不審なAIシステムへの対応方法を教育しましょう。

POINT 6　 人間中心のAI社会原則

AIの適切な社会実装について方針を与えるものが「AI社会原則」です。組織でのAI活用を推進するための指標として理解しましょう。

１．人間中心の原則

２．教育・リテラシーの原則

３．プライバシー確保の原則

４．セキュリティ確保の原則

５．公正競争確保の原則

６．公平性、説明責任及び透明性の原則

７．イノベーションの原則

POINT 7　生成AIの誤情報（ハルシネーション）対策について

生成AIの誤情報（ハルシネーション）とは、AIが、実在しない法律や統計データ、架空の人物・出来事など、「もっともらしいが事実ではない情報」を生成してしまう現象のことです。この現象はAIの仕組み上、避けられないため「必ず発生するもの」として運用体制を整えることが重要です。

■原因

誤情報（ハルシネーション）が発生する主な原因としては、学習データの偏りや古さ、曖昧な質問や誘導的なプロンプト、AIが事実確認をせず統計的に自然な文章を生成する仕組み、利用者がAIの出力を無批判に信じてしまう過信が挙げられます。

■ 対処方法

誤情報（ハルシネーション） に対処するためには、事実がどうかを確認するファクトチェックが必要です。特に重要な意思決定や対外発信資料は、専門知識を持つ担当者が一次情報や公式ソースと突き合わせて確認しましょう。他にも異なる複数のAIに対して同じ質問を投げかけて回答を比較するクロスチェックやAIファクトチェックツールの活用などの方法があります。

誤情報（ハルシネーション）の発生を抑えるという観点から、投げかける質問をできるだけ具体的・明確にすること、そして根拠や出展を記載するように指示を加えることも有効です。

POINT 8　AIと企業経営

生成AIの誤情報（ハルシネーション）は避けられないものとして、最終責任は人間が負うという原則を徹底しましょう。AI活用のルールやガイドラインの明文化・定期的な教育や研修を行い、AIのメリットを享受することで、持続的な成長と信頼性の高い企業経営を実現しましょう。