生成AI利用時に注意したい機密情報の入力：攻撃はどのように始まるか

生成AIに顧客名、契約内容、未公開資料、認証情報などを入力すると、社外サービスへの情報提供になる可能性があります。また、出力内容には誤りやもっともらしい虚偽が含まれることがあります。

想定される被害

便利さを優先して入力範囲を決めないまま使うと、情報管理上の問題や誤情報に基づく判断につながります。

中小企業が優先して行う対策

• 入力してよい情報・禁止する情報を明文化する

• 利用を認めるサービスと設定を決める

• 個人情報や機密情報は匿名化しても安易に入力しない

• 生成物は必ず人が事実確認する

• 利用者へ短い研修を行う

今週確認すること

まずは『入力禁止情報』を3項目でも決め、社内に周知しましょう。

まとめ

サイバーリスクは、特別な技術だけでなく、日々の確認手順、権限管理、連絡体制の積み重ねで下げられます。まずは自社で実行できる一項目から着手し、定期的に見直しましょう。

参考：IPA「情報セキュリティ10大脅威 2026」「中小企業の情報セキュリティ対策ガイドライン」