各種生成AIサービスは、知る人ぞ知るというレベルから「使っていないと差が出てしまう」レベルにまで達したと思っています。組織が契約したサービスを組織内である程度自由に使えるという事例も増えてきましたし、気が付いたら個人で利用しているサービスに生成AI機能が加わり、無料で使えるようになっていたという方も多いでしょう。

　しかし、生成AIにはリスクがあり、特に「機密情報をアップロードしてはならない」という話も聞くようになったはずです。そもそも、なぜアップロードしてはいけないのでしょうか？

　よく言われるシナリオは、議事録かもしれません。長い会議の議事録を頼まれたとき、会議のやりとりのテキスト（あるいは録音ファイル）を生成AIツールにアップロードすれば、今ではかなり高精度に、指定の分量でまとめられた“議事録”的なテキストを生成できます。筆者自身も、インタビューの音声を生成AIにまとめてもらい、対話しながら原稿を作るようになりました。効率は非常に上がりましたが、何も考慮していなければ、生成AIに機密情報をアップロードしている行為とも捉えられるでしょう。

　論点はいくつかあります。まずは、「アップロードした情報が生成AIのモデル学習に使われるのではないか？」という点です。確かに、入力したデータがAIモデルの品質向上や学習に利用される場合がある個人向け生成AIサービスも存在するでしょう。一方、法人向けの生成AIサービスでは、入力データを一般向けのモデル学習に使わない契約や設定が用意されている場合があります。そのため、組織が利用を認めている生成AIサービスであれば、契約内容やデータの取り扱いを確認した上で利用することで、このリスクを抑えることができます。

　しかし、問題は「組織内で個人の無料／有料アカウントを利用している」場合です。これはまさに「シャドーIT化した生成AIサービス」であり、利用規約や設定によっては、「AIモデルの品質向上や学習」にデータが活用される可能性があります。この場合、外部に機密情報が漏えいするリスクがあり、組織のルールによっては、アップロードした時点で情報セキュリティインシデントと見なされることもあるでしょう。今回のような生成AI利用のリスクは、「シャドーIT」の問題であると考えてよいと思います。

　ですが、一番のリスクは、生成AIサービス側のモデル学習に使われることよりも、サービスによっては「チャットの履歴が残り、それが漏えいしたり、サービス提供者側からアクセスできたりする」点かもしれません。アップロードしたファイルを含むチャットの内容は、まさに機密情報になりえます。契約やサービスの仕様によっては、運営管理上、サービス提供者側からログなどにアクセスできる可能性もあるでしょうし、サービスに脆弱（ぜいじゃく）性が存在し、それが悪用されれば、外部から不正アクセスを受けて情報を盗まれる可能性もあります。むしろ、そのリスクの方が現実的な漏えいシナリオといえるでしょう。それこそが、生成AIを利用する際に、個人アカウントを使う（組織のルールを逸脱する）最大のリスクといえるのではないでしょうか。

　多くの場合、そのような利用をしてしまう従業員には、悪気はないと思います。悪気がないからこそ、対策が非常に難しいのです。「攻撃者から身を守る」というスタート地点のセキュリティ対策とは異なり、「便利だから」「効率化できるから」と利用するサービスに正しいブレーキをかけるための、従業員への教育が必要となります。