仕事で生成AIを使うときのNGパターン6選｜機密情報の判断基準と安全な対策

こんにちは、meguliの平岡です。今回は、仕事で生成AIを使うときに避けたいNGパターンを6つ紹介します。ChatGPTやClaudeなどに、会社の情報をどこまで入力してよいのか迷う方に向けて、契約の種類や利用する入口、機密情報の判断基準を整理します。

生成AIを業務で使いたいと思っても、「この議事録は入力してよいのか」「請求書に書かれた担当者名や金額は機密情報なのか」と判断に迷う場面があります。特に、社員が個人の無料アカウントを使っている場合、会社は入力内容を把握できず、退職後も情報が残り続ける可能性があります。

一方で、生成AIだけを特別に恐れる必要もありません。会計データや給与データをクラウドサービスで管理しているのと同じように、AIも「どのサービスに、どの契約で、どのレベルの情報を置くか」というITツール選定の問題として考えられます。重要なのは、契約と設定を確認し、会社として管理できる利用環境を用意することです。

この記事でわかること

• 生成AIの情報漏洩リスクが、契約の種類と利用する入口に関係することがわかります
• 「学習に使われる」と「データが保存される」の違いがわかります
• AIに入力してよい情報を判断する「ドライブ基準」がわかります
• 仕事で生成AIを使うときの6つのNGパターンがわかります
• 会社として安全な利用環境を整える方法を判断できます

こんな方におすすめです

• 生成AIの業務利用ルールをこれから作る中小企業の経営者や担当者
• 社員が個人アカウントで生成AIを使っていないか不安な情報システム担当者
• AIに入力してよい情報の線引きや、社内の安全な運用方法に迷っている方

生成AIだけが怖く見える理由を整理する

生成AIを使うとき、多くの方が不安を感じるのは、「学習」という言葉のイメージが強いからです。入力した情報をAIが勝手に覚え、将来、別の利用者への回答に混ぜてしまうのではないか、と考えてしまいます。

もう一つの理由は、AIが最初から会社の管理下ではなく、社員の個人スマートフォンや個人アカウントの無料チャットから使われ始めたことです。会社が管理できない入口で業務情報が扱われるため、AIそのものへの恐怖につながっています。

しかし、生成AIは魔法や得体の知れない存在ではありません。Googleやマイクロソフトなどが提供するクラウドサービスの一つです。クラウド会計が普及したときと同じように、提供者のセキュリティ対策と利用者側のアカウント管理を確認すれば、リスクを整理できます。

最初に確認すべきはAIの性能ではなく契約の種類

生成AIの情報漏洩リスクを考えるうえで、最も重要なのは、入力した情報がAIモデルの学習データとして使われるかどうかです。もし学習に使われると、将来、別の利用者への回答に自社の情報が混じる可能性があります。

この点はAIの賢さや性能ではなく、利用しているサービスの契約種類とアカウント設定で決まります。契約は大きく、無料チャット、個人契約の有料チャット、法人契約のチャット、システムに組み込むAPIの4つに分けて考えられます。

無料チャットは、入力情報が学習に利用される可能性があります。個人向け有料プランはサービスによって初期設定などが異なるため、個別確認が必要です。一方、法人契約やAPIでは、入力データを学習に利用しない契約が基本です。仕事で利用するなら、少なくとも個人向け有料プラン、できれば法人契約またはAPIを使うことが大原則になります。

「学習されない」と「保存されない」は別の話

ここで注意したいのが、学習に使われないサービスでも、データが一切保存されないとは限らないことです。たとえば、Azureの書類読み取りサービスでは24時間、Gemini APIでは55日間、データが保存される場合があります。

これはAIを学習させるためではなく、不正利用の監視や、問題が起きたときの追跡調査を目的とした保存です。メールサーバーやファイルサーバーにアクセスログが残るのと同じ考え方です。データは暗号化され、アクセスできる担当者も制限され、目的外の利用をせず、期限が来れば消去されます。

つまり、確認すべきなのは「保存されるか、されないか」だけではありません。何の目的で、どの期間、どのような条件で保存されるのかを、契約や規約で確認することが大切です。

入力してよい情報を決める「ドライブ基準」

AIに何を入力してよいか迷ったとき、私たちが推奨している判断基準が「ドライブ基準」です。質問は一つだけです。「その情報を、会社のメールやGoogleドライブ、Dropboxなどのクラウドストレージにファイルとして置いてよいか」と考えてみてください。

メールやドライブに置くこと自体がまずいレベルの情報であれば、AIにも渡すべきではありません。反対に、普段からメール本文に書いたり、添付ファイルで送ったりしている情報であれば、適切な契約のAIに入力することは基本的に問題ないと判断できます。

この基準は、AIだけを特別扱いしないための物差しです。AIに入力する情報の安全性を考えるときは、会社の通常のクラウドサービスに置ける情報かどうかを確認しましょう。

仕事で生成AIを使うときのNGパターン6選

ここからは、実際の業務で避けたい6つのNGパターンを紹介します。情報漏洩だけでなく、会社が利用状況を管理できなくなることや、誤情報を社外に出してしまうことも含めて考える必要があります。

NG1：個人契約のチャットで会社の仕事をする

無料版はもちろん、個人向けの有料プランでも、設定によっては入力情報が学習に使われる可能性があります。たとえば、取引先との打ち合わせ議事録を要約するために、会社名や担当者名、打ち合わせ内容を入力するケースです。

さらに、個人アカウントで入力された内容を会社側が検知できず、後から削除することもできない点が問題です。社員が退職すると、会社の情報が元社員の個人アカウントに残り続ける可能性があります。業務で使うAIは、会社が契約し、会社が管理できる入口に統一しましょう。

NG2：契約の種類と学習設定を把握していない

毎日使っているAIであっても、契約内容や設定を完全に把握できているとは限りません。学習設定をオフにしていても、会話履歴やメモリがどのように扱われるかを確認していないケースがあります。

社員が利用するAIサービスについて、サービス名、プラン、学習設定、履歴やメモリの扱いを会社として確認する必要があります。「たぶん学習されないだろう」という推測で運用しないことが重要です。

NG3：機密ファイルを丸ごとアップロードする

法人契約のAIであっても、秘密保持契約の文書、社員の人事評価資料、未公開の決算情報などを丸ごとアップロードするのは避けるべきです。これらは、会社のGoogleドライブに置く場合でも、アクセス権を厳しく設定するか、そもそもクラウドに上げないと判断する情報です。

どうしてもAIの力を借りたい場合は、固有名詞や金額などの機密情報を自分でマスキングしてから、必要な部分だけを入力します。AIに渡す情報を最小限にすることが基本です。

NG4：AIの回答を確認せず社外に出す

生成AIは、事実と異なる内容をもっともらしく生成することがあります。いわゆるハルシネーションです。計算を間違えたり、存在しない論文やウェブサイトを出典として示したりする場合もあります。

見積書の金額、契約書の条文、顧客への提案資料などを、確認せずに社外へ出すのは危険です。誤りが発覚すれば、金銭的な損失や信用低下につながる可能性があります。AIはあくまでアシスタントであり、最終的な成果物の責任は人間が負うという原則を徹底しましょう。

NG5：共有アカウントや退職者のアカウントを放置する

共有アカウントを使い回すと、誰がいつ何を入力したのか追跡できません。問題が起きたときに原因を調査できないため、AIに限らずクラウドサービスの基本的なセキュリティ上の問題になります。

また、退職した社員のAIアカウントを放置すると、外部から会社の情報にアクセスされたり、会話履歴を持ち出されたりするリスクが残ります。個人契約のアカウントを業務で使わせていた場合、会社側には削除権限がないこともあります。退職時のアカウント停止や利用履歴の削除について、あらかじめルールを決めておきましょう。

NG6：禁止するだけで公式の利用環境を用意しない

生成AIは便利なため、会社が禁止しても社員が隠れて使う可能性があります。その入口が個人の無料アカウントであれば、会社は利用状況を把握できず、最もリスクの高いシャドーITを助長することになります。

禁止だけで終わらせるのではなく、会社として安全な法人契約のAIを用意し、「業務ではこれを使う」という公式の入口を示すことが重要です。利用者が使いやすい環境を整え、そこへ誘導するほうが、結果としてセキュリティを高めやすくなります。

会社として作っておきたいAI利用台帳

当社が推奨している対策の一つが、「AI利用台帳」をエクセルやスプレッドシートで作ることです。これは、会社として利用を許可するAIサービスについて、安全性や契約内容を確認した記録です。

AIサービスは、個人データの取り扱いを外部のクラウドサービスなどに委託する場合の委託先にあたる可能性があります。重要なのは、データを入力するたびに記録することではなく、どの相手に、どの条件でデータを渡しているのかを会社として把握・管理することです。

台帳には、次のような項目を記録します。

• サービス名と契約プラン
• 渡すデータの種類
• AIを利用する目的
• 学習や保存など確認した条件
• 根拠となる規約のURL
• 確認日と次回の見直し時期

たとえば、請求書の自動読み取りでAzureのOCRとGemini APIを使う場合、請求書画像を渡すこと、取引先名や金額が含まれること、学習には使われないこと、保持期間、暗号化の有無、確認した規約URLなどを仕組みごとに残します。なお、これは一般的な整理方法です。最終的な法的判断は、顧問弁護士や個人情報保護委員会の公式Q&Aで確認してください。

安全に生成AIを使うための5か条

• AIを使うときは、会社が用意した公式の入口から使い、個人アカウントを使わない
• 利用するAIサービスの契約内容と設定をAI利用台帳に記録して管理する
• 入力してよいか迷ったら、会社のドライブに置ける情報かどうかで判断する
• AIの回答を社外に出す前に、人間の目でファクトチェックする
• 利用禁止だけで終わらせず、安全に使える公式の入口を会社が用意する

この5か条を、社内のAI利用ルールやチェックリストに落とし込んでみてください。まずは、現在社員が使っているAIサービスとアカウントを洗い出し、契約プランと設定を確認するところから始めるのがおすすめです。

法人契約だけでは不十分な理由と公式の入口

会社が法人契約のAIを導入し、セキュリティ設定を整えても、それだけで十分とは限りません。社員が外出先で、自分のスマートフォンから個人アカウントにログインし、顧客情報を入力すれば、その通信は会社のネットワークを通りません。会社側で利用を把握できず、ログも残らない可能性があります。

技術と契約で守れるのは、会社が用意した公式の入口を通った通信です。そのため、社員が使いたいと思える公式環境を用意することと、公式の入口以外は使わないというルールを文書化することが必要になります。

たとえば、社内の製品情報、過去の提案書、業務マニュアルなどを読み込ませた自社専用のAIチャットボットを用意すれば、社員が個人アカウントを使う必要性を減らせます。便利さと安全性を両立させることが、実効性のある対策につながります。

まとめ

• 生成AIの情報漏洩リスクは、AIそのものよりも契約の種類と利用する入口を理解していないことから生じます
• 入力してよい情報か迷ったら、会社のメールやドライブに置けるかというドライブ基準で判断できます
• 会社は利用禁止だけで終わらせず、公式の利用環境とAI利用台帳を用意することが大切です

まずは、社内で使われているAIサービスを洗い出し、無料チャットや個人アカウントが業務に使われていないかを確認してみてください。そのうえで、会社として許可するサービスと入力できる情報の範囲を決めることが、安全なAI活用への一歩になります。

自社の場合はどの契約や運用が適切なのか判断に迷う場合は、株式会社meguliにご相談ください。状況を整理しながら、無理なく続けられるAI活用の進め方を一緒に検討します。

この記事の内容を動画で確認したい方は、こちらもご覧ください。