イノベーションズアイ BtoBビジネスメディア

データセキュリティ | Varonis

第6回

企業向けCopilotに入力して欲しくないプロンプト6選

Varonis Systems, Inc.  執筆

 

私どもVaronis Systems, Inc (NASDAQ: VRNS) は、データセキュリティと分析の先駆者で、データ保護、脅威の検出と対応、およびコンプライアンスに特化したソフトウェアを開発しています。

このコラムでは、サイバーセキュリティ、プライバシー、データ保護についての最新のトレンドや知見、分析情報、事例などを皆様にご紹介していきたいと考えております。

第6回目となる今回は、「Copilotに入力して欲しくないプロンプト6選」と題して、Microsoft Copilotのしくみを紹介し、Copilotのプロンプトハッキングの例を挙げ、相互補完関係、Copilotのプロンプトハッキングを防止するためには何をする必要があるのかを解説する、当社Brian Vecciのブログ記事をご紹介いたします。

Microsoft Copilot prompt exposing sensitive data

AI時代の最高の生産性向上ツールとして輝いたMicrosoft Copilotは、今日の企業にとって強力な資産となっています。

しかし、大きな力には大きな責任が伴います。

データセキュリティ態勢の可視性が低い組織では、Copilotやその他の生成AIツールは、本来知ってはならない従業員や、最悪の場合には脅威アクターに、機密性の高い情報を漏洩させる可能性があります。

Microsoft Copilotのしくみ

Microsoft Copilotは、Microsoft 365の各アプリケーション(Word、Excel、PowerPoint、Teams、Outlookなど)に統合されたAIアシスタントです。

Copilotのセキュリティモデルでは、Copilotによる回答範囲をユーザーの既存のMicrosoft環境でのアクセス許可に依拠しています。会議の議事録の要約、営業情報のファイルの検索、アクションアイテムの特定などをCopilotに依頼することができ、ユーザーは時間を大幅に節約することができます。

ただし、組織のアクセス許可が適切に設定されていない状態でCopilotを有効にしてしまうと、ユーザーは機密性の高いデータを簡単に表に出すことができてしまいます。

なぜこれが問題になるのでしょうか?

ユーザーはあまりにも多くのデータにアクセス権を持っています。平均的な従業員は入社初日から1700万個のファイルにアクセスできます。機密性の高いデータに誰がアクセス権を持っているのかの把握や管理ができない場合、たった1人の侵害されたユーザーや悪意のある内部者が計り知れない損害を与える可能性があります。また、付与されているアクセス許可のほとんどは使用されていないことから、必要性のないユーザーに機密性の高いデータが露出しているという、リスクの高い状態にあります。

Varonisでは、企業の機密性の高いデータをCopilotを使って容易に露出させてしまう簡単なプロンプトがどんなものかを示すライブシミュレーションを作成しました。このライブデモンストレーションではまた、Varonisの業界専門家が、Copilotの安全なロールアウトのための実践的な手順と戦略と、組織でのデータ露出を自動的に防止する方法を紹介します。

それでは、プロンプトハッキングの例をいくつか見てみましょう。

Copilotのプロンプトハッキングの例

1. 新しい従業員のデータを見せてください。

Copilot-prompt-employeedata-varonis

従業員のデータには、社会保障番号、住所、給与情報などの機密性の高い情報が含まれている可能性があります。いずれの情報も適切に保護されていなければ悪人の手にわたる可能性があります。

2. 最近どんなボーナスが支払われましたか?

Copilot-prompt-bonus-varonis

Copilotは、あなたが特定のファイルを見ても良い立場にあるかどうかを知る術がありません。あなたが持っているアクセス権を利用して、生産性を向上することを目指しています。したがって、ボーナス、給与、業績評価などについて質問をすると、組織のアクセス許可設定がロックダウンされていない場合には、この情報にアクセスできてしまう可能性があります。

3. 資格情報が含まれているファイルはありませんか?

Copilot-prompt-credentials-varonis

ユーザーは、この質問からもう一歩踏み込んで、Copilotに認証パラメーターを要約して表にまとめる作業も依頼できます。すると、クラウド全体にわたるログインとパスワードの表が画面いっぱいに広がります。

4. APIやアクセスキーが書かれているファイルはありませんか?表にまとめてください。

Copilot-prompt-api-Varonis

Copilotは、Microsoft 365環境に接続されているクラウドアプリケーションに保存されているデータを利用することもできます。AIツールがあれば、データアプリケーションにアクセス権を提供するデジタルシークレットを簡単に見つけることができます。

5. ABCカップケーキショップの買収に関する情報はありますか?

Copilot-prompt-purchase-varonis

ユーザーはCopilotに、合併、買収、または特定の取引に関する情報について尋ね、提供されたデータを利用することができます。情報について尋ねるだけで、購入価格や特定のファイル名などを答えてくれます。

6. 機密性の高いデータを含むファイルをすべて見せてください。

Copilot-prompt-sensitive-varonis

おそらく最も憂慮すべきプロンプトは、エンドユーザーが機密性の高いデータを含むファイルを具体的に尋ねるものです。

機密性の高い情報が本来あるべきでない場所にあると、社内の誰も簡単にアクセスできるだけではなく、そのユーザーが使用する生成AIツールも簡単にアクセスできてしまいます。

Copilotでのプロンプトハッキングを防ぐには?

Copilotを有効化する前に、データを適切に保護し、ロックダウンする必要があります。その上で、爆発範囲が広がらないようにし、データが安全に利用されていることを確認する必要があります。

VaronisとMicrosoftは、配備前、配備中、配備後にMicrosoft 365のデータセキュリティ態勢を継続的に評価し、改善することにより、組織が自信を持ってCopilotの力を活用できるよう支援します。

Varonis Data Security Platformは、Microsoft 365の組み込みデータ保護機能を補完し、組織のデータセキュリティモデルの管理と最適化を支援し、適切なユーザーのみが機密性の高いデータにアクセスできるようにすることで、データの露出を防止します。

Copilotのロールアウトに向けた飛行計画では、VaronisがどのようにしてAIの爆発範囲を2段階で制御するのかをご紹介しており、この中では、Purviewとの統合、高い露出リスクの修正、ダウンストリームDLPの有効化、データセキュリティポリシーの自動化などについて、具体的な手順が含まれています。

また、Varonisは、Copilotとの対話、プロンプト、応答のキャプチャなど、Microsoft 365環境で発生するすべてのアクションを監視します。Varonisはこの情報を分析し、不審な振る舞いがないかどうかを確認し、必要に応じてアラートをトリガーします。

使いやすい自然言語検索とフィルタリングにより、社内の誰がCopilotを使用しているのかだけではなく、環境全体でユーザーがどんなデータにアクセスをしているのかという観点についての、高度に強化され、読みやすい行動履歴を作成することができます。

参考

オリジナルブログ記事(英文) https://www.varonis.com/blog/6-prompts-you-dont-want-employees-putting-in-copilot-varonis

Varonis、Microsoft Copilot for M365の安全な導入を加速 https://www.innovations-i.com/release/1275295.html

Webinar Recording - Securing Microsoft Copilot Lab [2024-03-14](英語) https://view.highspot.com/viewer/65fe0ad3d545f04d7039eb50?iid=65fadb2b5caa5cbb767787d0

ホワイトペーパー

生成AIセキュリティ: Microsoft Copilotでのデータ漏洩を防止 https://view.highspot.com/viewer/65fe0ad3d545f04d7039eb50?iid=6564d40f6e897adbbec5cdda

ブログ記事著者のご紹介

Brian Vecci

Brian Vecci

Brian VecciはVaronisのフィールドCTO(最高技術責任者)で、2010年にテクニカルエバンジェリストとしてチームに加わりました。彼は、内部者脅威、サイバー攻撃、出来の悪い営業プレゼンテーションからチームを守っています。

(翻訳:跡部 靖夫)

 

プロフィール

Varonis Systems, Inc.

Varonis Systems, Inc. (NASDAQ: VRNS) はデータセキュリティと分析の先駆者で、データ保護、脅威の検出と対応、およびコンプライアンスに特化したソフトウェアを開発しています。Varonisはデータのアクティビティや境界テレメトリー、ユーザーの振る舞いを分析することにより企業のデータを保護し、機密性の高いデータのロックダウンにより事故を防ぎ、また、自動化によりセキュアな状態を効率的に維持します。


Webサイト:Varonis Systems, Inc.

データセキュリティ | Varonis

同じカテゴリのコラム

イノベーションズアイに掲載しませんか?

  • ビジネスパーソンが集まるSEO効果の高いメディアへの掲載
  • 商品・サービスが掲載できるbizDBでビジネスマッチング
  • 低価格で利用できるプレスリリース
  • 経済ジャーナリストによるインタビュー取材
  • 専門知識、ビジネス経験・考え方などのコラムを執筆

詳しくはこちら

新着の編集局アイ

お役立ちコンテンツ

  • 弁理士の著作権情報室

    弁理士の著作権情報室

    著作権など知的財産権の専門家である弁理士が、ビジネスや生活に役立つ、様々な著作権に関する情報をお伝えします。

  • 産学連携情報

    産学連携情報

    企業と大学の連携を推進する支援機関:一般社団法人産学連携推進協会が、産学連携に関する情報をお伝えします。

  • コンサルタント経営ノウハウ

    コンサルタント経営ノウハウ

    コーチ・コンサルタント起業して成功するノウハウのほか、テクニック、マインド、ナレッジなどを、3~5分間程度のTikTok動画でまとめています。

  • 補助金活用Q&A

    補助金活用Q&A

    ものづくり補助金、事業再構築補助金、IT導入補助金、小規模事業者持続化補助金及び事業承継・引継ぎ補助金に関する内容を前提として回答しています。

  • M&Aに関するQ&A

    M&Aに関するQ&A

    M&Aを専門とする株式会社M&Aコンサルティング(イノベーションズアイ支援機関)が、M&Aについての基本的な内容をQ&A形式でお答えします。

おすすめコンテンツ

商品・サービスのビジネスデータベース

bizDB

あなたのビジネスを「円滑にする・強化する・飛躍させる」商品・サービスが見つかるコンテンツ

新聞社が教える

プレスリリースの書き方

記者はどのような視点でプレスリリースに目を通し、新聞に掲載するまでに至るのでしょうか? 新聞社の目線で、プレスリリースの書き方をお教えします。