Reveal(x) 偵測員工使用 ChatGPT 造成的資料外洩

自從 OpenAI 於 2022 年 11 月 30 日發布 ChatGPT 以來，人工智慧即服務 (AIaaS)（包括生成式人工智慧工具）的使用量激增。上線五天之內，ChatGPT 用戶突破 100 萬。兩個月後，它的用戶就達到了1億。到了三月份，它的數字已經達到了 10 億。相比之下，TikTok 花了八年才達到 10 億用戶。到目前為止，組織還沒有一種簡單的方法來審查員工對這些工具的使用和潛在的濫用。

保護資料免受惡意人工智慧使用和意外濫用

ExtraHop 發布了一項新功能，可協助組織了解員工使用 OpenAI ChatGPT 所帶來的潛在風險。 

ExtraHop Reveal(x) 讓客戶能夠了解其網路上連接到 OpenAI 網域的裝置和使用者。當組織快速採取管理大型語言模型和生成式人工智慧工具使用的政策時，這種能力至關重要，因為它將為組織提供一種審查這些政策合規情況的機制。我們將此步驟作為更大安全平台方法的一部分，將 AIaaS 監控與我們現有的、業界領先的網路偵測和回應 (NDR) 功能相結合。

透過追蹤哪些裝置連接到 OpenAI 網域、識別與這些裝置關聯的使用者以及這些裝置發送到這些網域的資料量，Reveal(x) 可讓組織評估與其使用者持續使用 AI 服務相關的風險。（觀看示範。）

此外，由於 Reveal(x) 顯示了發送到 OpenAI 域和從 OpenAI 域接收的資料量，因此安全領導者可以評估哪些資料落在可接受的範圍內以及哪些資料表明潛在的 IP 遺失。例如，對聊天機器人的簡單使用者查詢應在位元組到千字節的範圍內。如果安全團隊看到數 MB 的資料流向這些網域，該資料量可能表示員工正在透過查詢發送專有資料。如果相關流量未加密，組織將能夠識別員工發送到 OpenAI 網域的資料和單一檔案的類型，並且 Reveal(x) 能夠識別相關的資料外洩和資料暫存檢測。  

Reveal(x) 能夠提供這種深度可見性和即時檢測，因為我們使用網路封包作為監控和分析的主要資料來源。Reveal(x) 使用即時串流處理器，將非結構化資料包轉換為結構化線路數據，並分析 OSI 第 2-7 層的有效負載和內容，以實現完整的網路可見性。從設備發現到行為分析，網路遙測是了解組織混合環境的不變事實來源。日誌可以告訴您兩個裝置正在相互通信，但 Reveal(x) 提供了有關通訊的豐富上下文。   

生成式人工智慧的主流出現正在為任何想要使用它的人提供前所未有的力量和靈 活性。一個人只需要自然語言的技能來操作它。對於金融服務業，生成式人工智 慧工具呈現出巨大的生產力提升潛力:想像一下，只需花費平常時間的一小部分 即可編寫程式碼，提供高度個人化的服務，例如透過聊天機器人提供投資指導， 防止詐欺和洗錢，以及簡化流程對於客戶和貸款團隊。

但這些工具需要仔細考慮風險。儘管預計生成式人工智慧將從根本上改變商業 甚至我們的生活方式，但其中的風險尚不清楚。除了可能產生誤導性或歧視性輸出外，這些風險還涉及隱私、網路安全、監管合規性和智慧財產權等。

超強的能力，未知的風險

ExtraHop 透過致力於牢固的框架、控制、流程並提前採取必要的預防措施，金融機構可以最大限度地利用這些強大工具的優勢，為客戶和 業務帶來更好的結果。

• 金融機構採取謹慎態度
• 確保負責任地使用人工智慧
• 使用 Reveal(x) 監控風險

 

• Reveal(x) NDR方案

ExtraHop 雲原生網路偵測和回應 | Cloud-Native Network Detection and Response | 代理商 逸盈科技