將生成式人工智慧整合到商業領域正在顛覆傳統做法，但也帶來了眾多安全風險。對於這項創新技術的熱情伴隨著對日益增加的威脅的*高度警惕*。最近的報告提醒我們，採用這些工具會使企業面臨令人擔憂的數據違規情況。
敏感數據，特別是企業的源代碼被破壞，引發人們對安全管理的質疑。員工不當使用這些應用程序加劇了這一威脅，導致監管違規層出不窮。在這個不斷變化的全景中，對嚴格和主動的治理的必要性顯得不可避免。
生成式人工智慧在商業中的採用
商業領域以顯著的生成式人工智慧採用率為特徵，95%的企業現已整合這些應用程序。這一大規模的採用相比於去年有了驚人的增長，當時只有73%的組織採取了行動。這一現象揭示了零售商為了避免在市場上落後所感受到的緊迫性。
人工智慧的危險
儘管毫無疑問有其優勢，這些工具的整合還是使企業面臨了多種風險。人工智慧的整合擴大了網絡犯罪的攻擊面，導致敏感數據洩露的風險增高。由Netskope進行的最新研究通過顯示數據政策違規情況在行業中達到頂峰，突顯了這一警示的現實。
向更嚴格的管理方法過渡
報告強調了行業心態的轉變，從混亂的採用轉向更認真的公司管理。員工對生成式人工智慧的個人賬戶使用率劇烈下降，從74%降至僅36%。同時，企業批准的人工智慧工具的使用率則增長了一倍以上，達到52%的組織。
人工智慧工具的流行
ChatGPT仍然是無可爭議的採用冠軍，81%的公司採用它。然而，Google Gemini和Microsoft Copilot也迅速崛起，分別達到60%和56%。ChatGPT的受歡迎程度近期有所下降，加上Microsoft 365 Copilot的崛起，暗示著企業在更有效的整合方向上的偏好正在轉變。
增強的安全風險
安全挑戰因這些工具處理大量敏感數據而加劇。數據政策違規顯示，47%的問題來自企業的源代碼，隨後是39%的受監管數據，如機密信息。
監管和禁止高風險應用
面對這些安全問題，越來越多的零售商選擇禁止某些被認為過於危險的應用。ZeroGPT經常出現在黑名單上，因為其與用戶內容保存及數據重定向到第三方網站有關的擔憂。
企業人工智慧平台
不斷增長的謹慎使零售企業轉向更為嚴謹的企業人工智慧平台，由主要的雲服務提供商提供。這些解決方案提供了更大的控制，促進了模型的私有托管和定制工具的開發。OpenAI透過Azure和Amazon Bedrock並列第一，分別被16%的企業使用。
不當整合的風險
儘管有這些解決方案，風險依舊存在。錯誤的配置可能會使企業的關鍵系統面臨攻擊。研究指出，63%的組織直接將其基礎設施連接到OpenAI的API，將人工智慧深深整合進其後端系統和自動化工作流中。
惡意軟件和雲安全實踐
攻擊者透過利用可信名稱來進行擴展。像Microsoft OneDrive這樣的平台成為常見的惡意軟件載體，每月影響11%的零售商，而GitHub參與了9.7%的攻擊。這些漏洞通常因在工作中使用個人應用程序而被放大。
數據保護政策
不受控制的個人應用程序的使用促進了數據違規的增加。社交媒體平台如Facebook和LinkedIn成為現代工作環境不可或缺的一部分，分別被96%和94%的企業使用。在未經批准的應用程序上傳時，受監管數據的暴露佔76%的違規。
嚴格管理的迫切性
Netskope的研究結果應促使行業領袖立即行動。對所有網絡流量的完全可見性、高風險應用的限制以及嚴格的數據保護政策的實施，變得必要以避免潛在的災難性違規。
關於生成式人工智慧在商業中的常見問題：安全成本拖延採用
與商業領域的生成式人工智慧採用相關的主要安全風險是什麼？
主要風險包括敏感數據如企業的源代碼的暴露，以及由於這些工具創造的巨大攻擊面而導致的網絡攻擊的脆弱性。
商業企業如何在使用生成式人工智慧時保護其數據？
企業必須建立嚴格的數據保護政策，禁止使用未經批准的應用程序，並投資於提供更大數據控制的公認人工智慧平台。
商業領域中最常用的生成式人工智慧應用是哪些？
ChatGPT是最常用的平台，其次是Google Gemini和Microsoft Copilot工具，這些在行業內也很受歡迎。
為什麼企業對人工智慧的管理在商業領域變得如此關鍵？
隨著人工智慧的使用增長，企業必須監控和控制這些技術的使用，以避免可能帶來嚴重法律和財務後果的數據違規。
企業採取了哪些措施來避免“影子人工智慧”現象？
企業正在採用經過組織批准的人工智慧工具，從而減少使用個人應用程序的情況，並確保更好的數據安全合規。
將人工智慧API整合到企業內部系統中為什麼會帶來額外的風險？
直接將人工智慧的API整合到內部系統中增加了複雜性和數據洩露的可能性，尤其是在發生錯誤配置的情況下。
企業在使用生成式人工智慧時最常被泄露的數據類型是什麼？
最常被泄露的數據包括企業的源代碼和受監管數據，如客戶的機密信息。
員工的意識在減輕與企業人工智慧相關的風險中扮演什麼角色？
員工的意識至關重要，因為它能夠減少與使用未經批准的服務相關的風險，這些服務可能導致重大數據違規。
在採用人工智慧解決方案時，安全負責人應遵循的最佳實踐是什麼？
他們必須確保對所有Web流量的完全可見性，阻止高風險應用程序，並實施嚴格的數據保護政策來控制可以共享的信息。
