十八個國家，包括美國、英國、德國、義大利、澳洲和新加坡，剛剛達成了一項協議，旨在加強人工智慧（AI）設計中的安全性。這是全球首次針對以安全為重點的國際規則以促進安全的AI系統開發，以及保護這些技術免受惡意行為者的攻擊。
一項國際協議，以加強人工智慧的網絡安全
根據美國網絡安全和基礎設施安全局（CISA）主任珍·伊斯特利的說法，各國必須認識到AI的開發需要以安全為中心的方式。 這是首次達成共識，將安全性置於比功能性、上市速度或成本降低更重要的位置。
開創網絡安全新紀元的基礎文件
英國國家網絡安全中心（NCSC）認為，這些初步文件是未來更多法規的開端。其目標是幫助開發者在開發過程的每個階段做出明智的網絡安全決策。 目標是確保安全成為所有人工智慧系統的必要條件，並在整個開發過程中將其置於每個組件工作的中心。 在這一項目的啟動儀式上，將有大約一百名來自行業、政府和國際機構的主要合作夥伴參加，包括微軟、艾倫·圖靈研究所以及英國、美國、加拿大和德國的網絡安全機構。
共同承諾確保人工智慧的安全發展
在11月26日星期日，美國、英國、法國和其他十幾個國家簽署了這項協議，以加強人工智慧的網絡安全。這是第一項詳細的國際協議，旨在保護人工智慧免受惡意行為者的攻擊並鼓勵企業從設計之初就創建安全的AI系統。為此，CISA和NCSC已發布有關安全AI系統開發的新指導方針，將幫助開發者在開發過程的每個階段做出明智的網絡安全決策。
確保人工智慧領域安全的建議
這些由18個國家的機構簽署的指導方針旨在提升人工智慧的網絡安全水平，從而確保其設計、開發和部署是安全的。珍·伊斯特利強調，這些指導方針的發布標誌著 「全球各國政府在確保AI能力的安全開發和部署方面的共同承諾的一個關鍵步驟。」 儘管這不是一項有約束力的協議，但它主要包含一般性建議，例如監控AI系統以防濫用、保護數據以防篡改和監控軟件供應商。
前所未有的國際聲明以預測AI風險
該協議還旨在回答如何防止黑客劫持人工智慧技術的問題。它包括一些建議，例如僅在進行適當的安全測試後才能發布模型。總共有28個國家簽署了Bletchley宣言，包括美國、英國、歐盟成員國和中國，旨在預測人工智慧帶來的潛在風險。 Bletchley宣言是第一項有關AI的國際聲明，所有國家均同意該技術對人類構成潛在的災難性風險。
隨著人工智慧在我們社會中佔據越來越重要的位置，這一國際協議和所宣布的措施標誌著在確保這一關鍵技術的安全和負責任開發上邁出了重要一步。各國和相關方之間的合作必須持續進行，以有效防止隨著人工智慧在各個領域的廣泛使用而帶來的固有風險。
