Ofcom對科技公司的警告
英國通訊管理局Ofcom對科技公司發出警告，指出由模仿真實或虛構個體的聊天機器人創建的內容可能違反英國的新數字法律。
模仿已故者的虛擬形象問題
這一警告針對的是用戶在Character.AI平台上創建類似於兩位在悲劇中去世的英國少女Brianna Ghey和Molly Russell的虛擬形象的日益增加的擔憂。這一現象引發了關於已故者的尊嚴及其虛擬代表的倫理問題的深刻討論。
《網絡安全法》的影響
Ofcom指出，聊天機器人生成的所有內容，包括用戶創建的內容，都受到《網絡安全法》的約束。該立法旨在保護用戶，特別是兒童，免受非法或有害內容的影響。違反該法的公司可能面臨高達1800萬英鎊或其全球營收10%的重大罰款。
對悲劇背景的反應
Ofcom最近的警報反映了「不安事件」。特別舉出了一起案例，某些用戶創建了模仿Brianna的聊天機器人，Brianna是一名悲劇性被殺的跨性別女孩，而Molly則是在接觸到有害的在線內容後結束了自己的生命。這些戲劇性的事件凸顯出需要進行監管以防止對科技的此類利用。
社交平台需要監管
新規定要求大型平台建立主動刪除非法內容的系統。這包括為用戶創建清晰的舉報工具和進行風險評估。在這一立法框架中，用戶保護，特別是未成年人，至關重要。
法律澄清的呼籲
由Molly的家人創立的慈善機構Molly Rose Foundation表達了對於聊天機器人生成的內容合法性需要更多澄清的需求。國家首席律師Jonathan Hall KC最近表示，AI聊天機器人提供的回答並未被現行法律適當覆蓋。
Character.AI及律師的立場
Character.AI表達了其在安全問題上的承諾，聲稱主動地進行內容審核並針對用戶舉報做出回應。模仿Brianna、Molly以及基於《權力遊戲》角色的聊天機器人已被從平台中移除。律師Ben Packer指出，這一情況展示了《網絡安全法》在當前技術背景下的複雜性和廣泛影響。
美國的悲劇事件
這場辯論同樣在國際層面上引發關注，美國發生的類似事件也引起了人們的注意。一名青少年在與基於《權力遊戲》角色的虛擬形象建立關係後不幸逝世。這些事件突顯了內容生成技術如何可能危險地與脆弱用戶互動。
對數字危險的日益警惕
當前和未來的規範顯示出對潛在的人工智能工具危險的擔憂正在不斷增長。對於保持數字平台的安全性和完整性來說，執行有效的監管比以往任何時候都更加重要。企業必須在一個倫理和社會責任變得無法避免的複雜環境中導航。
-
在英國和愛爾蘭的任何人都可以致電116 123聯繫Samaritans。
常見問題解答
Ofcom為何對科技公司發出關於聊天機器人的警告？
Ofcom在聊天機器人模仿真實人物後發出了警告，特別是Brianna Ghey和Molly Russell，這引發了使用人工智能的倫理和安全擔憂。
Ofcom的新規定涵蓋哪些類型的聊天機器人內容？
模仿真實或虛構人物的聊天機器人生成的內容受到《網絡安全法》的約束，包括使用户能夠創建聊天機器人的服務。
《網絡安全法》如何影響聊天機器人的使用？
《網絡安全法》對承載用戶生成內容的平台提出要求，包括保護用戶免受非法和有害內容影響，這直接影響到聊天機器人的運作。
不遵守Ofcom規定的企業可能面臨哪些制裁？
違反《網絡安全法》的企業最高可能面臨1800萬英鎊或其全球營收10%的罰款，並且在極端情況下，可能會封鎖其網站或應用程序。
什麼事件促使Ofcom澄清其對聊天機器人的指導？
Ofcom對不安事件做出了反應，例如創建模仿已故青少年的機器人，這引發了對這類內容可能造成心理傷害的擔憂。
聊天機器人對年輕用戶可能產生什麼影響？
聊天機器人在某些情況下可能會引起心理問題，尤其是在年輕人中，他們可能會發展出情感依附或暴露於有害內容中。
科技公司如何能遵循Ofcom的指導？
公司必須建立系統，主動刪除非法和有害的內容，同時為用戶提供明確的舉報工具。
有什麼安全措施來保護用戶免受聊天機器人生成內容的影響？
平台必須進行風險評估並建立對用戶生成內容的審核流程，以最小化與使用聊天機器人相關的風險。
聊天機器人生成的有害內容負責的是誰？
根據Ofcom的指導，責任可能在於承載聊天機器人的平台，也可能在於創建或分享問題內容的用戶。
