英國政府對人工智能系統的未登記狀況引發了對透明度和責任的尖銳質疑。在這個已經影響到數百萬生命的技術領域內，缺乏監管使專家們分歧。當局必須迅速採取行動，以建立明確的框架，避免此情況發展成真正的技術危機。一旦出現這種遺漏，其後果將影響公共安全、個人權利及資源管理等關鍵領域。登記的迫切性顯得極其重要，以確保公眾服務中的人工智能得以明智地被採用。
人工智能系統的缺乏登記
自政府宣佈將強制登記以來，Whitehall的任何部門均未登記其對人工智能（IA）系統的使用。這一缺乏登記的情況引發了擔憂，部分人警告說，公共部門在實施影響數百萬生活的算法技術時，正面臨盲目行事的風險。
當前的人工智能使用情況
政府已經利用人工智能來指導有關福利支付、移民執行及其他關鍵問題的決策。政府已將與人工智能相關的多個服務合同授予不同的公共機構，例如一個潛在價值高達2000萬英鎊的面部識別合同，重燃了對大規模生物識別監控的擔憂。
算法系統的有限登記
迄今為止，只有九個算法系統被提交到公共登記，而社會保障系統、內政部或警方使用的許多IA程序仍未被報告。這一資訊的缺乏更加令人擔憂，因為政府在二月份表示，使用這一登記將成為所有政府部門的要求。
未受監管的採用風險
專家們警告稱，未經批判性採用人工智能的危險。近期的案例顯示，某些計算機系統未能產生預期結果，如郵政軟件Horizon所示。其他目前正在試驗中的人工智能工具也面臨著執行不當的陰影。
呼籲透明性
科學和技術國務卿彼得·凱爾承認，公共部門對圍繞政府使用算法的透明性未給予足夠重視。他表示，既然政府使用這些技術，公眾有權了解其應用方式，強調加強可見性的重要性。
權利倡導團體所提出的問題
隱私權倡導組織Big Brother Watch表示，儘管議會成員對監管不足表示警告，面部識別合同的授予卻顯示出政府在人工智能方面缺乏透明性</strong。這種秘密使用的算法技術可能會損害公民的數據權利。
缺乏透明性的後果
Ada Lovelace Institute最近警告，要是在人工智能可以促進行政管理的同時，也可能侵蝕公眾信任，若其所產生的預測是歧視性或低效的，將會降低好處。
國家登記的現狀
自2022年底以來，只有三個算法在國家登記中被登記。這一登記包括內閣辦公室用於識別數字檔案的系統、一個在劍橋分析行人過路的AI驅動攝像機，以及一個用於分析NHS服務的患者意見的系統。
最近授予的人工智能合同
根據Tussell的數據，自二月以來共簽訂了164個提及人工智能的合同與公共機構。技術公司如Microsoft和Meta大力鼓勵政府採用其人工智能系統。Google Cloud資助的一份報告指出，隨著生成性人工智能的更大使用，公共部門到2030年可產生高達380億英鎊的節省。
政府使用人工智能的例子
勞動和養老金部
勞動和養老金部（DWP）利用生成性人工智能每天分析超過20,000份文件，以總結相關的信件。這一方法使相關信息得以與負責決策的工作人員共享。
內政部
內政部使用一個AI驅動的移民執行系統。這個系統被某些人視為“助手機器人”，影響著將個人遣返回其原籍國的決策。儘管政府將其描述為基於規則，但仍然引發了關於每個決策中人類責任的擔憂。
警方的使用情況
一些警方部門使用面部識別軟件來識別嫌疑人。這引發了人們對將英國街道變成真正的技術監控營地的擔憂。
與NHS的合作
NHS England與Palantir簽訂了一項價值3.3億英鎊的合同，以建立一個新的數據平台。這一合作引發了對患者隱私的擔憂，儘管Palantir保證數據控制權依然掌握在其客戶手中。
聊天機器人的開發
一個基於AI的聊天機器人正在試用中，以幫助用戶在gov.uk網站上導航。這一項目由政府數字服務開發，使用的是OpenAI的ChatGPT技術。
有關英國政府人工智能登記的常見問題
為什麼英國政府不將人工智能的使用登記在強制登記上？
政府已宣佈登記將是強制性的，但至今還沒有任何部門登記使用IA系統，這引發了對公共部門使用算法的透明度和控制的擔憂。
未登記人工智能系統的後果是什麼？
未登記使公眾面臨不透明的治理風險，影響數百萬公民的決策在沒有監控或理解的情況下進行，讓社會容易受到偏見和潛在錯誤的傷害。
目前英國政府使用哪些未登記的人工智能系統？
儘管有數百萬合同授予了IA服務，但只有九個IA系統被登記，導致社會保障和移民等領域的程序未被記錄。
英國政府的哪些部門在沒有透明度的情況下使用IA技術？
包括內閣辦公室、內政部和勞動及養老金部在內的多個部門，使用IA系統進行關鍵工作，如執行移民決策和欺詐檢查，但並未向公眾公布這些用法。
IA的使用透明度對公眾信任有何影響？
透明度對公眾感到安全處理其數據至關重要。缺乏明確的信息會削弱信任，導致接受公共部門IA的抵觸。
政府計劃採取哪些措施來確保IA登記？
政府已表示，系統的透明度和登記將強制，但具體的實施細節仍不清晰，尚未落實。
專家對公共部門目前IA狀況的看法是什麼？
專家們指出，缺乏適當的登記是主要風險，可能會導致不公正的決策和公共信任的侵蝕，並呼籲在使用這些技術時要有更大的透明度。
是否有由於缺乏IA監管而導致的具體問題的例子？
是的，郵政局Horizon軟件的錯誤案例證明了未經監管的部署危險，給相關人員帶來了嚴重後果。
公眾對政府的IA使用有哪些行動可以採取？
公眾可以要求當選代表負責並促進要求公開對公共部門所用的IA系統進行登記和透明的立法。
