英国政府によるAIシステムの未登録は、透明性と責任についての鋭い疑問を引き起こしています。既に数百万の命に影響を与える技術が存在する分野において規制が欠如していることが専門家の意見を分けています。権限を持つ者は、この状況が本格的な技術的崩壊に陥るのを避けるために、迅速に明確な枠組みを確立する必要があります。このような省略の結果は、公共の安全、個人の権利、そして資源の管理といった重要な分野に影響を及ぼします。公共サービスにおける人工知能の適切な導入を保証するために、登録の緊急性は極めて重要です。
AIシステムの未登録
政府がそれを必須とすると発表して以来、ホワイトホールのどの部門も人工知能（AI）システムの使用を登録していません。この未登録の状況は懸念を引き起こしており、一部の人々は、公的セクターが数百万の命に影響を与えるアルゴリズム技術の実装において盲目的に航行していると警告しています。
現在のAIの使用
政府は既に、給付金の支払い、移民の適用、その他の重要な課題に関連する意思決定を明らかにするためにAIを使用しています。AIに関するサービスのために様々な公共機関に契約が付与されており、その中には2000万ポンドに達する可能性のある顔認識契約が含まれており、これにより大規模な生体監視の懸念が再燃しています。
アルゴリズムシステムの限られた登録
現在までに、公的な登録に提出されたアルゴリズムシステムはわずか9つであり、社会保障システム、内務省、または警察によって使用されている多くのAIプログラムは未登録のままです。この情報の不足は、政府がこの登録の使用が全ての政府部門にとっての要件となると宣言した2月以降、さらに憂慮すべき事態です。
無規制の導入に伴うリスク
専門家たちは、AIの批判的な導入の危険性について警告しています。最近の例は、コンピュータシステムが期待される結果をもたらすことに失敗したことを示しています。たとえば、ポストオフィスのHorizonソフトウェアにおいて見られたような問題です。悪化した実行の影は、現在試験中の他のAIツールにもつきまとっています。
透明性の呼びかけ
科学技術担当国務大臣のピーター・カイルは、公共部門が政府によるアルゴリズムの使用を巡る透明性を十分に重視していないことを認めました。もし政府がこれらの技術を使用するのであれば、一般の人々はそれがどのように適用されているのかを知る権利があると述べ、可視性の向上の重要性を強調しました。
権利擁護団体によって提起された懸念
プライバシーの権利を擁護するグループであるビッグ・ブラザー・ウォッチは、警察への顔認識契約の付与が、規制の不足について議会の警告にもかかわらず行われたことが、政府におけるAIに関する透明性の欠如を強調していると報告しています。秘密裏に使用されるアルゴリズム技術は、市民のデータ権を侵害する可能性があります。
透明性の欠如による影響
エイダ・ラブレス研究所は最近、AIシステムが管理業務の効率を向上させることができる一方で、その結果が差別的または非効率的である場合、公共の信頼が損なわれ利益が減少する可能性もあると警告しました。
国家登録の状況
2022年末以来、全国レベルで登録されたアルゴリズムはわずか3つです。この登録には、デジタルアーカイブを特定するために内閣府で使用されるシステム、ケンブリッジの横断歩道を分析するためのAI駆動のカメラ、NHSのサービスに対する患者の意見を分析するためのシステムが含まれています。
最近のAI契約
Tussellによれば、2月以来、AIに言及した164の契約が公共機関と締結されました。マイクロソフトやMetaなどの技術企業は、政府を通じた彼らのAIシステムの導入を強力に鼓舞しています。Google Cloudは、20230年までに公共部門で最大380億ポンドの節約を生み出す可能性があるという報告を資金提供しました。
政府によるAIの使用例
労働年金省
労働年金省（DWP）は、AI生成技術を利用して、1日で2万件以上の文書を分析し、関連する通信内容を要約しています。このアプローチは、意思決定を担当するエージェントに重要な情報を共有するのに役立っています。
内務省
内務省はAIによって駆動される移民施行システムを使用しています。このシステムは、一部の人々によって「ロボットアシスタント」と見なされており、個人の母国への帰還の決定に影響を与えています。政府はこれをルールに基づくものとして提示していますが、各決定における人間の責任に関する懸念が生じています。
警察による使用
警察は犯人を特定するために顔認識ソフトウェアを使用しています。これは、英国の通りを真の技術監視キャンプに変えるという懸念を引き起こしました。
NHSとのコラボレーション
NHSイングランドは、Palantirとの3億3000万ポンドの契約を結び、新しいデータプラットフォームを構築しています。このパートナーシップは患者のプライバシーに関する懸念を引き起こしましたが、Palantirはデータの制御が顧客の手にあることを保証しています。
チャットボットの開発
政府のデジタルサービスによって開発されたAI駆動のチャットボットが、gov.ukサイトをナビゲートするために試験中です。このプロジェクトは、OpenAIのChatGPT技術を使用しています。
英国政府によるAIの登録に関するFAQ
なぜ英国政府はAIの使用を必須の登録にしなかったのですか？
政府は登録が必須になると発表しましたが、現時点ではどの部門もAIシステムの使用を登録しておらず、公共部門で使用されるアルゴリズムの透明性と管理に関する懸念が生じています。
AIシステムの未登録にはどのような影響がありますか？
未登録状態は、一般市民を不透明な統治にさらし、数百万の国民に影響を与える決定が監視や理解なしで行われることを招き、技術の使用におけるバイアスや潜在的なエラーに対して社会を脆弱にします。
現在、政府によって登録されていないAIシステムは何ですか？
数百万の契約がAIサービスに対して付与されているにもかかわらず、わずか9つのAIシステムが登録されており、福祉や移民に関する分野でのプログラムが文書化されていません。
英国政府のどの部門が透明性のないAI技術を使用していますか？
内閣府、内務省、労働年金省など、さまざまな部門がAIシステムを用いて移民の決定や詐欺のチェックなどの重要な業務を実行しており、これらの使用が公表されていません。
AIの使用に関する透明性は、公共の信頼にどのように影響しますか？
透明性は、市民が自分のデータの使用について安心を感じるために不可欠です。明確な情報がなければ信頼は低下し、公共サービスにおけるAIの採用に対する躊躇を引き起こす可能性があります。
政府はAIの登録を保証するためにどのような措置を講じる予定ですか？
政府は、AIシステムの透明性と登録が必須になると述べていますが、これらの措置の実施に関する具体的な詳細は不明確で、まだ具体化されていません。
専門家は、公共部門におけるAIの現状についてどのように考えていますか？
専門家は、適切な登録の欠如が重大なリスクを生み出し、不公平な決定や公共の信頼の侵食につながると指摘しており、これらの技術の使用におけるより大きな透明性への呼びかけを行っています。
AIに関する規制の欠如による具体的な問題の例はありますか？
はい、ポストオフィスのHorizonソフトウェアの誤りのような事件は、無規制での展開の危険性を証明しており、関与した個人に深刻な結果をもたらしています。
一般市民は政府のAI使用に関してどのような行動が取れるのでしょうか？
一般市民は、選挙で選ばれた代表者に説明責任を求め、公共部門で使用されるAIシステムの登録と透明性を要求する立法を推進することができます。
