一百多個非政府組織發出緊急呼籲譴責目前正在發展中的人工智能（AI）所帶來的偏差。 *人工智能可能會加劇現有的社會不平等*。一些具爭議性的技術助長了全球剝削系統，使已經脆弱的群體被邊緣化。 *未經監管的人工智能發展威脅到人權*。在這樣的背景下，倫理和社會意義的影響令人擔憂。
非政府組織的呼籲：面對人工智能的警鐘
在《世界報》發表的一篇專欄中，一百多個非政府組織，包括大赦國際和人權聯盟，表達了驚人的擔憂。它們指出，正在發展中的人工智能（AI）促進了一個全球剝削系統，嚴重影響了人權，造成了重大的社會不公。
不考慮倫理的技術發展
民間社會的參與者譴責人工智能的發展主要是在利潤的視角下進行的。人類、社會和環境的問題被大量忽視。更具體地說，人工智能為繼續存在的剝削和不平等提供了機會。這些技術加劇了現有的歧視，對脆弱人口帶來災難性的後果。
對人權的具體影響
沒有任何措施能夠減輕偏見算法的後果。人工智能加強了刻板印象，並延續了偏見。這些系統所依賴的數據庫包含不完整且經常帶有偏見的信息。這種情況損害了邊緣化群體獲取基本資源的能力，尤其是在健康和就業方面。
近期醜聞：不容忽視的證據
近期的醜聞大幅強化了非政府組織的論據。例如，某些健康算法揭示了性別和種族偏見。在奧地利，一個人工智能系統對女性進行了歧視，阻止她們獲得信息技術領域的培訓。然而，法國和丹麥等地的其他案例，也顯示了社會福利系統中的類似做法。
緊縮政策的角色
政策選擇直接影響人工智能系統的實施。這種部署往往置於擴大歧視的緊縮政策之中。因此，對於最貧困的人來說，獲取公共服務和社會福利變得越來越困難。
危險的預測人工智能
預測人工智能的興起引發了重要的倫理和法律問題。這些技術開始取代在司法和警察領域中的人類決策。算法偏見可能因此加強了種族主義的實踐。在美國某些地區，評估再犯風險的算法不成比例地將有色被告標記為“高風險”。
走向必要的監管
非政府組織發出的對各國政府的呼籲旨在促進人工智能的倫理監管。人權必須融入技術發展的過程中。適當的監管可以減輕加重不公和擴大基本權利侵害的風險。
政府的選擇決定了人工智能的未來方向。對這一問題的思考必須超越單純的技術考量，考慮系統性改革。因此，是時候進行一場關於人工智能系統在當代社會中角色和影響的全球性辯論。
有關非政府組織針對人工智能及全球剝削的常見問題
非政府組織對人工智能提出的主要關注是什麼？
非政府組織指出，現有形式的人工智能助長了一個全球剝削系統，加劇了社會不平等，並使最脆弱的群體面臨更大的歧視。
為什麼非政府組織認為人工智能會加劇歧視？
非政府組織認為，人工智能系統通常依賴帶有偏見的數據庫，這些數據庫整合了設計者的偏見，這進一步加強了刻板印象並限制了某些群體獲取資源的機會。
有哪些具體案例顯示人工智能的危險？
最近的案例突顯了某些算法中的性別和種族偏見，例如用於健康服務或就業平台的算法，算法決策可能加劇對這些服務的獲取不平等。
人工智能如何影響人權？
人工智能的發展和部署可能侵犯人權，通過限制對健康、就業等基本服務的平等獲取，並加劇社會系統中的現有歧視。
非政府組織提出了什麼解決方案以監管人工智能？
非政府組織呼籲對人工智能進行嚴格監管，將人權和社會公正置於過程的核心，反對僅僅以經濟增長和利潤為導向的人工智能觀。
巴黎的全球人工智能峰會在這一背景下扮演了什麼角色？
這次峰會為政府和民間社會的代表提供了討論人工智能的倫理和社會影響的機會，但非政府組織擔心人權相關的問題未能得到足夠重視。
緊縮政策如何影響人工智能的發展？
緊縮政策可能通過限制公共服務的資源來加劇不平等，同時促進像人工智能這樣技術解決方案的採用，這些可能會加強在獲得服務過程中的歧視。
企業在人工智能發展中有什麼責任？
開發人工智能技術的企業必須負責評估和修正其算法中的偏見，並在設計和部署的所有階段中納入倫理方法。
