理解 AI 偏見需要深入思考其 *本體論*。研究人員通過提出一個令人困惑的問題來促使我們重新考慮自己的認知：*你想像中的樹是什麼樣子？* 這個簡單的練習促使思想探索 文化聯想 和 偏見，這些因素形塑了我們的解讀。我們對樹的概念揭示了語言模型中的 隱藏價值。對於這種自然元素的每一種視角都展開了一場對話，關於我們理解 AI 所產生的表現的複雜能力。
社會偏見在人工智能中的挑戰
隨著生成性 AI 工具的興起，在設計語言模型時消除 社會偏見 已成為一個核心問題。研究人員致力於分析這些系統中嵌入的價值觀。當前的研究集中在設計大型語言模型 (LLMs) 涉及的 價值觀。
創新的本體論方法
一項最近發表於 2025 年 CHI 會議論文集 的研究指出，關於 AI 偏見的討論必須超越對價值的單一考量。這項研究強調本體論框架及我們的認知對結果的影響。理解本體論就是考慮我們如何感知世界。
樹的問題
為了說明這一問題，研究人員提出了以下問題：“你想像中的樹是什麼樣子？” AI 的回答，即 ChatGPT，揭示了一種重要的偏見。當模型應 Nava Haghighi 的要求創建一個樹的圖像時，結果是只有樹幹和樹枝，沒有樹根。這種對樹的狹隘視角凸顯了當前語言模型的 限制。
文化信仰的影響
樹的表現受到文化假設的影響。當 Haghighi 說明她來自伊朗時，提供的圖像是裝飾著刻板印象圖案的樹，位於沙漠中。只有當她表達“萬物相連”的思想後，模型才將樹根的概念納入考量。想像樹的不同方式揭示了語言模型中嵌入的 文化聯想 和本體論觀念。
AI 系統的評價
Haghighi 和她的同事還研究了 LLMs 根據具體價值進行自我評估的能力。他們分析了包括 GPT-3.5 和 Google Bard 在內的四個主要 AI 系統。他們提出了十四個深入問題來評估本體論，質疑本體論基礎、檢查隱含假設並測試模型評估其自身的本體論限制的能力。
顯然，偏見仍然存在於對人類的定義中。例如，當被詢問“什麼是人類？”時，Bard 承認沒有通用的答案，但仍然將其定義限制為生物個體。這種方法
內嵌的本體論風險
研究人員指出，AI 系統的設計選擇在一開始就融合了 本體論假設。例如，生成型代理的記憶模塊根據事件的相關性、近期性和重要性對事件進行分類。誰來決定什麼是重要的？這種層次結構可能反映限制性的文化價值觀，對未來 AI 的發展構成重大挑戰。
需要新的評估框架
這項研究的結果表明，過於集中於模擬人類行為是一個問題。被認為比真實行動者更“人性化”的 AI 代理提出了人性本質的狹隘解讀問題。研究提議 AI 系統應擴大對人性的理解，考慮人類經驗的複雜性。
發展新的 評估框架 變得至關重要，這些框架不僅限於準確性或倫理標準。在收集數據到模型架構的每一個設計選擇中，都必須考慮到本體論偏見。每一個設計選擇都對我們允許或限制的現實產生深遠的影響。
AI 系統在教育、健康等各個領域的日益整合，令本體論的局限性特別令人擔憂。研究人員警告說，如果這些問題不被解決，就可能將主導的本體論假設鎖定為普遍真理，限制未來幾代人的想像力。
參考資料和其他資源
要深入研究此主題，請參閱以下來自近期新聞來源的文章： 改變健康領域的對話、Meta 考慮創建對話模型、解鎖 99% 的 AI 準備數據、人工智能應對複雜方程推動藥物和材料創新，以及 AI 回應瀕臨 Web 基礎的危機。
常見問題解答
AI 的偏見如何與我們對樹的認知相關？
AI 的偏見經常受人類認知影響；在想像樹的過程中，我們的個人和文化觀念可能決定語言模型生成表現的方式，從而反映出嵌入的偏見。
為什麼本體論在研究 AI 和偏見中很重要？
本體論有助於理解不同的現實觀念如何影響語言模型的運作，整合可能會偏見 AI 輸出的價值觀和理念。
哪些例子顯示語言模型如何誤解樹的概念？
實驗顯示，當要求一幅樹的圖像時，模型可能會生成一幅沒有樹根的插圖，示範出對自然中實體的複雜性和相互關係的缺乏理解。
文化價值觀如何影響 AI 對樹的表現？
文化價值觀塑造樹的感知；例如，伊朗的樹鋸可能包括風格化的圖案，顯示文化刻板印象如何影響 AI 的一般化。
AI 系統在評估自身偏見時面臨哪些限制？
AI 系統很難識別自身的偏見，因為它們缺乏對於帶有深刻意義的概念——如樹的概念——的真正理解，這些概念需要歷史背景和生活經驗。
本體論方法評估 AI 偏見是什麼？
本體論方法不僅評估嵌入 AI 的價值觀，還評估存在或存在的意義的基礎，以便識別這些概念如何影響語言模型的回答和行為。
研究人員如何識別 AI 系統中的偏見？
研究人員可以通過提出有針對性問題，對概念的定義和解釋進行系統分析，以揭示 AI 模型中存在的潛在偏見。
有哪些策略可以幫助最小化語言模型中的偏見？
為了最小化偏見，至關重要的是在訓練模型時包含多樣的觀點，質疑假設，並促進有關價值觀如何影響 AI 系統設計的對話。
想像一棵樹如何能作為理解 AI 偏見的隱喻？
想像樹時，我們的思考揭示文化前提和身份，這些因素可能影響 AI 的設計，因此這成為一個強有力的隱喻，用於探索 AI 系統中的嵌入偏見。
設計選擇對 AI 系統的性能有什麼影響？
設計選擇決定了模型可以探索的現實；狹隘的設計可能限制 AI 表現人類多樣性和關係複雜性的能力。
