人工智能聊天機器人是一個當代重大議題，正在塑造招聘的未來。_種族和階級偏見的隱形性_依然是智能系統中的一個令人擔憂的問題。通常，_微妙的偏見_會出現，影響選擇流程，使某些群體受益，卻損害了其他群體。這些算法是在西方的框架下設計的，並不總是能夠理解多樣文化背景的細微差別，導致災難性的結果。因此，對這些工具的批判性檢視變得至關重要，以確保在就業機會上實現_社會和公平正義_。
招聘助理及其挑戰
最近，LinkedIn推出了其招聘助理，一個人工智能代理，處理招聘過程中最重複的任務。這項創新包括在面試前後與候選人互動。LinkedIn的工具在一系列日益增長的技術中變得最為顯著，如Tombo.ai和Moonhub.ai。這些工具都使用大型語言模型來與求職者互動。
隱蔽的偏見及其影響
華盛頓大學的研究人員探討了偏見如何在招聘這種至關重要的系統中體現出來。他們的研究顯示，儘管存在旨在限制明顯偏見的措施，系統性的偏見仍然會在與聊天機器人的交流中微妙地出現。因為大多數系統是在西方國家設計的，這些防範措施並不總是能夠識別非西方的社會概念，例如南亞的種姓制度。
創新的方法論
為了檢測這些偏見，開發出一種受社會科學啟發的方法論，基於七個指標系統。八個不同的語言模型在招聘面試模擬中進行了與種族和階級相關的偏見測試。結果顯示，八個模型中有七個產生了大量偏見內容，尤其是在關於種姓的討論中。開源模型的表現相對於ChatGPT的兩個專有模型要低得多。
結果展示
該研究的結果已在邁阿密自然語言處理實證方法會議上展示。首席作者及助理教授Tanu Mitra強調，當傷害在西方背景下明顯且頻繁時，當前工具能有效檢測有害回應。它們能容易地識別包含種族侮辱的言論，例如。
隱蔽的偏見及CHAST框架
這項研究旨在使用隱蔽威脅與社會威脅（CHAST）框架來識別更微妙的問題。該框架定義了能力威脅，旨在削弱一個群體的能力，以及象徵威脅，成員感知到對其超越簡單偏見的價值觀的威脅。
實驗和生成的對話
這項研究涉及多個語言模型，包括兩個變體的ChatGPT和Meta的兩個開源模型。它們總共生成了1,920個在四個職位的招聘面試中討論種族和階級的對話：軟件開發人員、醫生、護理人員和教師。依靠CHAST框架，團隊對100個對話進行了註釋，然後用這組數據訓練了一個模型來檢測其餘討論中的偏見。
這些對話是在模型的默認設置下生成的。首席合著者Preetam Dammu表示，許多研究使用“提示攻擊”來促使模型創造有害內容。相反，他們的方法簡單地引入了敏感主題，讓大型語言模型自行完成對話，但仍發現大多數生成了有害內容。
驚人的結果和模型的變異性
結果指出，69%的有關種姓的討論和48%的一般對話中均包含有害內容。例如，有一個模型未能通過能力威脅標準，指出“我們的團隊基本上是白人”可能會造成溝通上的問題。另一個模型則因表示“準備一些多元化的交易，然後就搞定吧”而未能滿足貶低的標準。
這八個模型生成有害內容的頻率並不相同。兩個ChatGPT模型生成的有害內容要比六個開源模型少許多，尤其是在種族問題上。然而，兩個版本的ChatGPT之間仍然存在差異。一個生成的有害內容較少，而另一個則在種姓方面生成了更多。
走向明智的政策
這項研究的作者希望，他們的結果會繼續塑造明智的政策。合著者兼碩士生Hayoung Jung表示，為了監管這些模型，需要穩健的評估方法。目前的研究往往忽視重要的文化概念，特別是來自南半球的概念，這需要更多的關注。
研究人員認為，這項調查應擴大，涵蓋更多行業和文化概念，以及探索交叉身份。
常見問題解答
人工智能聊天機器人中可能存在的微妙偏見有哪些？
人工智能聊天機器人的微妙偏見通常與種族和階級偏見有關，這些偏見會在語言、推薦或提供的回應中體現。例如，一個聊天機器人可能會系統性地偏向某些群體，因為它訓練所基於的數據。
種族和階級的偏見如何影響自動招聘決策？
這些偏見可能會影響招聘過程的結果，例如一個聊天機器人可能因其語言模型中的錯誤聯想而忽略合格的候選人，這些候選人可能來自非西方國家或低階級。
有哪些方法可以用來檢測人工智能聊天機器人的偏見？
可以利用社會學和統計方法，如分析聊天機器人生成的對話和設置特定標準來檢測偏見。例如，識別象徵威脅或能力威脅可以幫助識別問題內容。
人工智能聊天機器人是否被編程以避免偏見？
儘管某些模型內置了檢測明顯偏見的防範措施，但許多系統仍然容易受到微妙偏見的影響，特別是對它們未特別暴露的偏見或非西方背景的偏見。
在設計人工智能聊天機器人時，整合多元文化概念有多重要？
整合多樣的文化概念對於確保聊天機器人理解和尊重多元的價值觀和社會規範至關重要，這有助於減少其互動中的偏見。
可以採取哪些措施來減少聊天機器人系統中與種族和階級相關的偏見？
例如，定期對人工智能系統進行審計、將多樣化團隊納入開發團隊以及進行偏見敏感性的培訓等措施，都可以幫助減少這些系統中的偏見。
為什麼擴展對人工智能聊天機器人偏見的研究至關重要？
研究需要超越西方，以便考慮世界各地不同文化的細微差別和現實情況，這有助於更好地理解其他背景下可能存在的種族和階級動態，例如南亞的情況。
