對於一個公平及準確的人工智能的需求超越了簡單的算法，觸及社會正義的基礎。結果不平等所帶來的挑戰要求對二元決策進行突破，這些決策未能考慮數據的複雜性。一個創新的框架正在浮現，將正確性和公平性融入每一個算法決策的階段。傳統系統集中於單一維度，讓位於更精緻和包容的解決方案。採用細緻的辦法承諾減少偏見，同時保持性能。
發展創新框架
在人工智能（AI）研究中面臨著關於公平和準確性複雜的挑戰。算法，往往優化準確性，卻傾向於延續對特定群體的偏見。相反，專注於公平的系統可能會犧牲這種準確性，導致錯誤的分類。
與ROC的細緻方法
來自CSAIL的團隊最近制定了一個創新的框架以處理這種複雜性。它引入了拒絕選項分類（ROC）這個概念，能夠識別第三類：被「拒絕的樣本」。這一機制避免了對數據進行二元評估，提供了更大的靈活性。
這種方法論能夠識別模型表達不確定性的情況。通過拒絕這些實例，該結構降低了產生不公正結果的可能性，特別是與年齡或性別等因素相關，同時保持令人滿意的準確水平。
潛在偏見分析
被拒絕的樣本可以進行深入分析，為模型或數據集中可能的偏見源提供見解。這些信息導致模型本身及數據收集過程的顯著改進。因此，該策略促進了一個較少遭受歧視性錯誤的人工智能。
整合群體和個體的公平性
該研究由麻省理工學院的研究員Amar Gupta主導，與Rashmi Nagpal和Ariba Khan合作。Gupta強調，當前系統往往專注於優化群體公平性。他們的框架還整合了個體公平性，需要在決策過程中採取更個性化的方法。
例如，決定房貸批准機會的模型必須遵守群體公平性，確保男性和女性之間的預測相似。然而，個體公平性要求模型公平對待具有相似資格的候選人，而不管其個人特徵。
實驗及結果
實驗顯示，ROC框架的有效性相較於其他類似系統。在一組德國信用評分數據中，它達到了超過94%的準確性，表明預測在具備相似資格的個體中保持一致。
Gupta補充說，大多數先前的研究依賴於公共數據集。這個項目旨在探索更私密的數據集，提高算法在各行業中的適用性。
ROC框架的廣泛應用
解決公平性和正義問題的必要性超出了單一組織的範疇。Gupta聲稱，像ROC這樣的工具可以應用於任何需要數據判斷的領域，從金融到醫療保健。
發表的論文及未來方向
研究人員在最近發表於機器學習與知識提取期刊的文章中介紹了他們的框架。此外，還有一篇論文發表在人工智能與倫理期刊，探討了一種根植於帕累托最優概念的做法。
這項研究是在與如安永（Ernst & Young）等合作夥伴的緊密合作下開發的。目標是識別某些資源分配中，改進一個方面（如準確性）不會以損害其他方面（如公平性）為代價。
公平AI的未來
研究人員引入了一種稱為「最小最大帕累托公平性」（MMPF）的結構擴展。該框架使用多目標損失函數，結合群體及個體的公平性元素。在數個開源數據集上的測試顯示，其在準確性與公平性之間的折衷顯著降低。
未來計劃包括探索訓練方法與預處理或後處理策略的組合。公平性實驗的折衷準確性將很快整合差異權重，從而更有效地優化結果。
這種演變體現了一種集體願望，徹底改變人工智能的格局，推廣一種倫理平衡的方法，使人工智能既公平又準確。
關於開發公平及準確AI的常見問題
什麼是公平和準確的AI？
公平和準確的AI是旨在最小化偏見，同時保持高準確性的人工智能系統。它尋求確保所有群體都能得到公正對待，沒有歧視。
為什麼在AI發展中整合公平性概念很重要？
在AI發展中整合公平性至關重要，以防止歧視和社會不公。這確保算法不會強化現有的偏見，並促進平衡的決策。
所提出的框架是如何在促進公平性的同時改善準確度的？
所提框架使用像拒絕選項分類（ROC）這樣的算法，這允許拒絕不確定的樣本。這減少了偏見的風險，同時保持高準確度，排除模糊數據。
將公平性整合到AI模型中的主要挑戰有哪些？
主要挑戰包括難以量化公平性，必須定義“正確性”的標準，及優化公平性可能損害模型整體準確性的可能性。
在AI的背景下，什麼是“帕累托最優”？
帕累托最優是指在不損害其他標準（如公平性）的情況下，無法改善一個標準（如準確性）的情況。這有助於平衡準確性及公平性在算法發展中的取捨。
數據在創建公平AI中的作用是什麼？
數據對於開發公平AI至關重要。它們必須具有代表性並無偏見，以避免模型學習可能損害結果公平性的歷史偏見。
研究人員如何衡量AI中的公平性？
研究人員使用不同的指標來衡量公平性，例如不同群體間的錯誤率平等，子數據集的性能分析，及對年齡或性別等多個敏感因素結果的評估。
相較於AI中的二元決策，採用更細緻的方法有什麼優勢？
更細緻的方法允許處理複雜情況，這些情況無法簡單歸納為對或錯。這有助於更好地處理不確定性，避免導致不平等的分類錯誤。
企業如何在其AI系統中應用這一框架？
企業可以通過在設計模型時整合公平原則，使用合適的算法如ROC，並定期分析數據和模型中的偏見來應用該框架。
未來公平AI將對社會產生什麼影響？
公平的AI可能導致在信貸、健康和就業等關鍵領域作出更公正的決策，從而減少不平等，提高公眾對人工智能技術的信任。
