不穩定的平衡在壯觀的表現和有限的理解之間定義了生成式人工智能。這項迷人的技術能夠創造驚人的內容，但其運作機制卻常常與現實脫節。研究人員指出，儘管它能夠生成和諧的句子，但這些系統始終無法擁有對世界的連貫理解。
對模型的嚴格評估顯示，面對複雜情況時，缺乏一致性和準備的情況日益嚴重。因此，質疑這項有前途的技術的基礎是必要的。人工智能的驚人成就也因此在不同領域提出了關於其實際影響的倫理和實踐問題。
生成式人工智能模型的局限性
龐大的語言模型生成了令人印象深刻的結果，例如詩歌和可運行的計算機程序。它們預測文本中下一個詞的能力顯示出迷人的複雜性。然而，這些成就掩蓋了一個根本的限制：它們對周遭世界的理解始終不夠連貫。
近期研究和意外結果
麻省理工學院的研究人員進行的一項最新研究揭示了人工智能模型在理解現實方面的缺陷。結果顯示，儘管這些模型能夠為紐約提供準確的行駛指引，但它們卻沒有該城市的真實內部表示。事實上，當增加繞行路線時，模型的表現會驟然下降。
錯誤的地圖
研究人員發現，生成的紐約地圖中包含許多不存在的街道。這些虛構的街道在網格中彎曲，連接著遙遠的交叉口。這樣不準確的地圖引發了對模型在現實場景中應用能力的重大疑問。一個看似有效的模型可能在微小環境變化面前失效。
新的評估標準
面對令人擔憂的結果，研究人員制定了新的評估標準，以測試人工智能對世界的建模能力。區分序列的概念檢驗了一個模型是否能夠識別兩個不同狀態之間的差異，而壓縮序列則評估模型理解兩個相同狀態共享相同後續步驟序列的能力。這些標準使得對人工智能模型的有效性進行嚴格分析成為可能，並揭示它們的局限性。
根據數據的變化表現
奇怪的是，結果顯示，基於隨機生成數據訓練的人工智能模型開發了更好的世界表示。研究人員解釋說，這些模型因接觸不同的潛在運動而吸收了更多的細微差別，因而超越了依賴預先設定策略訓練的模型。出乎意料的是，缺乏戰略理解反而促進了對遊戲規則的學習。
人工智能使用的影響
人工智能模型展現了驚人的表現，但缺乏對其基本原則的明確理解。儘管它們提供有效的導航指引和遊戲移動，大多數模型在其他上下文中卻無法建立連貫的表示。研究人員強調，重新思考訓練方法以創建能夠更精確和可靠地對世界建模的人工智能的急迫性。
未來前景
未來，研究工作的重點在於其潛力，能夠察覺某些規則可能部分理解的問題。通過將新的評估指標應用於實際科學項目，研究人員旨在加強人工智能模型的可靠性。這樣的做法可能為不同領域的更堅實實用應用開啟創新的途徑，包括駕駛或複雜信息處理。
這些發現的影響是廣泛的，需要大量關注。對人工智能建模世界的不確定性可能會妨礙其在關鍵應用中的使用。
FAQ：理解生成式人工智能的局限性
什麼是生成式人工智能，為什麼被認為是高效的？
生成式人工智能是指能夠創造原始內容（如文本、圖像或音樂）的模型，如變壓器，它們基於既有數據模式。其性能通常因其執行多樣而複雜的任務能力而受到讚譽。
為什麼說生成式人工智能缺乏對世界的連貫理解？
研究人員解釋，儘管生成式人工智能的結果令人印象深刻，但它們並不具備對世界的真正理解，只是重現從數據中學到的模式。這意味著它們可能會給人一種智能的印象，但實際上並不理解它們處理的數據的上下文或內容。
缺乏理解在實際應用中（例如導航）會產生什麼影響？
這種缺乏理解可能在實際背景中導致顯著的錯誤。例如，生成式人工智能可能為用戶提供準確的城市指引，但在交通規劃或變更出現時完全失敗，因為它沒有可靠的內部地圖模型。
研究人員如何評估生成式人工智能模型的理解能力？
研究人員使用特定的指標，例如序列區分和序列壓縮，來評估模型識別和整合數據中的差異和相似性的能力。這樣可以確定一個模型是否對其所代表的世界狀態擁有真實的理解。
為改善生成式人工智能模型理解進行了哪些研究？
研究人員研究不同類型的問題，並尋求應用新的評估指標，以更好地理解這些模型如何能夠發展出更精確和連貫的現實世界表示。他們也旨在使用規則和模型更清晰、明確的環境。
生成式人工智能的情況是否有可能發展到更好的理解？
有可能通過持續的研究和技術進步，生成式人工智能能夠發展出更連貫的世界理解和模型。然而，這需要重新思考當前的學習和評估方法。
訓練數據在生成式人工智能理解中的角色是什麼？
訓練數據的質量和多樣性對模型學習複雜關係的能力起著關鍵作用。如果數據有偏見或不夠代表性，則可能會損害人工智能建立連貫理解的能力。
為什麼生成式人工智能的驚人表現並不代表真正的智能？
生成式人工智能的驚人效果主要來自於其對語言模型和數據中的模式的訓練。這並不反映真正的理解，因為人工智能只是在檢測和再現這些模式，而沒有邏輯基礎或對上下文的意識。
