Les LLMs 演變為類似大腦的運作方式，根據研究

最近在语言模型的进展中发展出与 *人类神经处理* 的迷人相似之处。 _大型语言模型_，例如 ChatGPT，正朝着越来越 复杂的架构发展，模仿大脑过程。一项最近的研究表明，这些模型在提高其性能时，逐渐接近 特有的人类认知功能。这种趋同的影响远远超出简单的语言学，涉及到理解、创造和人类互动等基本领域。

大型语言模型及其向大脑功能的进展

关于 大型语言模型 (LLMs) 的研究已经有了显著进展，突显了它们模拟人类认知过程的能力。这种 LLMs 与大脑功能之间的趋同最近在哥伦比亚大学与 Northwell Health 的 Feinstein 医学研究所合作进行的一项研究中得到了揭示。

关于 LLMs 的创新研究

研究人员分析了 LLMs 的表征与在神经外科治疗中的患者所观察到的神经反应之间的相似性。这项研究的结果发表在 Nature Machine Intelligence 中，表明，尖端语言模型，如 ChatGPT，随着其不断完善，逐渐与人类大脑的过程变得更加相似。

方法论与结果

在这项研究中，检查了十二个开源模型，它们在架构和参数数量上几乎相同。收集的数据包括参与者听讲演时的神经反应，这为 LLMs 提取的同样讲演的嵌入提供了比较的基点。评估了基于这些文本表征预测脑反应的能力，建立了 LLMs 的表现与脑活动之间的对应关系。

LLMs 与大脑功能的匹配

估算模型与大脑之间的匹配导致了迷人的发现。研究人员观察到，像 GPT-4 这样的 LLMs 在随着复杂性的增加而提高信息回馈的效率。该模型层与处理语言的大脑区域的对齐也在改善。

研究的影响

这些结果出现了重大影响。现代大型语言模型架构似乎模仿了大脑处理语言所用的认知原理。这一发现可能表明，理解语言处理的基本原理，无论是对于自然系统还是人工系统来说，都是存在的。

未来的展望

Mischler 和他的同事的工作为进一步研究 LLMs 基于神经反应的研究打开了新的方向。这类调查可以为未来 LLMs 的设计提供启示，同时确保它们与人类心理过程更好的协同。对高度性能 LLMs 中 早期层 的更好理解也可能促成增强其有效性的创新。

随着进展，LLMs 变得越来越大脑智能。 这一发现可能会改变我们对人工智能的理解，为关于人工系统处理语言的最佳方法提出新的假设。对这一迷人主题的持续探讨承诺将给予有关人类认知与人工智能之间联系的更多启示。

未来的研究项目应当为 LLMs 领域的科学和技术提供迷人的前景，促进对语言处理的更为包容的方式，无论是针对机器还是人类。我们还需观察这些发现如何影响下一代语言模型的创新。

关于 LLMs 及其向大脑功能演变的常见问题

LLMs 如何模拟大脑在语言处理中的过程？
大型语言模型 (LLMs) 使用类似人类大脑神经网络的内部结构来处理和生成语言，使其可以模拟某些与语言相关的认知功能。
有哪些研究支持 LLMS 越来越像人类大脑的观点？
最近的一些研究，特别是由哥伦比亚大学的研究人员进行的研究，表明，LLMs，如 ChatGPT，在不断完善时，其神经反应与人类大脑的对齐程度也越来越高。
这对 LLMs 的未来及其使用有什么意义？
这种演变表明，LLMs 可以发展出与人类大脑类似的语言能力，为人工智能（尤其是在沟通和理解语言方面）开辟更先进的应用可能性。
本研究中研究了哪些类型的模型？
研究涉及了12个具有相似架构和参数的最新开源模型，使得研究者可以将其性能与观测到的患者脑活动进行比较。
为什么理解 LLMs 与大脑之间的相似性如此重要？
理解这些相似性有助于优化 LLMs 的设计，使其功能更接近人类大脑，从而提高其在语言处理中的表现和效率。
当前的 LLMs 是否可以真正被视为‘大脑智能’？
尽管 LLMs 正日益接近脑机制，但它们仍然是人工工具，其运作和理解仍与人类大脑相比相对较为不明确。
研究结果如何影响 LLMs 的未来发展？
这些发现突显了 LLMs 的早期层在成功中的重要性，这可能会导致这些模型训练方式的修改，使其变得更具有效性。