Writer, 一位反對OpenAI的LLM專家

Writer 作为语言模型（LLM）领域的一家大胆参与者崭露头角。当 OpenAI 凭借其生成解决方案占据主导地位时，Writer 则采用一种 截然不同且创新的 方法。通过专注于适应特定行业的垂直化模型，该公司颠覆了传统的范式。
降低训练成本 和更高的回复质量定义了其战略。通过先进技术优化数据，Writer 能够直接与 GPT-4 等巨头竞争。在效率与伦理的交汇点上，Writer 宣布了一个未来：模型的个性化不再是选择，而是必然之需。

总部位于旧金山的 Writer 在语言模型（LLM）领域展现出创新力量。自2020年成立以来，它已成功融资3.26亿美元，以其独特的专注点吸引了公众的注意，这种专注在于语言模型的 垂直化。与专注于通用模型如 ChatGPT 的 OpenAI 不同，Writer 开发了适合各种行业的专业 LLM，例如零售、金融、医疗和客户支持。

创新的训练方法

Writer 设计了自己的 LLM，命名为 Palmyra，其参数达到200亿个。该模型在8000亿个令牌上进行了训练，主要由合成数据组成。这种方法避免了与 手动标记 训练信息相关的高昂成本，这种成本对于 GPT-4 估计达到1亿美元。Writer 对其模型的投资仅为70万美元，显著的差异体现了其高效的战略。

Writer 的首席战略官 Kev Chung 强调：“创造一个成本高于收益的 LLM 是没有意义的。”这句话突出了在 AI 模型开发中效率和准确性的重要性。Writer 凭借其垂直化战略成功提供了更高效的结果，同时在降低成本方面取得了成果。

数据支持性能

为了开发其 LLM，Writer 还依靠许可的数据进行训练，以证明所获得结果的相关性和稳健性。这一战略选择旨在降低 幻觉风险 ——这是一些 OpenAI 模型反复出现的问题。

Writer 还采用了 自演化模型 技术，这与传统静态系统相反。这些模型随着时间的推移整合新信息，提高了其 准确性 和 相关性。它们基于三个关键要素：内置记忆、基于识别不确定性进行学习、以及自主更新知识的过程。

增强型检索生成

一种面向图形的增强型检索生成（RAG）机制也在开发中。通过这一过程，Writer 能够提高从客户的文档库中生成的回复的准确度。通过利用 语义关系，Writer 进行强大且快速的分析，将数据转化为可操作的信息。

工作流程自动化的愿景

Writer 设想一个 LLM 将成为商品的未来。该公司计划提供一个可定制的平台，允许客户使用他们自己的数据来调整语言模型。Kev Chung 强调了将这些模型集成到客户使用的日常应用程序（如 Salesforce 和其他大型软件）中的重要性。

Writer 所取得的进展正在经历 代理革命，在此过程中，模型连接到不同的第三方应用，以实现工作流程的自动化。例如，在营销中，可以创建一个产品，并通过与 Salesforce 等工具的顺畅集成来管理所有相关内容。

卓越的客户群

Writer 已成功吸引了众多知名客户，其中包括知名企业，如安永、摩根士丹利和捷豹路虎。该公司还依赖于法国品牌 L’Oréal 的合作，在其不同地区推广 Writer 的解决方案。拥有500名员工的 Writer 已国际化，在纽约、伦敦和新加坡设有办公室。

随着野心的不断增长，Writer 专注于研究与开发，特别是在改进自演化模型以增强其效率方面。Writer 希望与客户日常使用的应用程序和谐整合，从而最大化新技术的优势。

关于 Writer 的问答，LMM 专家，挑战 OpenAI

什么是 Writer，它与 OpenAI 有何不同？
Writer 是一家专注于开发垂直语言模型的公司，提供适用于特定领域（如零售、金融和健康）的解决方案。与提供通用模型的 OpenAI 不同，Writer 专注于通过创建专业 LLM 来提高效率和准确性。
使用 Writer 开发的垂直 LLM 的优势是什么？
Writer 的垂直 LLM 旨在根据行业的具体需求提供更准确、更高效的结果。这有助于减少错误，同时改善提供回复的相关性，使模型更好地适应应用上下文。
Writer 如何处理其 LLM 开发中的成本问题？
Writer 强调提高成本优化，通过使用合成数据训练模型，将学习支出限制在大约70万美元，同时避免与手动标记数据相关的高昂成本。
Writer 为何使用许可的数据来减少其 LLM 中的幻觉风险？
Writer 使用许可的训练数据，以确保结果的相关性和可控性，从而降低幻觉风险，即模型所生成的错误或不准确的回复。
Writer 开发的自演化模型是如何运作的？
Writer 的自演化模型随着时间的推移，通过整合新信息而自我适应。它们依赖于内置记忆、基于识别不确定性进行学习以及自主更新知识的过程，从而提高其准确性。
Writer 的增强型结果生成（RAG）图形指南策略是什么？
这一策略通过分析客户文档库中的语义关系来提高生成结果的准确性。有助于执行更强大、更快速的分析，以实现更相关的结果。
Writer 的主要客户是谁，他们在哪些行业运营？
Writer 的客户包括知名企业，如安永、摩根士丹利、英伟达和 L’Oréal，涉及金融、零售和医疗等多个领域。
Writer 未来研究与开发的目标是什么？
Writer 专注于将其平台与客户使用的应用程序集成，如 Salesforce 和 Adobe，并考虑在自演化模型的开发上进行突破，以提高效率和准确性。
Writer 如何看待 LLM 的未来？
Writer 预测 LLM 将成为商品，这促使它开发一个平台，使用户能够使用特定于其需求的数据自定义语言模型。