Writer emerge como un actor audaz en el campo de los grandes modelos de lenguaje (LLM). Mientras OpenAI se impone con sus soluciones generativas, Writer apuesta por un enfoque radicalmente diferente e innovador. Al centrarse en modelos verticales adaptados a sectores específicos, esta empresa altera los paradigmas tradicionales.
Costos de entrenamiento reducidos y una calidad de respuesta superior definen su estrategia. La optimización de los datos a través de técnicas avanzadas permite a Writer competir directamente con gigantes como GPT-4. En la encrucijada entre eficacia y ética, Writer anuncia un futuro donde la personalización de los modelos ya no será solo una opción, sino una necesidad.
Con sede en San Francisco, la empresa Writer se establece como un actor innovador en el campo de los grandes modelos de lenguaje (LLM). Desde su creación en 2020, ha logrado recaudar 326 millones de dólares, atrayendo la atención por su enfoque único centrado en la verticalización de los modelos de lenguaje. A diferencia de OpenAI, que se centra en modelos generalizados como ChatGPT, Writer desarrolla LLM especializados adaptados a diversos sectores, como el retail, las finanzas, la salud y el soporte al cliente.
Un método de entrenamiento innovador
Writer ha diseñado su propio LLM, llamado Palmyra, que comprende 20 mil millones de parámetros. Este modelo ha sido entrenado con 800 mil millones de tokens, compuestos en gran parte de datos sintéticos. Este enfoque permite evitar los altos costos relacionados con la etiquetación manual de la información de entrenamiento, que se estima en 100 millones de dólares para GPT-4. La inversión de Writer para su modelo asciende a solo 700,000 dólares, una diferencia significativa que da cuenta de su estrategia efectiva.
Kev Chung, director de estrategia de Writer, destaca que «crear un LLM que cueste más de lo que genera no tiene sentido». Esta declaración subraya la importancia de la eficiencia y la precisión en el desarrollo de modelos de IA. Writer logra ofrecer resultados más efectivos gracias a su estrategia de verticalización, al mismo tiempo que minimiza los costos.
Datos que respaldan el rendimiento
Para desarrollar sus LLM, Writer también se apoya en datos de entrenamiento licenciados, lo que permite justificar la pertinencia y la solidez de los resultados obtenidos. Esta elección estratégica busca limitar el riesgo de alucinaciones – un problema recurrente con ciertos modelos de OpenAI.
Writer también adopta técnicas de modelos auto-evolutivos, en contraste con los sistemas tradicionales estáticos. Estos modelos integran nueva información con el tiempo, mejorando su precisión y su pertinencia. Se basan en tres elementos clave: una memoria integrada, un aprendizaje basado en la identificación de incertidumbres y un proceso autónomo de actualización de conocimientos.
Generación aumentada de recuperación
Un mecanismo innovador de generación aumentada de recuperación (RAG) orientado a grafos también está en desarrollo. Gracias a este proceso, Writer logra mejorar el grado de precisión de las respuestas generadas a partir de las bases documentales de sus clientes. Al aprovechar las relaciones semánticas, Writer ejecuta análisis robustos y rápidos, transformando los datos en información procesable.
Una visión de automatización de los flujos de trabajo
Writer prevé un futuro donde los LLM se convertirán en una mercancía. La empresa proyecta ofrecer una plataforma personalizable, permitiendo a los clientes adaptar los modelos de lenguaje con sus propios datos. Kev Chung insiste en la importancia de integrar estos modelos a las aplicaciones comunes que utilizan sus clientes, como Salesforce y otros software de gran envergadura.
Los avances realizados por Writer experimentan la revolución agentiva, donde los modelos se conectan a diversas aplicaciones de terceros para automatizar los flujos de trabajo. Por ejemplo, en marketing, es posible crear un producto y gestionar todos los contenidos asociados a través de una integración fluida con herramientas como Salesforce.
Una clientela prestigiosa
Writer ya ha conseguido atraer a un gran número de clientes, entre los que se encuentran empresas reputadas como Accenture, Goldman Sachs y Jaguar Land Rover. La empresa también cuenta con la cooperación de la francesa L’Oréal, que despliega las soluciones de Writer en sus diferentes geografías. Con 500 empleados, Writer se ha internacionalizado, con oficinas en Nueva York, Londres y Singapur.
Con ambiciones crecientes, Writer se centra en la investigación y el desarrollo, especialmente en la mejora de los modelos auto-evolutivos para fortalecer su eficacia. El deseo de Writer es integrarse armoniosamente con las aplicaciones que sus clientes utilizan diariamente, maximizando así los beneficios de las nuevas tecnologías.
Preguntas y respuestas sobre Writer, un experto en LLM que se opone a OpenAI
¿Qué es Writer y cómo se distingue de OpenAI?
Writer es una empresa especializada en el desarrollo de modelos de lenguaje verticales, ofreciendo soluciones adaptadas a campos específicos como el retail, las finanzas y la salud. A diferencia de OpenAI, que propone modelos generalistas, Writer se centra en la eficiencia y la precisión creando LLM especializados.
¿Cuáles son las ventajas de utilizar LLM verticales desarrollados por Writer?
Los LLM verticales de Writer están diseñados para proporcionar resultados más precisos y efectivos en función de las necesidades específicas de las industrias. Esto permite reducir errores y mejorar la relevancia de las respuestas proporcionadas, ajustando el modelo a los contextos aplicativos.
¿Cómo aborda Writer las cuestiones de costo en el desarrollo de sus LLM?
Writer enfatiza la optimización de costos utilizando datos sintéticos para entrenar sus modelos, lo que limita los gastos de entrenamiento a aproximadamente 700,000 dólares, evitando así los altos costos asociados con la etiquetación manual de datos.
¿Qué tecnologías utiliza Writer para limitar los riesgos de alucinaciones en sus LLM?
Writer utiliza datos de entrenamiento licenciados para garantizar que los resultados sean pertinentes y controlados, reduciendo así el riesgo de alucinaciones, es decir, respuestas incorrectas o inexactas generadas por el modelo.
¿Cómo funcionan los modelos auto-evolutivos desarrollados por Writer?
Los modelos auto-evolutivos de Writer se adaptan con el tiempo integrando nueva información. Se basan en una memoria integrada, un aprendizaje basado en la identificación de incertidumbres y un proceso autónomo de actualización de conocimientos, lo que mejora su precisión.
¿En qué consiste la estrategia de generación aumentada de recuperación (RAG) orientada a grafos de Writer?
Esta estrategia permite mejorar la precisión de las respuestas generadas a partir de las bases documentales de los clientes gracias al análisis de las relaciones semánticas. Esto permite realizar análisis más robustos y rápidos para obtener resultados aún más relevantes.
¿Cuáles son los principales clientes de Writer y en qué sectores operan?
Writer cuenta entre sus clientes con grandes empresas como Accenture, Goldman Sachs, Nvidia y L’Oréal, operando en sectores variados como las finanzas, el retail y los cuidados de salud.
¿Qué objetivos de investigación y desarrollo busca Writer para el futuro?
Writer se centra en la integración de su plataforma con aplicaciones utilizadas por sus clientes, como Salesforce y Adobe, y contempla avances en el desarrollo de modelos auto-evolutivos para aumentar la eficiencia y la precisión.
¿Cómo imagina Writer el futuro de los LLM?
Writer prevé que los LLM se convertirán en una mercancía, lo que lo impulsa a desarrollar una plataforma que permita a los usuarios personalizar los modelos de lenguaje con datos específicos de sus necesidades.