Writer, ein LLM-Experte, der sich gegen OpenAI stellt

Writer erscheint als ein mutiger Akteur im Bereich der großen Sprachmodelle (LLM). Während sich OpenAI mit seinen generativen Lösungen durchsetzt, setzt Writer auf einen radikal anderen und innovativen Ansatz. Durch die Konzentration auf vertikale Modelle, die auf spezifische Sektoren zugeschnitten sind, revolutioniert dieses Unternehmen die traditionellen Paradigmen.
Geringere Trainingskosten und eine überlegene Antwortqualität definieren seine Strategie. Die Optimierung der Daten durch fortschrittliche Techniken ermöglicht es Writer, direkt mit Giganten wie GPT-4 zu konkurrieren. An der Schnittstelle zwischen Effizienz und Ethik kündigt Writer eine Zukunft an, in der die Personalisierung von Modellen nicht mehr nur eine Option, sondern eine Notwendigkeit sein wird.

Mit Sitz in San Francisco positioniert sich das Unternehmen Writer als innovativer Akteur im Bereich der großen Sprachmodelle (LLM). Seit seiner Gründung im Jahr 2020 hat es geschafft, 326 Millionen Dollar zu sammeln und Aufmerksamkeit mit seinem einzigartigen Ansatz zu erregen, der auf der Vertikalisierung von Sprachmodellen basiert. Im Gegensatz zu OpenAI, das sich auf generalisierte Modelle wie ChatGPT konzentriert, entwickelt Writer spezialisierte LLM, die auf verschiedene Sektoren wie Einzelhandel, Finanzen, Gesundheit oder Kundenservice zugeschnitten sind.

Eine innovative Trainingsmethode

Writer hat sein eigenes LLM, genannt Palmyra, entwickelt, das 20 Milliarden Parameter umfasst. Dieses Modell wurde mit 800 Milliarden Tokens trainiert, die größtenteils aus synthetischen Daten bestehen. Dieser Ansatz erlaubt es, die hohen Kosten der manuellen Labeling von Trainingsinformationen zu umgehen, die für GPT-4 auf etwa 100 Millionen Dollar geschätzt werden. Die Investition von Writer in sein Modell beläuft sich auf lediglich 700.000 Dollar, ein signifikanter Unterschied, der seine effektive Strategie widerspiegelt.

Kev Chung, Chief Strategy Officer von Writer, betont, dass „es keinen Sinn macht, ein LLM zu schaffen, das teurer ist als das, was es einbringt“. Diese Aussage unterstreicht die Bedeutung von Effizienz und Genauigkeit bei der Entwicklung von KI-Modellen. Writer gelingt es, leistungsfähigere Ergebnisse zu erzielen, dank seiner Vertikalisierungsstrategie, während die Kosten minimiert werden.

Daten zur Unterstützung der Leistungen

Um seine LLM zu entwickeln, stützt sich Writer auch auf lizenziertes Trainingsdaten, was die Relevanz und Robustheit der erzielten Ergebnisse rechtfertigt. Diese strategische Entscheidung zielt darauf ab, das Risiko von Halluzinationen zu begrenzen – ein wiederkehrendes Problem bei einigen Modellen von OpenAI.

Writer verwendet auch Techniken von selbstevolutionären Modellen, die sich von traditionellen statischen Systemen unterscheiden. Diese Modelle integrieren im Laufe der Zeit neue Informationen, was ihre Genauigkeit und Relevanz verbessert. Sie basieren auf drei Schlüsselfaktoren: einem integrierten Gedächtnis, einem Lernen basierend auf der Identifizierung von Unsicherheiten und einem autonomen Prozess zur Aktualisierung des Wissens.

Erweiterte Generierung von Wiedergewinnung

Ein innovativer Mechanismus zur erweiterten Generierung von Wiedergewinnung (RAG), der graphorientiert ist, wird ebenfalls entwickelt. Dank dieses Verfahrens gelingt es Writer, den Grad der Genauigkeit der aus den Dokumentenbanken seiner Kunden generierten Antworten zu verbessern. Indem sie die semantischen Beziehungen nutzt, führt Writer robuste und schnelle Analysen durch, die Daten in verwertbare Informationen umwandeln.

Eine Vision der Automatisierung von Workflows

Writer sieht eine Zukunft, in der LLM zu einer Handelsware werden. Das Unternehmen plant, eine anpassbare Plattform anzubieten, die es den Kunden ermöglicht, die Sprachmodelle mit ihren eigenen Daten anzupassen. Kev Chung betont die Wichtigkeit, diese Modelle in die gängigen Anwendungen zu integrieren, die von seinen Kunden verwendet werden, wie Salesforce und andere groß angelegte Software.

Die Fortschritte von Writer experimentieren mit der agentischen Revolution, bei der sich die Modelle mit verschiedenen Drittanwendungen verbinden, um Workflows zu automatisieren. Zum Beispiel im Marketing könnte es denkbar sein, ein Produkt zu kreieren und alle dazugehörigen Inhalte über eine nahtlose Integration mit Tools wie Salesforce zu verwalten.

Eine angesehene Kundschaft

Writer hat bereits zahlreiche Kunden gewonnen, darunter renommierte Unternehmen wie Accenture, Goldman Sachs und Jaguar Land Rover. Das Unternehmen zählt auch auf die Zusammenarbeit mit dem französischen L’Oréal, das die Lösungen von Writer in seinen verschiedenen geografischen Regionen einsetzt. Mit 500 Mitarbeitern hat sich Writer internationalisiert, mit Büros in New York, London und Singapur.

Mit wachsender Ambition konzentriert sich Writer auf Forschung und Entwicklung, insbesondere in der Verbesserung der selbstevolutionären Modelle zur Steigerung ihrer Effizienz. Der Wunsch von Writer ist es, sich harmonisch in die Anwendungen zu integrieren, die seine Kunden täglich nutzen, und so die Vorteile neuer Technologien zu maximieren.

Fragen und Antworten zu Writer, einem Experten für LLM, der sich gegen OpenAI stellt

Was ist Writer und wie unterscheidet es sich von OpenAI?
Writer ist ein Unternehmen, das sich auf die Entwicklung von vertikalen Sprachmodellen spezialisiert hat und Lösungen für spezifische Bereiche wie Einzelhandel, Finanzen und Gesundheit anbietet. Im Gegensatz zu OpenAI, das generalisierte Modelle anbietet, konzentriert sich Writer auf Effizienz und Genauigkeit, indem es spezialisierte LLM entwickelt.
Was sind die Vorteile der Nutzung von vertikalen LLM, die von Writer entwickelt wurden?
Die vertikalen LLM von Writer sind darauf ausgelegt, genauere und leistungsfähigere Ergebnisse gemäß den spezifischen Bedürfnissen der Branchen zu liefern. Dies hilft, Fehler zu reduzieren und die Relevanz der gegebenen Antworten zu verbessern, indem das Modell an die Anwendungskontexte angepasst wird.
Wie geht Writer mit den Kosten bei der Entwicklung seiner LLM um?
Writer legt Wert auf Kostenoptimierung, indem es synthetische Daten zur Ausbildung seiner Modelle nutzt, was die Lernkosten auf etwa 700.000 Dollar begrenzt und gleichzeitig hohe Kosten vermeidet, die mit der manuellen Kennzeichnung von Daten verbunden sind.
Welche Technologien verwendet Writer, um die Risiken von Halluzinationen in seinen LLM zu reduzieren?
Writer verwendet lizenziertes Trainingsmaterial, um sicherzustellen, dass die Ergebnisse relevant und kontrolliert sind und die Risiken von Halluzinationen, also falschen oder ungenauen Antworten, die vom Modell generiert werden, reduziert werden.
Wie funktionieren die selbstevolutionären Modelle, die von Writer entwickelt wurden?
Die selbstevolutionären Modelle von Writer passen sich im Laufe der Zeit an, indem sie neue Informationen integrieren. Sie basieren auf einem integrierten Gedächtnis, einem Lernen durch Identifizierung von Unsicherheiten und einem autonomen Wissensaktualisierungsprozess, was ihre Genauigkeit verbessert.
Woraus besteht die Strategie der erweiterten Generierung von Wiedergewinnung (RAG), die von Writer verfolgt wird?
Diese Strategie ermöglicht es, die Genauigkeit der Antworten, die aus den Dokumentenbanken der Kunden generiert werden, durch die Analyse semantischer Beziehungen zu verbessern. Dies ermöglicht robustere und schnellere Analysen für noch relevantere Ergebnisse.
Wer sind die Hauptkunden von Writer und in welchen Sektoren sind sie tätig?
Zu den Kunden von Writer gehören große Unternehmen wie Accenture, Goldman Sachs, Nvidia und L’Oréal, die in verschiedenen Sektoren wie Finanzen, Einzelhandel und Gesundheitsversorgung tätig sind.
Welche Forschungs- und Entwicklungsziele verfolgt Writer für die Zukunft?
Writer konzentriert sich darauf, seine Plattform mit Anwendungen zu integrieren, die von seinen Kunden genutzt werden, wie Salesforce und Adobe, und plant Fortschritte bei der Entwicklung von selbstevolutionären Modellen, um Effizienz und Genauigkeit zu erhöhen.
Wie sieht Writer die Zukunft der LLM?
Writer erwartet, dass LLM zu einer Handelsware werden, was ihn dazu drängt, eine Plattform zu entwickeln, die es den Nutzern ermöglicht, die Sprachmodelle mit spezifischen Daten an ihre Bedürfnisse anzupassen.