כותב, מומחה ב-LLM שלוקח את הצד ההפוך מ-OpenAI

Writer צצה כמשחקן נועז בתחום המודלים גדולים של שפה (LLM). בעוד ש-OpenAI מתבלטת עם הפתרונות הגנרטיביים שלה, Writer מהמרת על גישה שונה וחדשנית באופן Radically. על ידי התמקדות במודלים אנכיים המותאמים לתעשיות ספציפיות, החברה הזו משנה את הפרדיגמות המסורתיות.
עלויות אימון נמוכות ואיכות תגובה גבוהה יותר מגדירות את האסטרטגיה שלה. האופטימיזציה של הנתונים בעזרת טכניקות מתקדמות מאפשרת ל-Writer להתחרות ישירות עם ענקים כמו GPT-4. בצומת הדרכים שבין יעילות לאתיקה, Writer מודיעה על עתיד שבו התאמה אישית של המודלים לא תהיה עוד רק אופציה, אלא צורך.

בבסיסה של סן פרנסיסקו, חברת Writer מתבלטת כמשחקן חדשני בתחום המודלים גדולים של שפה (LLM). מאז הקמתה בשנת 2020, היא הצליחה לגייס 326 מיליון דולר, משכה תשומת לב בזכות הגישה הייחודית שלה המתמקדת בהאנכיות של מודלי השפה. בניגוד ל-OpenAI, המתרכזת במודלים כלליים כמו ChatGPT, Writer מפתחת LLMs מתמחים המותאמים לתחומים שונים, כגון קמעונאות, פинנסים, בריאות או תמיכה בלקוחות.

שיטה חדשנית לאימון

Writer תכננה את ה-LLM שלה, בשם Palmyra, אשר כולל 20 מיליארד פרמטרים. מודל זה אומן על 800 מיליארד טוקנים, המורכבים בעיקר מנתונים סינתטיים. גישה זו מאפשרת לעקוף את העלויות הגבוהות הקשורות לתיוג ידני של נתוני האימון, אשר מוערכות ב-100 מיליון דולר עבור GPT-4. ההשקעה של Writer עבור המודל שלה מסתכמת ב-700,000 דולר בלבד, הבדל משמעותי הממחיש את האסטרטגיה היעילה שלה.

Kev Chung, קצין האסטרטגיה של Writer, מדגיש ש"ליצור LLM שעולה יותר ממה שהוא מחזיר אינו הגיוני". הצהרה זו מדגישה את החשיבות של יעילות ודיוק בפיתוח מודלי ה-AI. Writer מצליחה להציע תוצאות טובות יותר בזכות האסטרטגיה שלה לאנכיות, תוך צמצום העלויות.

נתונים התומכים בביצועים

כדי לפתח את ה-LLM שלה, Writer מתבססת גם על נתוני אימון ברישיונות, המאפשרים לה להצדיק את הרלוונטיות והחוסן של התוצאות שהושגו. בחירה אסטרטגית זו נועדה להגביל את סיכון ההזיות – בעיה חוזרת עם כמה מודלים של OpenAI.

Writer מאמצת גם טכניקות של מודלים עצמאים-מתפתחים, בניגוד למערכות המסורתיות הסטטיות. מודלים אלו משולבים עם מידע חדש לאורך הזמן, משפרים את דיוקם ומעלים את רלוונטיותם. הם מתבססים על שלושה מרכיבים מרכזיים: זיכרון משולב, למידה המבוססת על זיהוי אי-וודאות ותהליך אוטונומי לעדכון הידע.

ייצור מוגבר של תהליכים

מנגנון חדשני של ייצור מוגבר של תהליכים (RAG) בכיוון גרפי נמצא גם בפיתוח. בעזרת תהליך זה, Writer מצליחה לשפר את רמת הדיוק של התגובות המתקבלות מתוך בסיסי הנתונים של לקוחותיה. על ידי ניצול הקשרים סמנטיים, Writer מבצעת ניתוחים חזקים ומהירים, הממירים את הנתונים למידע שניתן לניצול.

חזון לאוטומציה של תהליכי עבודה

Writer רואה עתיד שבו ה-LLMs יהפכו לסחורה נפוצה. החברה מתכננת להציע פלטפורמה מותאמת אישית, המאפשרת ללקוחות להתאים את מודלי השפה עם הנתונים שלהם. Kev Chung מדגיש את החשיבות של שילוב מודלים אלו עם היישומים הנוכחיים בהם משתמשים לקוחותיה, כמו Salesforce ותוכנות אחרות רחבות היקף.

ההתקדמות ש-Writer עושה טוענת למהפכה סוכנות, שבה המודלים מתחברים למגוון יישומים חיצוניים על מנת לאוטומט את תהליכי העבודה. לדוגמה, בשיווק, ניתן לדמיין יצירת מוצר וניהול כל התכנים הקשורים דרך אינטגרציה חלקה עם כלים כמו Salesforce.

לקוחות רבי מעלה

Writer כבר הצליחה למשוך מספר רב של לקוחות, ביניהם חברות ידועות כגון Accenture, Goldman Sachs וג'גואר לנדרובר. החברה סומכת גם על שיתוף הפעולה עם לוריאל הצרפתית, המיישמת את הפתרונות של Writer בגיאוגרפיות שונות. עם 500 עובדים, Writer התרחבה בינלאומית, עם משרדים בניו יורק, לונדון וסינגפור.

עם שאיפות הולכות ומתרבות, Writer מתמקדת במחקר ופיתוח, במיוחד בשיפור המודלים עצמיים-מתפתחים לחיזוק היעילות שלהם. הרצון של Writer הוא להשתלבות הארמונית עם היישומים שהלקוחות שלה משתמשים בהם מדי יום, ובכך למקסם את היתרונות של טכנולוגיות חדשות.

שאלות ותשובות על Writer, מומחית ב-LLM שנוקבת בפני OpenAI

מה זה Writer ואיך היא מתבלטת מ-OpenAI?
Writer היא חברה המתמחה בפיתוח מודלים של שפה אנכיים, המציעה פתרונות המותאמים לתחומים ספציפיים כמו קמעונאות, פיננסים ובריאות. בניגוד ל-OpenAI, שמציעה מודלים כלליים, Writer מתמקדת ביעילות ובדיוק על ידי יצירת LLMs מתמחים.
מה היתרונות של להשתמש ב-LLM אנכיים שפותחו על ידי Writer?
ה-LLMs האנכיים של Writer מיועדים לספק תוצאות מדויקות וביצועיות יותר בהתבסס על הצרכים הספציפיים של התעשיות. זה מאפשר להפחית שגיאות ולשפר את הרלוונטיות של התגובות המסופקות, על ידי התאמת המודל להקשרים שימושיים.
איך Writer מתמודדת עם שאלות העלות בפיתוח ה-LLMs שלה?
Writer שמה דגש על אופטימיזציה של העלויות על ידי שימוש בנתונים סינתטיים לאימוני המודלים שלה, מה שמגביל את הוצאות הלמידה ל-700,000 דולר בערך, תוך הימנעות מעלויות גבוהות המקושרות לתיוג ידני של נתונים.
אילו טכנולוגיות Writer משתמשת בהן כדי להגביל את הסיכון להזיות ב-LLMs שלה?
Writer עושה שימוש בנתוני אימון ברישיונות על מנת להבטיח שהתוצאות רלוונטיות ומבוססות, ובכך מצמצמת את הסיכון להזיות, כלומר תגובות שגויות או לא מדויקות המיוצרות על ידי המודל.
איך פועלים המודלים עצמיים-מתפתחים שפותחו על ידי Writer?
המודלים עצמיים-מתפתחים של Writer מתאימים את עצמם עם הזמן על ידי שילוב מידע חדש. הם מתבססים על זיכרון משולב, למידה המבוססת על זיהוי אי ודאות ותהליך אוטונומי לעדכון הידע, מה שמשפר את הדיוק שלהם.
מהי האסטרטגיה של ייצור מוגבר של תהליכים (RAG) בכיוון גרפי של Writer?
אסטרטגיה זו מאפשרת לשפר את הדיוק של התגובות המתקבלות מתוך בסיסי הנתונים של לקוחותיה באמצעות ניתוח הקשרים סמנטיים. זה מאפשר לבצע ניתוחים חזקים ומהירים לתוצאות רלוונטיות יותר.
מי הם הלקוחות המרכזיים של Writer ובאלו תחומים הם פועלים?
Writer כולל בין לקוחותיה חברות גדולות כגון Accenture, Goldman Sachs, Nvidia ולוריאל, הפועלות בתחומים מגוונים כגון פיננסים, קמעונאות ובריאות.
מהם המטרות של מחקר ופיתוח שWriter שואפת להשיג לעתיד?
Writer מתמקדת בשילוב הפלטפורמה שלה עם יישומים בהם משתמשים לקוחותיה, כמו Salesforce ו-Adobe, ומצפה להתקדמות בפיתוח של מודלים עצמיים-מתפתחים כדי להגביר את היעילות והדיוק.
איך Writer רואה את העתיד של ה-LLMs?
Writer צופה שה-LLMs יהפכו לסחורה, מה שמניע אותה לפתח פלטפורמה המאפשרת למשתמשים להתאים את מודלי השפה עם נתונים ספציפיים לצרכיהם.