צ'אטבוטים של אינטליגנציה מלאכותית, הנמצאים בכל מקום בנוף המדיה, עוררים שאלות משמעותיות לגבי אמינותם. *ה-BBC מדגישה* את העיוותים המדאיגים בסיכומים שלהם. כלים אלה, המיועדים לספק מידע בזמן אמת, מציגים חוסרים בולטים, ומסכנים את *נאמנות המידע*.
תוצאות סקר שנערך לאחרונה חושפות כי *יותר מ-51% מהתשובות* שניתנו על ידי העוזרים של אינטליגנציה מלאכותית מכילות טעויות בולטות. חוסר היכולת של מערכות אלה להבחין בין עובדות ודעות מדגיש עוד יותר את הסיכונים של מידע שגוי. השאלות הכרוכות בנושא זה מעוררות עניין, הן עבור אמינות התקשורת והן עבור תפיסת העובדות על ידי הציבור.
אמינות צ'אטבוטים של אינטליגנציה מלאכותית במבחן
צ'אטבוטים חדשניים מבטיחים סיכום מיידי של החדשות, אך היכולת שלהם להבטיח מידע אמין מוטלת בספק. סקר שנערך על ידי ה-BBC מגלה עיוותים מתמשכים בסיכומים שניתנים על ידי עוזרים של אינטליגנציה מלאכותית כמו ChatGPT של OpenAI, Copilot של Microsoft, Gemini של Google, וPerplexity AI.
טעויות עובדתיות שנחשפו
תוצאות המחקר מראות ש51% מהסיכומים שנבדקו מציגים עיוותים משמעותיים, מתוכם 19% מהווים טעויות עובדתיות פגומות. דוגמאות ממחישות את הבעיה הזאת, כולל טענות שגויות לגבי המצב הפוליטי, כמו המינוי של רישי סונאק וניקולה סטורג'ון, שהיו אמורים לעזוב את תפקידיהם соответственно ב-2024 ו-2023.
המידע השגוי הפוטנציאלי שנובע מהטעויות הללו הוא מדאיג. צ'אטבוטים, כשהם מעבירים מידע שגוי, משפיעים על האמינות של אמצעי התקשורת. Gemini של Google נמצא במיוחד תחת חשש עם 46% מהטענות שלו נתפסות כבעייתיות, כולל הצהרה שגויה על ה-NHS, שהייתה אמורה לטעון נגד המעשנים.
בלבול בין עובדות לדעות
אספקט נוסף מדאיג נמצא בקושי של צ'אטבוטים להבחין בין עובדות לדעות. לפי דברורה טרנס, מנהלת החדשות של BBC, כלים כמו העוזרים הללו מערבבים לעיתים קרובות חדשות עדכניות עם תכנים ישנים, דבר שמוביל לסיפור לא ברור ולעיתים מטעה.
ציטוטים הוטו או הושמטו. Perplexity AI, לדוגמה, ייחסה פעולות למדינות בצורה שגויה תוך כדי שינוי הטון של האירועים המתוארים. ההערכות הללו עשויות להיות משמעותיות, במיוחד בתחום הגיאופוליטי.
תגובות מעולם הטכנולוגיה
הדאגות שהועלו על ידי הסקר דוחקות בחברות הטכנולוגיה להגיב. דובר של OpenAI טען כי נעשים מאמצים לשפר את דיוק המידע ולהבטיח שהסיכומים משקפים נאמנה את התכנים המקוריים. יוזמות מכוונות לאפשר לעורכים לשלוט טוב יותר בשימוש שתעשה למפרסמים שלהם על ידי הצ'אטבוטים.
למרות ההודעות הללו, נותרות שאלות לגבי רצון אמיתי של החברות לשתף פעולה עם התקשורת. האם ענקיות הטק מוכנות להבטיח מידע אמין?
קריאה לשיתוף פעולה ושקיפות
דברורה טרנס קוראת לשיתוף פעולה מעמיק בין המדיה, הרגולטורים והגורמים הטכנולוגיים כדי למנוע התדרדרויות נוספות בעתיד. היא קוראת להקנות מסגרת בה הכלים של אינטליגנציה מלאכותית לא רק הם יכולים להיות מדויקים יותר, אלא גם לכבד את ההקשר העיתונאי.
לפי פיט ארצ'ר, מנהל תוכנית האינטליגנציה המלאכותית הגנרטיבית ב-BBC, חיוני שהעורכים יחזירו את השליטה בתכנים שלהם. הוא דורש שקיפות מוגברת מהחברות הטכנולוגיות לגבי הטעויות שנמצאות ובאשר לתהליכי יצירת הסיכומים.
שאלות ותשובות נפוצות
מהן הטעויות העיקריות שזיהתה BBC בסיכומי החדשות של צ'אטבוטים של אינטליגנציה מלאכותית?
ה-BBC זיהתה כי יותר מ-51% מהסיכומים שנוצרו על ידי צ'אטבוטים הכילו עיוותים, כולל 19% טעויות עובדתיות מוכחות.
אילו צ'אטבוטים נבדקו בסקר של BBC לגבי אמינות הסיכומים של חדשות?
הסקר של BBC בדק ארבעה מהעוזרים הראשיים של אינטליגנציה מלאכותית: ChatGPT של OpenAI, Copilot של Microsoft, Gemini של Google וPerplexity AI.
איך העיוותים של צ'אטבוטים של אינטליגנציה מלאכותית יכולים להשפיע על אמינות התקשורת?
העיוותים של הצ'אטבוטים יכולים לייצר מידע שגוי עבור המשתמשים ולערער את האמון בתקשורת, על ידי העברת מידע לא נכון או מטעה.
אילו השלכות יכולות לנבוע מהטעויות העובדתיות בסיכומי החדשות המיוצרים על ידי אינטליגנציה מלאכותית?
הטעויות העובדתיות בסיכומים יכולות להוביל לפרשנות שגויה של מידע, דבר שגורם לתפיסות שגויות והשפעה שלילית על קבלת החלטות של משתמשים.
איך החברות הטכנולוגיות מגיבות לתוצאות הסקר של BBC?
החברות, כמו OpenAI, הקטינו את התוצאות תוך כדי הכרה בצורך בשיפורים, כולל בדיקת עובדות טובה יותר ושיתוף פעולה עם העורכים כדי להבטיח מידעאמין יותר.
איזה תפקיד ממלא הבלבול בין עובדות לדעות בטעויות של הצ'אטבוטים?
הבלבול בין עובדות לדעות מונע מהצ'אטבוטים לספק סיכומים ברורים ומדויקים, מכיוון שהם מערבבים לעיתים קרובות מידע עכשווי עם תכנים מארכיון, דבר שמקנה סיפור לא ברור.
מדוע חשוב להבטיח את דיוק הסיכומים שמסופקים על ידי צ'אטבוטים של אינטליגנציה מלאכותית?
הבטחת דיוק הסיכומים היא קריטית כדי לשמור על האמון של הציבור במקורות המידע, וכדי למנוע הפצת מידע שגוי שיכול להשפיע על דעת הקהל והחלטות פוליטיות.
מי אחראי על הטעויות בסיכומי החדשות המופקים על ידי אינטליגנציה מלאכותית?
האחריות על הטעויות יכולה להיות משותפת בין מפתחי אינטליגנציה מלאכותית לפלטפורמות המדיה, אך שיתוף פעולה הדוק ביניהם הוא חיוני לשיפור האמינות של התכנים המופקים.
