הא מהימנות של אינטיליגנציה מלאכותית מתערערת יותר מתמיד. בשנה האחרונה, תוצאות מחקרים מצביעות על עלייה מדאיגה במידע שגוי מופץ. חוסר היכולת של מכונות אלו להבחין במקורות אמינים מדגישת אתגרים אסטרטגיים קריטיים לחברה. חוסר היכולת לסנן באופן יעיל, עלולים הכלים הטכנולוגיים הללו להפיץ סיפורים שקריים. המידע המוטעה המופץ על ידי צ'אטבוטים מעורר שאלות חשובות לגבי ההשפעה האמיתית שלהם על הציבור. נשאל את עצמנו לגבי שחיקת מהימנות זו ותוצאותיה הרחבות.
עלייה במידע שגוי של IA גנרטיבית
דו"ח שנעשה על ידי NewsGuard מגלה כי שיעור המידע שגוי המופץ על ידי כלים של אינטיליגנציה מלאכותית כמעט הכפיל את עצמו תוך שנה. צ'אטבוטים כמו ChatGPT, ג'מיני או מיסטרל מציגים ביצועים מדאיגים בשאלה של הבחנת מידע אמיתי וחדשות מזויפות. תוצאה זו מעוררת חשש לגבי הקשיים שלהם בהזדהות עם מקורות אמינים במערכת המידע הנוכחית.
מחקר חושף
NewsGuard ביצע אודיט של עשרת הכלים המובילים של IA באוגוסט 2025, וקבע כי הם נכשלו כמעט פי שניים יותר מבעבר ביכולתם להבחין בין עובדות לסיפורים שגויים. למרות עדכונים משמעותיים במודלים שלהם, מהימנותם מתדרדרת, במיוחד בטיפול בנושאי חדשות רגישים, כגון סכסוכים או בחירות. חוסר הצלחה זו מוחמרת על ידי שילוב חיפוש ברשת, גישה למידע שהופכת למלכודת.
השוואת ביצועי מודלים של IA
הברומטר החודשי שמקיים NewsGuard משקף פערים ניכרים בהיבט של מהימנות בין האלגוריתמים השונים של IA. קלוד וג'מיני, למשל, מציגים שיעורי הפצה של מידע שגוי של 10% ו-16.67% בהתאמה. לעומת זאת, פרפלוסיטי, שבעבר הצטיינה, עושה טעויות ב-46.67% מהמקרים. המשתמשים מבחינים בירידת מהימנות זו, מה שמעורר חששות רבות לגבי היכולת של כלי זה לספק מידע מדויק.
ההשפעות של גישה לאינטרנט
טרם שילוב גישה לאינטרנט, צ'אטבוטים לעיתים קרובות נמנעו מלהגיב לשאלות חדשות, עם שיעור אי-תגובה של 31%. כיום, שיעור זה עומד על 0%, בעוד שיכולת ההכחשה של סיפורים שגויים עלתה, מ-51% ל-65%. עם זאת, גישה זו מובילה למיון לקוי של מקורות, אשר מוביל לתגובות המגיעות מכלים מפוקפקים או מקמפיינים של מידע שגוי.
ניצול על ידי שחקנים זדוניים
שחקנים עם כוונות רעות מנצלים פער זה על ידי הצפת האינטרנט בתוכן שקרי. NewsGuard מדווח כי מודלים של IA לעיתים קרובות נלכדים על ידי אתרים שנבנו בחו"ל, המדמים אתרים מקומיים. כך, צ'אטבוטים חוזרים על סיפורים שקריים ומורכבים, ובכך יוצרים ריק מידע המנוצל על ידי מידע מוטה או שקרי.
הצורך בהרהור מעמיק
ג'נסן חואנג, מנכ"ל נווידיה, הדגיש את החשיבות להגיע לשלב שבו התגובות המסופקות על ידי IA מעוררות אמון. עם זאת, כמעט שנה לאחר הכרזתו, התוצאות מצביעות על בלבול בכל הנוגע להתקדמות, בעוד המידע השגוי נראה כי מתגבר. התקדמות מודלים אלו דורשת תשומת לב קריטית כדי להבטיח את אמיתות המידע המופץ.
שאלות נפוצות על מידע שגוי וטעויות של IA
מהן הסיבות העיקריות למידע שגוי המופץ על ידי IA?
ה-IA מתקשים להבחין בין מקורות מהימנים למקורות מפוקפקים, مما يؤدي إلى הפצת מידע שגוי. יכולת הזיהוי שלהם עוברת ירידה, مما يجعل אותם פגיעים לקמפיינים של מידע שגוי באינטרנט.
איך העדכונים של מודלים של IA משפיעים על מהימנותם?
למרות שנעשים עדכונים קבועים לשיפור הביצועים של המודלים, באופן פרדוקסלי, עדכונים אלה לא הצליחו להגדיל את כישוריהם לזהות מידע שגוי, مما מעלה חששות לגבי התפתחות מהימנותם.
האם זה נפוץ שצ'אטבוטים מעבירים מידע לא מדויק?
כן, מחקר עדכני הראה כי IA גנרטיבית מעבירה מידע שגוי בערך ב-35% מהמקרים, מספר שגדל כמעט פי שניים תוך שנה, מה שמעיד על ירידה משמעותית במהימנותם.
איזה IA היא בעלת הסיכוי הגבוה ביותר להפיץ מידע שגוי?
כלים כמו ChatGPT ומיסטרל AI נמצאים בין הכלים שיש להם את שיעור ההפצה הגבוה ביותר של מידע שגוי. לעומת זאת, מודלים כמו קלוד וג'מיני מציגים ביצועים טובים יותר בזיהוי אי-הדיוקים.
איך משתמשים יכולים לזהות מידע מהימן המסופק על ידי IA?
משתמשים צריכים תמיד לבדוק את מקורות המידע שמסופקים על ידי IA על ידי השוואה עם מדיה מהימנה ותחומים של חדשות אמינות כדי להימנע מליפול במלכודת של מידע שגוי.
האם לאינטרנט עדיין יש יכולת להפריך סיפורים שקריים?
כן, למרות עליית הטעויות, חלק מה-IA הצליחו לשפר את יכולתן להפריך מידע שגוי, עם שיעור הכחשה שעבר מ-51% ל-65% הודות לשילוב חיפושי מידע מקוונים.
מהן ההשלכות של מידע שגוי המיוצר על ידי IA עבור החברה?
הפצת מידע שגוי על ידי IA יכולה להוביל לבלבול בקרב הציבור ולהשפיע על החלטות חשובות, במיוחד במהלך אירועי חדשות כמו בחירות או משברים בינלאומיים.
איך החברות יכולות להגן על עצמן מפני מידע שגוי המיוצר על ידי IA?
החברות צריכות לאמן את עובדיהן להעריך את מהימנות מקורות המידע ולפתח פרוטוקולים על השימוש ב-IA גנרטיבית כדי למנוע מהמ מידע שגוי להיות מועבר בטעות.
