פער השפה הדיגיטלי הולך ומתרחב, מואץ על ידי כלי אינטליגנציה מלאכותית. ממשלת השפה האנגלית ושפות אחרות גדולות יוצרת אפליה ברורה כלפי שפות מיעוטים. מודלים לשוניים פופולריים מקימים "נישות מידע", שמבודדות את המשתמשים מנקודות מבט מגוונות.
הפער הלשוני הזה מעודד נרטיבים מעוותים, המניפולציה את התפיסה של המציאות. משתמשי שפות עם משאבים מוגבלים נפגשים לעיתים קרובות עם תגובות מעוותות. בהקשר שבו האמת של המידע היא קריטית, מכשולים כאלה פוגעים בדמוקרטיה של הגישה למידע.
פער לשוני דיגיטלי
חוקרים מאוניברסיטת ג'ונס הופקינס הדגישו לאחרונה תופעה מדאיגה הקשורה לשימוש בכלי אינטליגנציה מלאכותית, כגון ChatGPT. תופעה זו, המוגדרת כפער לשוני דיגיטלי, מגלה כי כלי אלו מחזקים את הדומיננטיות של האנגלית ושל השפות המדוברות לרוב, תוך שהם מתעלמים משפות מיעוטים.
יצירת נישה מידע
באמצעות ניתוח מידע אודות סכסוכים האחרונים, כגון מלחמות ישראל-עזה ורוסיה-אוקראינה, הצוות בראשות ניכיל שרמה זיהה כי מודלי שפה גדולים מפתחים נישות מידע. אלה, במקום לפרוץ את המחסומים הלשוניים, מעודדים השקפת עולם מעוותת על המציאות.
ניסיון מעניין
החוקרים פיתחו שתי סדרות של מאמרים: אחת מכילה מידע אמיתי והשנייה מציגה נקודות מבט חלופיות. לאחר מכן הם ראיינו מספר מודלים לשוניים של חברות מוכרות, כולל OpenAI ו-Cohere, כדי להעריך את הטיפול שלהם במידע המתקבל ממאמרים שונים שכתובים בשפות מגוונות. התוצאות הראו שכאשר שאלות הוצגו בשפה מסוימת, המודלים לשוניים העדיפו את המידע הרלוונטי באותה שפה.
ההשלכות של העדפה לשונית זו
נטייה זו מעלילה שאלות אתיות בנוגע לגישה למידע. לדוגמה, אם משתמש שואל מודל באנגלית על דמות פוליטית הודית, ואם המאמר בהינדי מציג מידע הפוך לחלוטין, המודל יחזיר תשובה המבוססת בהכרח על הטקסט באנגלית. תופעה זו מדגימה את סכנת הדומיננטיות הלשונית, שיכולה להוביל להשקפה מעוותת על האירועים.
ההשפעות על משתמשי שפות מיעוטים
החוקרים ניתחו גם את ההשפעות על משתמשים המדברים שפות פחות רווחות. אם אין מידע זמין על אירוע מורכב בשפת האם שלהם, המודלים מתבססים באופן בלעדי על תוכן באנגלית או בשפות דומיננטיות אחרות. בדינמיקה זו, משתמשים של שפות כמו סנסקריט מוצאים את עצמם מודרים מייצוג הוגן של המציאות הפוליטית שלהם.
עיוות נקודות מבט
הטיית השפה הזו יוצרת פילוג בהבנה של האירועים הגלובליים. ניקח דוגמה של העימות בין הודו לסין. משתמש הינדי יקבל תשובות הממוקדות במקורות הודיים, בעוד שמשתמש דובר סינית יקבל אך ורק נקודת מבט המתמקדת בסין. מנגד, משתמש דובר ערבית, שלא יכל לגשת לאותם מקורות, יקבל פרשנות מעוותת לפי השפה הדומיננטית ביותר.
תגובה נדרשת לתופעה הזו
החוקרים קוראים למודעות מיידית לגבי הנושאים הללו. איסוף מידע מנקודות מבט שונות בשפות שונות הוא חיוני להגעה לגישה הוגנת למידע. פיתוח מערכות AI כוללניות הוא בעל חשיבות רבה כדי לקדם שקיפות ומגוון נקודות המבט.
לכיוון שימוש טוב יותר ב-AI
חוקרים מאוניברסיטאות מתכננים ליצור מאגרי נתונים דינאמיים ומערכות מידע עתידיות, במטרה להנחות את הפיתוח העתידי של המודלים. צעדים אלה כוללים גם להזהיר משתמשים העשויים ליפול למצב של חיפוש מאשרר. חינוך המשתמשים על הצורך בחיפוש ביקורתי למול תוצאות ה-AI הוא לעתים קרובות קריטי כדי למנוע את הפצת המידע השגוי.
קולות כמו זה של ניכיל שרמה מדגישים כי הצברת כוח בטכנולוגיית AI עשויה להביא לסיכונים גבוהים. ריכוז מוגזם של השפעה על המידע מביא את המערכות להיות פגיעות למניפולציה, ובכך מאיים על מהימנות הכלים הללו. לכן, האסטרטגיות צריכות להתמקד בהבטחת גישה הוגנת למידע לכל המשתמשים, ללא קשר לשפתם או למוצאם.
להעמקה בנושאים הללו, עיין במאמרים על ההשפעה של AI גנרטיבי, האתגרים האתיים של ה-AI, וכן על פעולות פוליטיות הקשורות ל-AI.
שאלות נפוצות
מהו פער לשוני דיגיטלי?
פער השפה הדיגיטלי מתייחס להבדל בגישה למידע בין השפות הדומיננטיות לבין שפות עם משאבים נמוכים, ברוב המקרים מואץ על ידי השימוש בכלי AI רב לשוניים.
איך האינטליגנציה המלאכותית הרב-לשונית מחזקת את ההטיות הלשוניות?
ה-AI הרב לשוני נוטה להעדיף את השפות המדוברות ביותר, כמו האנגלית, דבר שעשוי לעוות את ייצוג העובדות והנקודות מבט בשפות מיעוט.
מהם הסיכונים הקשורים לשימוש ב-AI שאינה מתחשבת בשפות מיעוט?
הסיכונים כוללים הבנה מעוותת של האירועים, הפחתת מגוון הדעות, וייצור מידע בתוך "נישות מידע" המעודדות נרטיבים דומיננטיים.
איך ייתכן שה-AI ישפיע על ההחלטות של המשתמשים המבוססות על השפה?
התשובות שסיפקה ה-AI עשויות לעצב את האופן שבו המשתמשים תופסים אירועים בהתבסס על השפה בה הם שואלים את השאלות, مما עשוי להוביל לפירושים מאוד שונים.
אילו סוגי שפות מושפעות בעיקר מהפער הזה?
שפות עם משאבים נמוכים, כמו הינדי וערבית, לרוב מוזנחות ביחס לשפות עם משאבים גבוהים כמו אנגלית, סינית וגרמנית.
האם יש פתרונות לצמצם את ההטיות הלשוניות הקשורות ל-AI?
כן, פתרונות כוללים פיתוח מערכות AI שמשלבות נתונים משפות ונקודות מבט רבות ושונות, ועידוד אוריינות מידע בקרב המשתמשים.
איך החוקרים מודדים את ההטיה של ה-AI הרב-לשוני?
החוקרים מנתחים את התגובות המתקבלות מה-AI בנוגע למסמכים בשפות שונות, ומשווים את המידע הזמין ואת ההטיות לפי שפת השאלה.
מהן ההשלכות האתיות של השימוש ב-AI רב-לשונית במדיה?
שימוש ב-AI רב-לשונית מעלה חששות אתיים, במיוחד בנוגע לאחריות לספק ייצוג מאוזן של מידע מתרבויות ושפות שונות.
איך החלטות פוליטיות עלולות להיות מושפעות על ידי גישה לא שוויונית למידע באינטרנט?
גישה לא שוויונית עלולה להשפיע על דעות הציבוריות וההחלטות, על ידי מתן יתרון לנרטיבים דומיננטיים, והגבלת המגוון התרבותי והלשוני בדיון הציבורי.
