IBM, גאון טכנולוגי איקוני, עוזבת את ההכרה הפנים. החלטה משמעותית זו מתרחשת בהקשר של ערנות גוברת נגד ה*פרופיל הגזעי* ו*הפרות של זכויות יסוד*. החברה כופרת כעת בכל טכנולוגיה שיכולה להניע את הבקרת המונים. יוזמה זו מיועדת לקבוע תקדים אתי בתחום החדשנות. בתגובה לאירועים טראגיים כמו מותו של ג'ורג' פלויד, IBM מביעה רצון להביא לסיום את ההטיות הגזעיות המובנות בטכנולוגיה זו. האקלים הסוציופוליטי הנוכחי מעודד חברות גדולות לשאול את עצמן על האחריות החברתית שלהן ולתמוך בעולם ללא אפליה.
מהפך היסטורי עבור IBM
IBM החליטה להפסיק את כל המחקר והפיתוח בתחום ההכרה הפנים, טכנולוגיה שהיא קידמה בעבר. המנכ"ל, ארווינד קרישנה, הודיע על שינוי זה באמצעות מכתב שנשלח לקונגרס האמריקאי. התהפכות זו מתייצבת כהערכה חריפה נגד שימושים שנחשבים לאפליה, במיוחד הפרופיל הגזעי.
עבר שנוי במחלוקת
ב-2018, IBM שיתפה פעולה עם המשטרה של ניו יורק כדי ליצור אלגוריתם שיכול לזהות פרטים לפי קריטריונים שונים. פרויקט זה עורר דאגות חמורות לגבי הטיות גזעיות, מכיוון שטכנולוגיות כאלו רק מעמיקות את האי-שוויון הקיים. בהצהירה כי הפיתוח שלה התחיל על בסיסים אתיים מעורערים, IBM repositioning עתה את דימויה.
ערכים מחודשים
במסמך שלו, ארווינד קרישנה מצהיר כי החברה לא תסבול שימוש בטכנולוגיות של הכרה פנים למטרות ביתור המון. יתרה מכך, הוא מדגיש את החשיבות של כיבוד הזכויות וחירויות יסוד של הפרטים. שינוי זה הוקדם על ידי תנועת חיים שחורים חשובים והשלכות טראגיות של מותו של ג'ורג' פלויד.
מחויבות לגיוון
IBM כבר נקטה צעדים כדי למזער את ההטיות בתוכנות שלה. החברה התחייבה לשפר את מאגרי הנתונים שלה כדי שיהיו יותר מייצגים של האוכלוסייה הכללית. הרצון הזה לגיוון הוא חיוני כדי להקטין את ההפליה המובנה טכנולוגיות אלו. מאמצים אלו מראים רצון אמיתי להימנע מהטיות גזעיות בתהליכי קבלת החלטות.
ברית לרגולציה
במרץ 2020, IBM הצטרפה למיקרוסופט ולוותיקן בדרישה לרגולציה קשוחה על השימוש בהכרה פנים. קואליציה רב-מפלגתית זו נועדה ללחוץ על הממשלות לכונן רגולציה על טכנולוגיות אלו שמעוררות שאלות אתיות חשוביות. עמדתה של IBM מזכירה שהטכנולוגיה צריכה להיות בשימוש אחראי, ובכך לכבד את זכויות כולם.
מסר לרשויות האמריקאיות
IBM שולחת מסר ברור למוסדות הממשלתיים עם החלטה זו. החברה מתמקדת בפתיחת דיון לאומי על השימוש בהכרה פנים על ידי שירותי המדינה. שינוי זה מלווה בדרישה מפורשת לבחינה מחודשת של שיטות הבקרה המסורתיות.
לכיוון עידן חדש של אתיקה טכנולוגית
IBM מסיימת פרק שנוי במחלוקת, תוך הצבת ערכיה הבסיסיים במרכז האסטרטגיה שלה. ויתור זה על הכרה פנים ממחיש מחויבות גדולה נגד האפליות ומקדמה דיון רחב יותר על ההשפעה החברתית של הטכנולוגיות. עולם הטכנולוגיה עוקב עכשיו אחרי דוגמת IBM, קורא לרגולציה רתחית ולחברה הוגנת יותר.
שאלות נפוצות על ויתור IBM על הכרה פנים
מדוע IBM החליטה להפסיק את הפיתוח של הכרה פנים?
IBM החליטה להפסיק את פעילותיה בתחום הכרה הפנים בשל דאגות קשר לפוטנציאל השימוש בטכנולוגיה זו לפרופיל גזעי, בקרת המונים והפרות של זכויות האדם.
מה ההשפעה של מותו של ג'ורג' פלויד על החלטה זו?
מותו של ג'ורג' פלויד הוקדם את החלטת IBM לוותר על הכרה הפנים, והדגיש את הדאגות החברתיות לגבי השימוש בטכנולוגיה זו וההשלכות הגזעיות שלה.
האם IBM היא החברה היחידה שמוותרת על הכרה פנים?
לא, IBM אינה החברה היחידה. חברות וארגונים ברחבי העולם החלו גם הם לשוב על השימוש בהכרה פנים ככל שההפגנות נגד האפליות הגזעיות התגברו.
אילו סוגי הטיות גזעיות מקושרות לטכנולוגיית הכרה פנים?
מערכות הכרה פנים עשויות להיות בעלות הטיות גזעיות בשל איכות והגיוון של הנתונים הנמצאים בשימוש לאימון שלהן, مما يؤدي לאי דיוקים בזיהוי אנשים, במיוחד בקרב קבוצות מיעוט.
אילו צעדים נקטה IBM כדי למנוע את ההטיות בתוכנות שלה לפני החלטה זו?
قبل أن تقرر وقف تطوير التعرف على الوجه ، التزمت IBM بتقديم أدوات تهدف إلى تقليل الانحيازات في برامجها من خلال العمل على قواعد بيانات أكثر تمثيلا للسكان.
هل تريد IBM التأثير على اللوائح المتعلقة بالتعرف على الوجه؟
نعم ، أعربت IBM عن رغبتها في استخدام نفوذها لبدء حوار وطني في الولايات المتحدة بشأن الممارسات واستخدام تقنية التعرف على الوجه من قبل وكالات إنفاذ القانون.
מה הם העקרונות האתיים ש-IBM רוצה לקדם על ידי ויתור על טכנולוגיה זו?
IBM שואפת לקדם ערכים של אמון ושקיפות, תוך התנגדות נחרצת לכל שימוש בטכנולוגיית ההכרה הפנים שעשוי לפגוע בזכויות ובחירויות היסוד של הפרטים.
איך ההחלטה הזו יכולה להשפיע על שוק טכנולוגיית ההכרה הפנים?
ההחלטה הזו עשויה להניע חברות אחרות לשקול מחדש את השימוש בהכרת הפנים, והיא יכולה גם לחזק קריאות לרגולציה מוגברת של השימוש בה, במיוחד בתחומים רגישים הקשורים לזכויות האדם.