הארי ומייגן חושפים עמדה נועזת על עלייתה של הבינה המלאכותית. קריאתם לאיסור על מערכות בעלות אינטיליגנציה על-אנושית מעוררת חששות אתיים עמוקים. מומחים, כולל זכאי פרס נובל, מצטרפים ליוזמה זו, חושפים סוגיות מסוכנות עבור האנושות. ההצהרה שעולה מקולקטיב זה מדגישה את הצורך הדחוף בחיזוק הרגולציה של טכנולוגיות מתקדמות. הסיכון לאינטליגנציה על-אנושית ללא כל שליטה יכול לערער את החברה שלנו.
קריאה לאיסור על הבינה המלאכותית העל-אנושית
הארי ומייגן, הדוכס והדוכסית מסאסקס, הצטרפו לפיונירים של בינה מלאכותית (ב"מ) ולזוכי פרס נובל בדרישה לאיסור על פיתוח מערכות בינה מלאכותית על-אנושיות. הזוג המלכותי הוא חלק מהחתומים על הצהרה הדורשת הפסקה מוחלטת של מחקר זה עד שמדע רחב יסכים על פיתוח בטוח וניתן לשליטה של הבינה המלאכותית.
סכנות הבינה המלאכותית העל-אנושית
המונח "בינה מלאכותית על-אנושית" (במ"א) מתייחס למערכות בינה מלאכותית אשר, תיאורטית, עוברות את האינטליגנציה האנושית בכל התחומים הקוגניטיביים. החתומים מזהירים כי הפצת מערכות כאלה עלולה לגרום לתוצאות קטסטרופליות, כולל אובדן משרות עבור אנשים ופגיעות בזכויות האזרח. דמויות כמו ג'פרי הינטון ויושוע בן-גיו, שתי דמויות בולטות בעולמות הבינה המלאכותית, מדגישות שפיתוח במ"א צריך להיות מושעה עד שתצורף הסכמה איתנה על בטיחותו.
תגובה לחששות הציבור
הצהרה זו, המיועדת לממשלות, חברות טכנולוגיה ומחוקקים, היא תוצר של יוזמה של המכון לעתיד החיים (FLI), ארגון אמריקאי המוקדש לבטיחות הבינה המלאכותית. עם עליית הטכנולוגיות כמו ChatGPT, השאלה של הבינה המלאכותית הפכה לנושא פוליטי מרכזי. סקר אחרון גילה שכמעט 75% מהאמריקאים תומכים ברגולציה מחמירה על בינה מלאכותית מתקדמת. אכן, שישה מתוך עשרה אמריקאים סבורים שלא צריך לפתח אינטיליגנציה על-אנושית עד שתוכח בטיחותה.
פרספקטיבות מומחי הבינה המלאכותית
מרק צוקרברג, המנכ"ל של Meta, הצהיר ביולי האחרון כי פיתוח הבע"מ יהיה "כעת בהישג יד". עם זאת, מומחים מאותתים, מצביעים על כך שהדיבורים סביב הבע"מ לעיתים קרובות מונעים על ידי אינטרסים תחרותיים והשקעות מסיביות בתחום הבינה המלאכותית. ה-FLI מזהיר כי פיתוח הבמ"א בעשור הקרוב עלול להוביל לסדרה של איומים חמורים, החל מאוטומציה המונית של משרות ועד לסיכונים לביטחון לאומי.
הפרות פוטנציאליות של רגולציה בתחום הבינה המלאכותית
חברות הבינה המלאכותית האמריקאיות הגדולות, כמו OpenAI וגוגל, מתחייבות לפתח מה שהן קוראות "בינה מלאכותית כללית" (AGI), מצב תיאורטי שבו הבינה המלאכותית מחקה את האינטליגנציה האנושית במספר משימות קוגניטיביות. כמה מומחים מצביעים על כך שהתפתחות זו, אם כי היא מצויה מתחת לרמה של במ"א, עשויה גם לגרום לסיכונים קיומיים, שכן היא עשויה לשפר את עצמה ולשאוף לרמות של אינטיליגנציה על-אנושית. הלחצים של החברות כדי להגיע למטרה זו עלולים להזיק לחברה.
תגובות מגורמים בתעשייה ובחברה האזרחית
העמדה של הארי ומייגן, כמו גם של אחרים, חושפת נוף של דאגה גוברת כלפי יכולות הבינה המלאכותית. התעשייה הטכנולוגית חייבת להגיב לחששות שהעלתה החברה האזרחית. הצורך ברגולציה גובר, במיוחד לאחר אירועים אחרונים הקשורים להפרות הבינה המלאכותית, כמו החקירה על נבידיה או הדיון על הצ'אטבוט של סנאפצ'ט.
ההשלכות של אינטיליגנציה על-אנושית מעלות שאלות אתיות יסודיות. הוויכוח הזה הופך לקריטי בזמן שהעולם מתמודד עם האתגרים שהביאה הבינה המלאכותית. החששות של רוב הציבור האמריקאי משתלבים עם אלו של המומחים; יש צורך להשגיח על הפיתוח המהיר והבלתי מוסדר של טכנולוגיות הבינה המלאכותית.
שאלות נפוצות על איסור מערכות על-אנושיות
מדוע הארי ומייגן קוראים לאסור על פיתוח הבינה המלאכותית העל-אנושית?
הארי ומייגן, כחתומים על הצהרה, מדגישים את הסיכונים הפוטנציאליים שהבינה המלאכותית העל-אנושית מציגה עבור האנושות, במיוחד בשאלות של ביטחון, משרות וחלוקות אזרחיות, וקוראים להסכמה מדעית על פיתוח בטוח שלה.
מהי הבינה המלאכותית העל-אנושית (במ"א)?
הבינה המלאכותית העל-אנושית מתייחסת למערכות בינה מלאכותית שעשויות לעבור את האינטליגנציה האנושית בכל המטלות הקוגניטיביות, תוצאה טכנולוגית שעדיין לא הושגה.
מי עוד חתם על ההצהרה לצד הארי ומייגן?
בין החתומים נמצאים פיונירים של הבינה המלאכותית כמו ג'פרי הינטון ויושוע בן-גיו, כמו גם דמויות ציבוריות כמו סטיב ווזניאק, ריצ'רד ברנסון ואגדת הביטחון הלאומי סוסן רייס.
מהי המטרה העיקרית של ההצהרה שעליה חתמו הארי ומייגן?
המטרה העיקרית של הצהרה זו היא לבקש איסור על פיתוח הבינה המלאכותית העל-אנושית עד שיהיה קונסנזוס מדעי רחב על ביטחונה ושהציבור יתמוך בפיתוחה.
מהן החששות שמופיעות על ידי הבינה המלאכותית העל-אנושית, לפי החתומים?
החששות כוללות את הסיכון לאובדן משרות, פגיעות בחלוקות אזרחיות, איומים על הביטחון הלאומי, ואפילו הסיכון להכחדה של האנושות בשל חוסר היכולת לשלוט במערכות בינה מלאכותית כאלה.
האם יש נתונים על דעת הציבור בנושא הבינה המלאכותית העל-אנושית בארצות הברית?
סקר אמריקאי גילה שכמו שלוש רבעים מהאזרחים מעוניינים ברגולציה מחמירה על הבינה המלאכותית המתקדמת, כש-60% מהם מתנגדים לפיתוח אינטליגנציה על-אנושית כל עוד ביטחונה לא הוכח.
מדוע מספר מומחים מבקרים את הפיתוח של הבינה המלאכותית העל-אנושית?
מספר מומחים סבורים שהדיון סביב הבינה המלאכותית העל-אנושית נובע יותר מתחרות בין חברות טכנולוגיה מאשר כל התקדמות טכנית קרבה, ומציעים שהדאגות מוכפלות על ידי אינטרסים עסקיים.
מהי העמדה הנוכחית של חברות בינה מלאכותית גדולות כמו OpenAI וגוגל בנושא?
חברות אלו מכוונות במפורש לפתח בינה מלאכותית כללית, שהיא, אף כי נמצאת ברמה פחותה מבינה מלאכותית על-אנושית, עשויה גם לחשוף את החברה לסיכונים קיומיים.
