הממשלה הבריטית לא מצליחה לרשום את השימוש בבינה מלאכותית ברישום החובה

החוסר ברישום של מערכות בינה מלאכותית על ידי הממשלה הבריטית מעורר שאלות קשות לגבי שקיפות ואחריות. היעדר רגולציה בתחום שבו טכנולוגיות כבר משפיעות על מיליוני חיים מפצל את המומחים. הרשויות חייבות לפעול במהירות כדי להקים מסגרת ברורה ולמנוע מהמצב הזה להתדרדר לקריסת טכנולוגיה אמיתית. ההשלכות של מחדל כזה משפיעות על תחומים מכריעים כמו ביטחון הציבור, זכויות פרט וניהול משאבים. הדחיפות של רישום כזה הופכת לחשובה ביותר להבטחת אימוץ מושכל של בינה מלאכותית בשירותים הציבוריים.

חוסר רישום של מערכות בינה מלאכותית

שום מחלקה בווייטהול לא רשמה את השימוש במערכות בינה מלאכותית (ב"מ) מאז שהממשלה הודיעה כי זה יהיה מחייב. החוסר ברישום מעורר חששות, כאשר חלק מזהירים שהמגזר הציבורי Navigates.cljs בדרך עיוורת מול יישום טכנולוגיות אלגוריתמיות השפועות על מיליוני חיים.

שימוש נוכחי בבינה מלאכותית

הממשלה כבר משתמשת בבינה מלאכותית כדי להנחות החלטות הקשורות לתשלומי הטבות, אכיפת הגירה ועוד סוגיות קשות. חוזים הוקצו לגופים ציבוריים שונים לשירותים הקשורים לבינה מלאכותית, כמו חוזה לזיהוי פנים במאגר פוטנציאלי של עד 20 מיליון ליש"ט, מה שחדש את החששות לגבי מעקב ביומטרי בהמוניו.

רישום מוגבל של מערכות אלגוריתמיות

עד כה, רק תשעה מערכות אלגוריתמיות הוגשו לרישום ציבורי, בעוד תוכניות רבות של בינה מלאכותית בשימוש במערכת הרווחה, במשרד הפנים או על ידי כוחות המשטרה נשארות לא מדווחות. המחסור במידע הזה הוא מדאיג במיוחד, כיוון שהממשלה הצהירה בפברואר כי השימוש ברישום הזה יהפוך לדרישה עבור כל המחלקות הממשלתיות.

סיכונים הקשורים לאימוץ לא מוסדר

מומחים מזהירים מפני הסכנות של אימוץ לא ביקורתי של בינה מלאכותית. דוגמות עדכניות מראות שמערכות מחשב נכשלו בהפקת התוצאות המצופות, כפי שנראה עם תוכנת Horizon של דואר הבריטי. צל של ביצוע לקוי רודף גם כלים אחרים של בינה מלאכותית הנמצאים בהליך ניסויי.

קריאה לשקיפות

פיטר קייל, שר המדע והטכנולוגיה, הכיר בכך שהמגזר הציבורי לא העניק מספיק חשיבות לשקיפות סביב השימוש באלגוריתמים על ידי הממשלה. הוא טוען כי אם הממשלה משתמשת בטכנולוגיות אלו, הציבור זכאי לדעת כיצד הן מיועדות, ומדגיש את חשיבות הגברת הנראות.

חששות שעלו מקבוצות הגנה על זכויות

Big Brother Watch, קבוצת הגנה על זכויות הפרט, דיווחה כי הענקת חוזה לזיהוי פנים לכנופיות המשטרה, למרות אזהרות מחברי פרלמינט על חוסר רגולציות, מדגישה את החוסר בשקיפות של הממשלה בתחום הבינה המלאכותית. טכנולוגיות אלגוריתמיות בשימוש סודי עלולות לפגוע בזכויות המידע של האזרחים.

השלכות של חוסר שקיפות

המכון אדה לובלייס הזהיר לאחרונה כי בעוד שמערכות בינה מלאכותית יכולות להקל על ניהול מנהלי, הן יכולות גם לפגוע באמון הציבור ולהפחית את היתרונות אם התחזיות שהן מפיקות הן ה-discriminatory או לא יעילות.

סטטוס הרישום הלאומי

מאז סוף שנת 2022, רק שלושה אלגוריתמים נרשמו ברמה הלאומית. רישום זה כולל מערכת שמשתמשת על ידי משרד הקבינט לזיהוי ארכיונים דיגיטליים, מצלמה מונעת בבינה מלאכותית לניתוח מעברי חצייה בקיימברידג', ומערכת לניתוח משוב של מטופלים על שירותי ה-NHS.

חוזי בינה מלאכותית חדשים שניתנים לאחרונה

לפי Tussell, 164 חוזים המזכירים את הבינה המלאכותית נחתמו עם גופים ציבוריים מאז פברואר. חברות טכנולוגיה כמו מיקרוסופט ומטה מקדמות בלהט את אימוץ המערכות שלהן בבינה מלאכותית דרך הממשלה. Google Cloud מימנה דוח שמציע שאימוץ גדול יותר של בינה מלאכותית יוכל לייצר חיסכון של עד 38 מיליארד ליש"ט במגזר הציבורי עד 2030.

דוגמאות לשימוש במערכות בינה מלאכותית על ידי הממשלה

משרד העבודה והפנסיות

משרד העבודה והפנסיות (DWP) משתמש בבינה מלאכותית כדי לנתח יום יום יותר מ-20,000 מסמכים כדי לסכם את ההתכתבויות הרלוונטיות. גישה זו מאפשרת לשתף מידע קרדינלי עם הסוכנים האחראים על ההחלטות.

משרד הפנים

משרד הפנים עושה שימוש במערכת אכיפת ההגירה המופעלת בבינה מלאכותית. מערכת זו, העוברת על ידי חלקים מסוימים כ"אסיסטנט רובוטי", משפיעה על החלטות הקשורות להחזרה של פרטים למדינתם. על אף שהממשלה מציגה אותה ככזה המבוסס על חוקים, היא מעוררת חששות לגבי אחריות אנושית בכל החלטה.

שימוש על ידי המשטרה

כוחות המשטרה משתמשים בתוכנות זיהוי פנים כדי לזהות חשודים. זאת ציפתה לחששות בנוגע להתרבות הרחובות הבריטיים לכאלה של מחנות טכנולוגיים.

שיתוף פעולה עם ה-NHS

NHS אנגליה חתם על חוזה של 330 מיליון ליש"ט עם Palantir כדי ליצור פלטפורמת נתונים חדשה. שיתוף פעולה זה עורר חששות לגבי פרטיות המטופלים, על אף ש-Palantir מבטיחה כי שליטת המידע נשמרת בידיים של לקוחותיה.

פיתוח צ'אט-בוטים

צ'אט-בוט המופעל בבינה מלאכותית נמצא בתהליך ניסוי לסייע למשתמשים לנווט באתר gov.uk. פרויקט זה, המפותח על ידי שירות הדיגיטלי של הממשלה, עושה שימוש בטכנולוגיה ChatGPT של OpenAI.

שאלות נפוצות על רישום הבינה המלאכותית על ידי הממשלה הבריטית

למה הממשלה הבריטית לא רשמה את השימוש בבינה מלאכותית ברישום המחייב?
הממשלה הודיעה כי הרישום יהיה מחייב, אך עד כה אף מחלקה לא רשמה את השימוש במערכות בינה מלאכותית, מה שמעורר חששות בנוגע לשקיפות ולשליטת האלגוריתמים בשימוש במגזר הציבורי.
מהן ההשלכות של חוסר הרישום של מערכות בינה מלאכותית?
חוסר הרישום exposes את הציבור לממשלות אטומות, שבהן Entscheidungen משפיעות על מיליוני אזרחים מתקבלות ללא פיקוח או הבנה, מה שמסכן את החברה להטיות ולשגיאות פוטנציאליות בשימוש בטכנולוגיות.
אילו מערכות בינה מלאכותית בשימוש הממשלה הבריטית ללא רישום?
למרות מיליוני חוזים שנחתמו לשירותי בינה מלאכותית, רק תשעה מערכות בינה מלאכותית נרשמו, והשאירו תוכניות בתחומים כמו רווחה והגירה לא מתועדות.
אילו חלקים מהממשלה הבריטית משתמשים בטכנולוגיות בינה מלאכותית ללא שקיפות?
מחלקות שונות, כולל משרד הקבינט, משרד הפנים ומשרד העבודה והפנסיות, משתמשות במערכות בינה מלאכותית למשימות קריטיות כמו קבלת החלטות בהגירה ובדיקות הונאה, מבלי לחשוף את השימושים הללו לציבור.
איך שקיפות בשימוש בבינה מלאכותית משפיעה על אמון הציבור?
שקיפות חיונית לכך שהציבור ירגיש בטוח לגבי השימוש בנתוניו. ללא מידע ברור, האמון פוחת, מה שעלול להוביל להססנות לקבל את אימוץ הבינה מלאכותית בשירותים הציבוריים.
אילו צעדים הממשלה מתכננת לנקוט כדי להבטיח את רישום הבינה המלאכותית?
הממשלה הבטיחה כי שקיפות ורישום מערכות הבינה המלאכותית יהפכו למחייבים, אך פרטים ספציפיים על יישום צעדים אלו נותרו מעורפלים ועדיין לא הועלו על הכתב.
מה דעת המומחים על מצבה הנוכחי של הבינה המלאכותית במגזר הציבורי?
המומחים מדגישים כי החוסר ברישום הולם מהווה סיכון משמעותי, שעלול להוביל להחלטות לא שיוויוניות ולהידרדרות של אמון הציבור, בנוסף לקריאות לרמות שקיפות גבוהות יותר בשימוש בטכנולוגיות אלו.
האם יש דוגמאות קונקרטיות לבעיות שנגרמו עקב חוסר רגולציה על הבינה המלאכותית?
כן, תקלות כמו הטעויות של תוכנת Horizon של דואר הבריטי מדגימות את הסכנות של פריסה לא מוסדרת, מה שמוביל לתוצאות חמורות עבור אנשים מעורבים.
מהן הפעולות שניתן לנקוט על ידי הציבור בנוגע לשימוש בבינה מלאכותית על ידי הממשלה?
הציבור יכול לדרוש דין וחשבון מהנציגים הנבחרים ולקדם חקיקה המובילה לרישום ושקיפות במערכות בינה מלאכותית בשימוש במגזר הציבורי.