חקר חושף את השימוש בכלי AI פגום על ידי DOGE, ומגלה בעיות מדאיגות בהקצאת חוזים למשרד לענייני וטרנים. מצב זה מעורר שאלות לגבי היעילות של אינטליגנציה מלאכותית בתחומים כה רגישים. ה-AI, שנועד למקסם החלטות, נתקל בכשלים חמורים וגרם לסיכונים לביטחון הווטרנים.
חוזים חיוניים בסכנה בגלל החלטות אוטומטיות לא מדויקות. תוצאות מזיקות צפויות על איכות הטיפול, כאשר טכנולוגיה לא מתאימה חודרת לאנושיות. היעדר קריטריונים ברורים והבנה של האתגרים הופך את היוזמה הזו למקור לדאגות עיקריות.
כלי AI פגום בתוך DOGE
חקר לאחרונה הבהיר את השימוש בכלי אינטליגנציה מלאכותית פגום על ידי DOGE, בניסיון להשיג חוזים ממשרד לענייני וטרנים. הכלי, שפיתח המהנדס סאהיל לאבינגיה, היה צריך לנתח חוזים על ידי זיהוי אלה שנחשבים ל"מנשלים", כלומר מיותרים למשימה העיקרית של הסוכנות.
ההחלטות השגויות של ה-AI
לאבינגיה הכיר בכך שהמערכת של ה-AI לא נועדה לקבל החלטות כאלה, והודה כי השגיאות נעשו. קוד ה-AI התמקד בבחינת 10,000 התווים הראשונים של החוזים, מה שהוביל לסיווג של מסמכים חיוניים כ"מנשלים" ללא הבחנה אמיתית. הגבלה זו גרמה להערכות שגויות לגבי חוזים חיוניים הקשורים לביטחון ולתקשורת עם הווטרנים.
מונחים מעורפלים ושיטה לא מתאימה
תפיסות שגויות נובעות גם מהיעדר הגדרה למונחים מפתח כמו "טיפול רפואי בסיסי" או "הטבות". חוסר הדיוק הזה הוביל להוראות מעורפלות שה-AI פירש לא נכון. לדוגמה, כאשר היא נתבקשה "לשקול אם המחירים נראים סבירים" עבור חוזי תחזוקה, היעדר קריטריונים ברורים גרם להערכות פיקטיביות, לפעמים מופרזות.
ההשלכות על הווטרנים
בחודש פברואר, ה-VA תכנן לבטל 875 חוזים, שנועדו להבטיח שירותים חיוניים עבור הווטרנים. מגיני ענייני הווטרנים הביעו את דאגותיהם, תוך שהם מצביעים על ההשלכות הפוטנציאליות הקטלניות עבור ביטחון המתקנים הרפואיים. הקשר הלחיץ הדגיש את חוסר התקשורת בין יועצי ה-DOGE ואנשי ה-VA. בלבול זה הוליד סקירה של ההחלטות, מה שהפחית לבסוף את מספר החוזים המבוטלים במרץ לכ-585, עם הפניית קרוב ל-900 מיליון דולר לסוכנות.
המגבלות של הטכנולוגיה הנמצאת בשימוש
הטכנולוגיה שהשתמשו בה התבססה על מודל AI כללי, שנחשב לא מתאים למשימות מורכבות הקשורות לענייני וטרנים. קארי קוגליאנז, פרופסור באוניברסיטת פנסילבניה, הדגיש שהבנה של מה שאפשר להשיג על ידי עובד ה-VA דורשת ידע מעמיק בטיפול רפואי ובניהול מוסדי. ה-AI, בנכשלו לתפוס את האלמנטים הללו, גרם להפרעות.
ההשלכות על הצוות והארגון
לאחר כ-55 ימים בשירות ה-DOGE, לאבינגיה פוטר לאחר שחשף חלק מהחלטותיו לעיתונאים. חוסר הידע המוסדי אצל כמה מהמהנדסים החיצוניים גם תרם לשגיאות השיפוט. המצב הזה הדגיש את האתגרים שמולו מתמודדים הרבה מהחדשים בחברות מול ה-AI והעלה שאלות לגבי הממשלתיות ואתיקה של השימוש במערכות אוטומטיות בסביבות רגישות.
בורות ה-DOGE בהערכה וביישום של כלי AI אלו מעלה שאלות עמוקות על עתיד טכנולוגיות כאלה בתוך הממשלות, ודורש בדיקה מחודשת ועדכון של הפרקטיקות הנוכחיות.
שאלות תכופות על החקירה בנוגע לשימוש בכלי AI פגום על ידי DOGE על מנת להשיג חוזים אצל משרד לענייני וטרנים
איזה סוג של חוזים הושפעו מהשימוש ב-AI הפגום?
החוזים המושפעים כוללים משימות הקשורות לבדיקות ביטחוניות במתקנים הרפואיים של ה-VA, תקשורת ישירה עם הווטרנים בנוגע להטבותיהם, וגיוס רופאים.
מי היה אחראי לתכנות ה-AI שהשתמש בו DOGE?
המהנדס סאהיל לאבינגיה היה אחראי לתכונת ה-AI, שפיתח את הכלי להערכת חוזים בהתבסס על הרלוונטיות שלהם לתמיכה בטיפול בחולים.
אילו שגיאות עשה ה-AI בעת הערכת החוזים?
ה-AI העריך לא נכון את החוזים על ידי כך שחשב רק את 10,000 התווים הראשונים והשתמש בהגדרות מעורפלות מבלי להבהיר מונחים קריטיים, מה שהוביל להחלטות שגויות לגבי מה שנחשב ל"מנשל".
אילו השלכות נבעו מהשימוש בכלי ה-AI הפגום?
ההשלכות כוללות את ביטול חוזים חשובים, מה שגרם לדאגות בין מגיני הווטרנים בנוגע לביטחון ולאיכות הטיפול הניתן.
אילו צעדים ננקטו על ידי ה-VA לתקן את המצב?
ה-VA הפחית את מספר החוזים המבוטלים מ-875 לכ-585 והפנה כ-900 מיליון דולר לסוכנות למשימות שאינן קריטיות או חוזים מיותרים.
מדוע זה בעייתי שה-AI נוצר על בסיס מודל ישן?
השימוש במודל AI כללי ישן הוביל לשגיאות "הזיה", בהן ה-AI ייצר הערכות חסרות בסיס לגבי חוזים, לעיתים שהוערכו במיליונים בעוד שבפועל היו שווים אלפי דולרים.
מי היה מעורב בהערכת החוזים "המנשלים" לאחר השימוש ב-AI?
למרות השימוש ב-AI הפגום, לאבינגיה טען שכל החוזים שהוזכרו כ"מנשלים" עברו בדיקה על ידי אנשים אחרים כדי למנוע החלטות שגויות.
מה היו החששות של המומחים לגבי יכולת ה-AI להעריך חוזים?
המומחים הדגישו שההערכה של משימות שניתן לבצע על ידי עובדים של ה-VA דרשה הבנה מתקדמת של טיפול רפואי וניהול מוסדי, יכולות שה-AI לא החזיק בהן.
