המסגרת החדשה של DHS לאחריות על השימוש בבינה מלאכותית מהווה שדרוג משמעותי בפני מזיקים שמתפתחים continually. ההנחיות הללו מיועדות לשלב את ה-AI בביטחון תשתיות קריטיות, ומביאות להגנה מוגברת על שירותים חיוניים. גיוס של שחקנים פרטיים, ציבוריים וחברות אזרחיות מתברר כדרישת חובה על מנת להתמודד ביעילות עם הסיכונים הקשורים לAI.
אחריות ברורה למערכת ה-AI מבטיחה את הביטחון ואת היעילות המבצעית של תשתיות חיוניות.
שיתוף פעולה חיוני בין סקטורים, בתחום ה-AI, נדרש כדי להבטיח תוצאות ממשיות וברות קיימא.
שילוב ה-AI הוא אבטחת העתיד של השירותים שעליהם החברה כולה מתבססת מדי יום.
המסגרת של DHS עבור הבינה המלאכותית
המחלקה לביטחון הפנים (DHS) הודיעה לאחרונה על נוהל חדש במטרה לחזק את הביטחון של תשתיות קריטיות על ידי שילוב הבינה המלאכותית (AI). טקסט זה, הנושא את הכותרת “Roles and Responsibilities Framework for Artificial Intelligence in Critical Infrastructure”, מציע סדרה של אחריות מרצון עבור השחקנים השונים ב-16 תחומים של תשתיות קריטיות בארצות הברית.
ממוקדים באחריות קונקרטיות
האחריות המוגדרת בהנחיה זו מחולקת לחמישה קבוצות עיקריות: ספקי תשתיות ענן ומחשוב, מפתחי AI, בעלי ומפעילי תשתיות קריטיות, החברה האזרחית והסקטור הציבורי. מסגרת זו מיועדת לקבוע שיתוף פעולה יעיל ולהבטיח שימוש בטוח ב-AI בתשתיות חיוניות.
שאלות המיועדות ע"י ההנחיות
ההנחיות מכסות מגוון רחב של נושאים, כולל סביבות ענן, תכנון מודלים ומערכות AI, ממשלת נתונים, כמו גם שיקולי יישום. תשומת לב מיוחדת מוקדשת לניטור השימוש ב-AI בתוך תשתיות קריטיות. המסגרת פותחה בעזרת הוועדה לביטחון וביטחון AI של DHS.
מעורבות התעשייה
השר DHS, אלחנדרו מאיורקאס, הדגיש את המעורבות המרצון של התעשייה בפיתוח מסגרת זו. לדבריו, המסמך אינו מוגבל לתיאוריות אבסטרקטיות, אלא מהווה מדריך מעשי שנועד להיות מיושם כדי להבטיח את הביטחון והבטיחות של התשתיות.
הסיכונים הקשורים ל-AI
סוכנות הביטחון הסייברי והתשתיות (CISA) זיהתה שלוש קטגוריות סיכון הקשורות ל-AI עבור תשתיות קריטיות: התקפות המשתמשות ב-AI, התקפות המכוונות לשימוש בו ונכשלים הקשורים בתכנון וביישום. אתגרים אלו דורשים עירנות מוגברת, מכיוון ששירותים חיוניים תלויים בפעולה תקינה של ה-AI.
המלצות לסקטור הציבורי
עבור סוכנויות ממשלתיות, המסגרת ממליצה להבטיח שהגופים הפרטיים מגנים כראוי על זכויות הפרטים והקהילות. הממשלות צריכות לנצל את ההזדמנות המוצעת על ידי החוק כדי לקדם סטנדרטים ל-AI. זה מתבטא בחובה להגן על זכויות יסוד בו זמנית עם קידום חדשנות.
פרוייקטי פיילוט של DHS
ה-DHS גם קידם את פרוייקטי הפיילוט שלו בנוגע ל-AI. יוזמות אלו הראו יכולות מרשימות לקידום משימות ה-DHS, כמו שימוש בבינה מלאכותית גנרטיבית כדי לאמן סוכני הגירה. פרויקט זה הוקדש אך ורק להכשרה, ללא השפעה על החלטות התאמה.
המסגרת מול שינויים פוליטיים
למרות החששות לגבי העתיד של ההנחיות בתוך הממשלה הפדרלית, מאיורקאס מדגיש את ההתמשכות של המסגרת הזו. ההנהלה חייבת לעמוד במנהגים הנתמכים על ידי חברי ועדת הביטחון של ה-AI, ובכך להבטיח עקביות ביישום ההמלצות.
שילוב וגמישות של מודלים
פרויקט פיילוט נוסף של DHS אפשר ל-Homeland Security Investigations לנצל מודלים בלשניים רחבים על מנת לשפר את היעילות של דיווחים. מודלים אלו בקוד פתוח מספקים את הגמישות הנדרשת לניסוי והערכה של היעילות. גישה innovativית זו עשויה להפוך לדוגמה עבור סוכנויות נוספות.
לקחים להבא
לקחים שנלמדו מהפרוייקטים הפיילוטים, כמו אלו של סוכנות ניהול החירום הפדרלית (FEMA), ממחישים את החשיבות של
עבודת ניסיון מטעם המשתמשים. זה מדגיש את הצורך להגביר את המודעות של השחקנים המקומיים לגבי AI, מה שמוכיח שהוא חיוני לשילוב טכנולוגיות אלו בתוך התהליכים הקיימים.
שאלות נפוצות לגבי אחריות מעשית של AI לאבטחת תשתיות קריטיות על ידי DHS
מהן אחריות העיקריות ש-DHS מציע עבור השימוש ב-AI בתשתיות קריטיות?
DHS הגדיר אחריות המחולקות בין חמישה קבוצות: ספקי תשתיות ענן, מפתחי AI, בעלי ומפעילי תשתיות קריטיות, החברה האזרחית וסקטור ציבורי, במטרה להבטיח שימוש בטוח ב-AI ב-16 תחומי תשתיות קריטיות בארצות הברית.
איך DHS פיתח את ההנחיות שלו עבור AI בתחום ביטחון התשתיות הקריטיות?
ההנחיות פותחו בשיתוף פעולה עם מועצת הביטחון והסדר של ה-AI של DHS, הכוללת נציגים מחברות טכנולוגיה גדולות, כמו גם חברי החברה האזרחית ונציגים ממשלתיים, ובכך מבטיחה גישה מעשית וברת ביצוע.
אילו סיכונים שקשורים ל-AI DHS מזהה לגבי תשתיות קריטיות?
DHS זיהה שלוש קטגוריות עיקריות של סיכונים הקשורים ל-AI עבור תשתיות קריטיות: התקפות שמשתמשות ב-AI, התקפות המכוונות לשימוש ב-AI, וכשלים בתכנון וביישום של המערכות AI.
איך הסקטור הציבורי צריך להשתמש ב-AI בהתאם למסגרת של DHS?
הסקטור הציבורי חייב להבטיח שהגופים מהסקטור הפרטי מגנים על זכויות הפרטים והקהילות, תוך שימוש ב-AI באופן אחראי כדי לשדרג את פעולתה של תשתיות קריטיות ולהימנע משימוש שעלול לגרום לתוצאות מפלות.
האם המסגרת של DHS מטילה חובות חוקיות על השימוש ב-AI בסקטור הפרטי?
ההנחיות המוצעות על ידי DHS הן בעיקר מרצון ומיועדות לעודד את הפרקטיקות הטובות ביותר. עם זאת, הם מאפשרים גם לסוכנויות政府יות להשתמש בחוק ובסדר כדי לקדם את הסטנדרטים של AI, תוך הגנה על זכויות יסוד של הפרטים.
אילו תועלות DHS מקווה להשיג מאימוץ ההנחיות שלו בנוגע ל-AI?
DHS שואף לחזק את הביטחון והבטיחות של תשתיות קריטיות על ידי התאמת פרקטיקות ה-AI, כך שניתן יהיה לשדר מידע ולשתף פעולה בין הממשלה והסקטור הפרטי בחזקה והגנה על תשתיות אלו מפני איומים.
מדוע קריטי עבור בעלי תשתיות קריטיות להבין את הפגיעויות הקשורות ל-AI?
הבנה של פגיעויות אלו היא חיונית עבור בעלי ומפעילי תשתיות קריטיות, מכיוון שזה מסייע להם להגיב בצורה אפקטיבית לאיומים פוטנציאליים ולהבטיח את המשכיות של השירותים שעליהם הציבור תלוי מדי יום.
