צ cybersecurity של ה-AI: 18 מדינות מתאחדות, עדיפות לבטיחות

Publié le 23 פברואר 2025 à 09h10
modifié le 23 פברואר 2025 à 09h10

דיס-חית עשרה מדינות, כולל את ארצות הברית, בריטניה, גרמניה, איטליה, אוסטרליה וסינגפור, סיימו זה עתה הסכם שנועד לחזק את הביטחון בעיצוב של אינטליגנציה מלאכותית (א"מ). מדובר בחדשנות עולמית בתחום הכללים הבינלאומיים ממוקדים לפיתוח של מערכות א"מ בטוחות מהשלב הראשוני והגנה על טכנולוגיות אלו מפני גורמים מזיקים.

הסכם בינלאומי לחיזוק הסייבר של אינטליגנציה מלאכותית

לפי ג'ן איסטרלי, מנהלת הסוכנות האמריקאית לביטחון סייבר וביטחון תשתיות (CISA), חשוב שהמדינות יכירו כי פיתוח א"מ זקוק לגישה ממוקדת ביטחון. זו הפעם הראשונה שנוצר הסכם על מנת להעניק עדיפות לביטחון על פני פונקציונליות, מהירות השקה או הפחתת עלויות בתחום הא"מ.

המסמכים המייסדים של עידן חדש של סייבר

המרכז הלאומי לביטחון סייבר בבריטניה (NCSC) רואה במסמכים הראשונים הללו כגווני של רגולציות נוספות בקנה מידה. השאיפה היא לסייע למפתחים לקבל החלטות מושכלות לגבי ביטחון סייבר בכל שלב בתהליך הפיתוח. המטרה היא להבטיח שהביטחון יהווה תנאי סינקו נון לכל מערכת אינטליגנציה מלאכותית ושהוא יהיה במרכז העבודה על כל רכיב במהלך כל התהליך. לציון השקת מהלך זה, כשלוש מאות שותפים מרכזיים בתעשייה, ממשלות וסוכנויות בינלאומיות יתאגדו, כולל מיקרוסופט, מכון אלן צ'ורינג וסוכנויות ביטחון סייבר בריטיות, אמריקאיות, קנדיות וגרמניות.

מחויבות קולקטיבית להבטחת פיתוח בטוח של א"מ

ביום ראשון, ה-26 בנובמבר, מדינות כגון ארצות הברית, הממלכה המאוחדת, צרפת ועשרה מדינות נוספות חתמו על הסכם זה לשיפור הסייבר של אינטליגנציה מלאכותית. זהו ההסכם הבינלאומי הראשון המפורט שמטרתו להגן על אינטליגנציה מלאכותית מפני גורמים מזיקים ולעודד חברות ליצור מערכות א"מ בטוחות כבר מעיצובן. לשם כך, ה-CISA וה-NCSC פרסמו הנחיות חדשות בנוגע לפיתוח מערכות א"מ בטוחות אשר יסייעו למפתחים לקבל החלטות מושכלות על ביטחון סייבר בכל שלב בתהליך הפיתוח.

המלצות להבטחת ביטחון בתחום הא"מ

הנחיות אלו, שנחתמו על ידי סוכנויות מ-18 מדינות, מיועדות להעלות את רמות הסייבר של אינטליגנציה מלאכותית ולתרום כך להבטחת שהיא מעוצבת, מפותחת ומופעלת בצורה בטוחה. ג'ן איסטרלי מדגישה כי פרסום הנחיות אלו מהווה « צעד מפתח במחויבות הקולקטיבית שלנו – של ממשלות מכל רחבי העולם – להבטיח פיתוח והפעלה בטוחים של יכולות א"מ כבר מעצבן. » אף כי מדובר בהסכם שאינו מחייב, הוא כולל בעיקר המלצות כלליות כגון פיקוח על מערכות א"מ למניעת ניצול לרעה, הגנת נתונים מפני זיוף ובקרה על ספקי תוכנה.

הכרזה בינלאומית ייחודית לצפייה בסיכונים של א"מ

ההסכם שואף גם לענות על השאלות כיצד למנוע את חטיפת הטכנולוגיה של אינטליגנציה מלאכותית על ידי האקרים. הוא כולל המלצות כגון פרסום מודלים רק לאחר ביצוע בדיקות ביטחון מתאימות. בסך הכל, 28 מדינות, כולל ארצות הברית, הממלכה המאוחדת, מדינות האיחוד האירופי וסין, חתמו על הכרזת בלצ'לי שנועדה לצפות את הסיכונים הפוטנציאליים שהאינטליגנציה המלאכותית מציבה. הכרזת בלצ'לי מתווה את ההכרזה הבינלאומית הראשונה על א"מ, כאשר כל המדינות הסכימו כי טכנולוגיה זו מציבה סיכון פוטנציאלי קטסטרופלי לאנושות.

בעידן שבו אינטליגנציה מלאכותית תופסת מקום הולך וגדל בחברה שלנו, ההסכם הבינלאומי והצעדים שהוכרזו מציינים צעד חשוב להבטחת פיתוח בטוח ואחראי של טכנולוגיה חיונית זו. שיתוף הפעולה בין המדינות השונות והגורמים השונים יידרש להימשך על מנת למנוע בצורה אפקטיבית את הסיכונים הגלומים בשימוש הגובר של א"מ בתחומים שונים.

actu.iaNon classéצ cybersecurity של ה-AI: 18 מדינות מתאחדות, עדיפות לבטיחות

מנכ"ל 'נטפליקס לאי' admits that his animation may not appeal to everyone

découvrez les réflexions du pdg de 'netflix pour l'ia' sur son animation innovante. il reconnaît que ce projet ambitieux pourrait ne pas plaire à tous, mais explore les possibilités captivantes que l'intelligence artificielle offre au monde du divertissement.
palo alto networks annonce son intention d'acquérir cyberark pour 25 milliards de dollars, marquant un tournant stratégique pour renforcer sa défense contre les menaces émergentes liées à l'intelligence artificielle. découvrez les enjeux et implications de cette acquisition majeure sur le marché de la cybersécurité.
découvrez comment l'introduction de l'intelligence artificielle transforme la sécurité des réseaux électriques, avec un focus sur l'indépendance énergétique et la cybersécurité. explorez les enjeux inséparables de la protection des infrastructures critiques à l'ère numérique.
découvrez comment un mannequin virtuel conçu par intelligence artificielle bouleverse les normes de la mode et suscite des débats passionnés dans le numéro d'août de vogue. un regard fascinant sur l'avenir de la représentation dans l'industrie de la mode.
découvrez comment l'intelligence artificielle révolutionne la gestion documentaire, favorisant une culture d'entreprise épanouie. explorez les avantages d'une automatisation intelligente pour optimiser la collaboration, améliorer l'accès à l'information et renforcer l'engagement des employés.

מיקרוסופט אדג' הופך לדפדפן חכם מול פרפלקסיטי ואופנאי

découvrez comment microsoft edge évolue en un navigateur intelligent, rivalisant avec perplexity et openai, grâce à des fonctionnalités avancées qui améliorent votre expérience de navigation.