צ cybersecurity של ה-AI: 18 מדינות מתאחדות, עדיפות לבטיחות

Publié le 23 פברואר 2025 à 09h10
modifié le 23 פברואר 2025 à 09h10

דיס-חית עשרה מדינות, כולל את ארצות הברית, בריטניה, גרמניה, איטליה, אוסטרליה וסינגפור, סיימו זה עתה הסכם שנועד לחזק את הביטחון בעיצוב של אינטליגנציה מלאכותית (א"מ). מדובר בחדשנות עולמית בתחום הכללים הבינלאומיים ממוקדים לפיתוח של מערכות א"מ בטוחות מהשלב הראשוני והגנה על טכנולוגיות אלו מפני גורמים מזיקים.

הסכם בינלאומי לחיזוק הסייבר של אינטליגנציה מלאכותית

לפי ג'ן איסטרלי, מנהלת הסוכנות האמריקאית לביטחון סייבר וביטחון תשתיות (CISA), חשוב שהמדינות יכירו כי פיתוח א"מ זקוק לגישה ממוקדת ביטחון. זו הפעם הראשונה שנוצר הסכם על מנת להעניק עדיפות לביטחון על פני פונקציונליות, מהירות השקה או הפחתת עלויות בתחום הא"מ.

המסמכים המייסדים של עידן חדש של סייבר

המרכז הלאומי לביטחון סייבר בבריטניה (NCSC) רואה במסמכים הראשונים הללו כגווני של רגולציות נוספות בקנה מידה. השאיפה היא לסייע למפתחים לקבל החלטות מושכלות לגבי ביטחון סייבר בכל שלב בתהליך הפיתוח. המטרה היא להבטיח שהביטחון יהווה תנאי סינקו נון לכל מערכת אינטליגנציה מלאכותית ושהוא יהיה במרכז העבודה על כל רכיב במהלך כל התהליך. לציון השקת מהלך זה, כשלוש מאות שותפים מרכזיים בתעשייה, ממשלות וסוכנויות בינלאומיות יתאגדו, כולל מיקרוסופט, מכון אלן צ'ורינג וסוכנויות ביטחון סייבר בריטיות, אמריקאיות, קנדיות וגרמניות.

מחויבות קולקטיבית להבטחת פיתוח בטוח של א"מ

ביום ראשון, ה-26 בנובמבר, מדינות כגון ארצות הברית, הממלכה המאוחדת, צרפת ועשרה מדינות נוספות חתמו על הסכם זה לשיפור הסייבר של אינטליגנציה מלאכותית. זהו ההסכם הבינלאומי הראשון המפורט שמטרתו להגן על אינטליגנציה מלאכותית מפני גורמים מזיקים ולעודד חברות ליצור מערכות א"מ בטוחות כבר מעיצובן. לשם כך, ה-CISA וה-NCSC פרסמו הנחיות חדשות בנוגע לפיתוח מערכות א"מ בטוחות אשר יסייעו למפתחים לקבל החלטות מושכלות על ביטחון סייבר בכל שלב בתהליך הפיתוח.

המלצות להבטחת ביטחון בתחום הא"מ

הנחיות אלו, שנחתמו על ידי סוכנויות מ-18 מדינות, מיועדות להעלות את רמות הסייבר של אינטליגנציה מלאכותית ולתרום כך להבטחת שהיא מעוצבת, מפותחת ומופעלת בצורה בטוחה. ג'ן איסטרלי מדגישה כי פרסום הנחיות אלו מהווה « צעד מפתח במחויבות הקולקטיבית שלנו – של ממשלות מכל רחבי העולם – להבטיח פיתוח והפעלה בטוחים של יכולות א"מ כבר מעצבן. » אף כי מדובר בהסכם שאינו מחייב, הוא כולל בעיקר המלצות כלליות כגון פיקוח על מערכות א"מ למניעת ניצול לרעה, הגנת נתונים מפני זיוף ובקרה על ספקי תוכנה.

הכרזה בינלאומית ייחודית לצפייה בסיכונים של א"מ

ההסכם שואף גם לענות על השאלות כיצד למנוע את חטיפת הטכנולוגיה של אינטליגנציה מלאכותית על ידי האקרים. הוא כולל המלצות כגון פרסום מודלים רק לאחר ביצוע בדיקות ביטחון מתאימות. בסך הכל, 28 מדינות, כולל ארצות הברית, הממלכה המאוחדת, מדינות האיחוד האירופי וסין, חתמו על הכרזת בלצ'לי שנועדה לצפות את הסיכונים הפוטנציאליים שהאינטליגנציה המלאכותית מציבה. הכרזת בלצ'לי מתווה את ההכרזה הבינלאומית הראשונה על א"מ, כאשר כל המדינות הסכימו כי טכנולוגיה זו מציבה סיכון פוטנציאלי קטסטרופלי לאנושות.

בעידן שבו אינטליגנציה מלאכותית תופסת מקום הולך וגדל בחברה שלנו, ההסכם הבינלאומי והצעדים שהוכרזו מציינים צעד חשוב להבטחת פיתוח בטוח ואחראי של טכנולוגיה חיונית זו. שיתוף הפעולה בין המדינות השונות והגורמים השונים יידרש להימשך על מנת למנוע בצורה אפקטיבית את הסיכונים הגלומים בשימוש הגובר של א"מ בתחומים שונים.

actu.iaNon classéצ cybersecurity של ה-AI: 18 מדינות מתאחדות, עדיפות לבטיחות

מתכנן פולני עוקף את ה-AI המותאם אישית של OpenAI במהלך מרתון קידוד של 10 שעות וזוכה באליפות העולם בתכנות,...

avant de partager vos données personnelles avec une intelligence artificielle, prenez un moment pour réfléchir. assurez votre vie privée et votre sécurité en étant conscient des risques liés à l'utilisation de vos informations sensibles. découvrez des conseils pratiques pour naviguer en toute sécurité dans le monde numérique.
découvrez un navigateur innovant qui vous permet de supprimer facilement les images générées par l'ia pour une expérience de navigation plus épurée. dites adieu à l'encombrement visuel et explorez le web comme jamais auparavant, sans avoir recours à google chrome.
découvrez comment openai révolutionne chatgpt en le transformant en un assistant virtuel multifonctionnel, capable de répondre à divers besoins. explorez les nouvelles fonctionnalités et les applications variées qui enrichissent l'expérience utilisateur.

עתידו של גוגל רחוק מלהיות מתמודד!

découvrez pourquoi l'avenir de google est plus prometteur que jamais. entre innovations technologiques et stratégies audacieuses, plongez dans l'analyse des forces qui façonnent l'avenir de ce géant du web.

Mistral AI : מחקר מעמיק וקול מתקדם עכשיו זמינים על Le Chat

découvrez mistral ai, une innovation qui offre une recherche approfondie et un mode vocal avancé, désormais accessibles sur le chat. plongez dans une expérience interactive enrichissante et optimisez vos échanges grâce à cette technologie de pointe.