אופק מזהירה את חברות הטכנולוגיה
אופק, רשות הרגולציה הבריטית לתקשורת, הוציאה אזהרה המיועדת לחברות הטכנולוגיה, המפרטת שתכנים שיצרו צ'אט-בוטים המחקים אנשים אמיתיים או דמייניים עלולים לפגוע בחוקי הדיגיטל החדשים של הממלכה המאוחדת.
הבעיה של דמויות המחקות אנשים שנפטרו
האזהרה הזו מגיעה לאחר דאגה הולכת וגוברת לאחר שמשתמשים בפלטפורמת Character.AI יצרו דמויות המזכירות את בריאנה גהיי ומולי ראסל, שתי מתבגרות בריטיות שנפטרו במצבים טראגיים. תופעה זו מעוררת שאלות עמוקות בנוגע לכבוד ואתיקה סביב הייצוג הוירטואלי של אנשים שנפטרו.
ההשפעה של חוק הבטיחות המקוון
אופק ציינה שכל תוכן שנוצר על ידי צ'אט-בוטים, כולל אלה שנוצרו על ידי המשתמשים, נופל תחת חוק הבטיחות המקוון. חקיקה זו מיועדת להגן על המשתמשים, במיוחד ילדים, מתכנים בלתי חוקיים או מזיקים. חברות המפרות חוק זה עלולות לעמוד בפני קנסות משמעותיים, שמגיעים עד 18 מיליון לירות או 10% מהמכירות הגלובליות שלהן.
תגובות להקשר טראגי
האזהרות האחרונות של אופק מהדהדות אירועים "מטרידים". מקרה אחד במיוחד הודגש, שבו משתמשים יצרו בוטים המחקים את בריאנה, נערה טרנסג'נדרית שנרצחה טרגית, ואת מולי, שהשפילה את חייה לאחר שנחשפה לתוכן מזיק באינטרנט. תקריות דרמטיות אלו מדגישות את הצורך ברגולציה כדי למנוע ניצול טכנולוגיה כזו.
רגולציה הכרחית לפלטפורמות חברתיות
הרגולציות החדשות דורשות מהפלטפורמות הגדולות להקים מערכות כדי להסיר בצורה פרואקטיבית תכנים בלתי חוקיים. זה כולל יצירת כלים ברורים לדיווח עבור המשתמשים וביצוע הערכות סיכון. הגנת המשתמשים, במיוחד קטינים, עומדת בראש סדר עדיפויות בחקיקה זו.
קריאות להבהרה משפטית
קרן מולי רוז, ארגון צדקה שהוקם על ידי משפחת מולי, הביעה את הצורך שלה בהבהרה נוספת לגבי הלגליות של התוכן הנוצר על ידי בוטים. היועץ המשפטי למדינה, ג'ונתן הול KC, הצהיר לאחרונה כי התשובות שניתנות על ידי צ'אט-בוטים של AI אינן מכוסות באופן מספק על ידי החקיקה הנוכחית.
העמדה של Character.AI ועורכי הדין
Character.AI העידה על מחויבותה לביטחון, וטענה שיש לה מדיניות להגבלת התוכן בצורה פרואקטיבית וכתגובה לדיווחים של משתמשים. הבוטים המחקים את בריאנה, מולי, כמו גם אלה המבוססים על דמויות מ"משחקי הכס", הוסרו מהפלטפורמה. לפי עורך הדין בן פאקר, מצב זה ממחיש את הסיבוכים וההשלכות הרחבות של חוק הבטיחות המקוון בהקשר של הטכנולוגיה הנוכחית.
אירועים טראגיים בארצות הברית
הדיון מקבל גם ממד בינלאומי עם דוגמאות לאירועים דומים בארצות הברית. מתבגר מצא את מותו בצורה טראגית לאחר שהקים מערכת יחסים עם דמות המבוססת על דמות מתוך סדרת "משחקי הכס". אירועים אלו מדגישים כיצד טכנולוגיות שנוצרות יכולות להיתקל בצורה מסוכנת עם משתמשים פגיעים.
נקיטת זהירות גוברת מול סכנות דיגיטליות
הרגולציות הנוכחיות והעתידיות מעידות על עלייה בכוח הדאגה סביב הסכנות הפוטנציאליות של כלי אינטליגנציה מלאכותית. הצורך ברגולציה אפקטיבית על מנת לשמור על הבטיחות והשלמות של הפלטפורמות הדיגיטליות הוא יותר מתמיד. חברות חייבות לנווט בנוף מורכב שבו אתיקה ואחריות חברתית הופכות לא בלתי נמנעות.
-
עבור כל אדם בממלכה המאוחדת ובאירלנד, ניתן לפנות ל-סמריטנס בטלפון 116 123.
שאלות נפוצות
מדוע אופק מזהירה את חברות הטכנולוגיה בנוגע לצ'אט-בוטים?
אופק הזהירה לאחר שצ'אט-בוטים חיקו אנשים אמיתיים, כולל את בריאנה גהיי ומולי ראסל, דבר המעלה דאגות אתיות ובטיחותיות לגבי השימוש באינטליגנציה מלאכותית.
אילו סוגי תכנים של צ'אט-בוטים נוגעים לרגולציות החדשות של אופק?
התכנים המיוצרים על ידי צ'אט-בוטים המחקים אנשים אמיתיים או דמייניים נכנסים תחת חוק הבטיחות המקוון, הכולל גם את השירותים המאפשרים למשתמשים ליצור צ'אט-בוטים.
כיצד משפיע חוק הבטיחות המקוון על השימוש בצ'אט-בוטים?
חוק הבטיחות המקוון מטיל דרישות על הפלטפורמות המארחות תכנים שנוצרים על ידי המשתמשים, כולל הגנה מפני תכנים בלתי חוקיים ומזיקים, דבר שמשפיע ישירות על פעולת הצ'אט-בוטים.
אילו סנקציות עשויות להיות מוטלות על חברות שאינן מצייתות לרגולציה של אופק?
חברות המפרות את חוק הבטיחות המקוון חשופות לקנסות של עד 18 מיליון לירות שטרלינג או 10% מהכנסותיהן הגלובליות, ובמקרים קיצוניים, אתרי האינטרנט או האפליקציות שלהן עשויים להיחסם.
אילו אירועים הובילו את אופק להבהיר את ההנחיות שלה על צ'אט-בוטים?
אופק הגיבה לאירועים מטרידים, כמו יצירת בוטים המחקים מתבגרים שנפטרו, דבר שהעלה דאגות לגבי הפוטנציאל של נזק פסיכולוגי הקשור לתכנים מעין אלה.
איזה השפעות עשויים להיות לצ'אט-בוטים על משתמשים צעירים?
צ'אט-בוטים עלולים, במקרים מסוימים, לגרום להפרעות פסיכולוגיות, במיוחד בקרב צעירים שעשויים לפתח קשרים רגשיים או להיחשף לתכנים מזיקים.
כיצד יכולות חברות הטכנולוגיה לציית להנחיות של אופק?
חברות צריכות להקים מערכות כדי להסיר בצורה פרואקטיבית תכנים לא חוקיים ומזיקים, תוך סיפוק כלים ברורים לדיווח עבור המשתמשים.
אילו אמצעי בטיחות קיימים כדי להגן על המשתמשים מתכנים הנוצרים על ידי צ'אט-בוטים?
הפלטפורמות חייבות לבצע הערכות סיכון ולבנות פרוטוקולים למודרציה של התוכן המיוצר על ידי המשתמשים, כדי למזער את הסיכונים הכרוכים בשימוש בצ'אט-בוטים.
מי אחראי במקרה של תוכן מזיק שנוצר על ידי צ'אט-בוט?
האחריות עשויה לחול על הפלטפורמה המארחת את הצ'אט-בוט, כמו גם על המשתמשים שיצרו או הפיצו את התוכן הבעייתי, בהתאם להנחיות של אופק.
