הצדק שנפגע מחדשנות לא מוצלחת לאחרונה חקק את ההיסטוריה המשפטית האוסטרלית. עורך דין הוענש על שימוש בציטוטים כוזבים שנוצרו על ידי אינטליגנציה מלאכותית במהלך הליך משפטי. האירוע הראשון הזה מדגים את האתגרים האתיים והמקצועיים שמציג הופעת ה-AI בתחום המשפט, מה שמעורר שאלות על אחריות העוסקים במקצוע. הצורך להבטיח את שלמות החיפושים המשפטיים נעשה הכרחי בהקשר טכנולוגי שמתפתח במהירות.
עונש מקצועי לעורך דין באוסטרליה
עורך דין מוויקוריה הוענש לאחרונה על שימוש באינטליגנציה מלאכותית במסגרת הליך משפטי. מצב זה, שאין כדוגמתו באוסטרליה, הוביל לשינוי בזכויותיו המקצועיות. הוא איבד את מעמדו כעורך דין בכיר בשל ציטוטים שקריים שנוצרו על ידי תוכנת AI, שהוא לא טרח לבדוק לפני שהגיש אותם לבית המשפט.
פרטי המקרה
בעת דיון ב-19 ביולי 2024, עורך דין אנונימי זה ייצג בעל בסכסוך גירושין. על פי בקשת השופטת אמנדה המפריס, הוא מסר רשימה של תקדימים משפטיים. כאשר השופטת חזרה למשרדיה, היא הודיעה כי אף אחד מהצוות שלה לא היה יכול לזהות את המקרים שהוזכרו. כאשר המשיך הדיון, עורך הדין אישר כי הרשימה הזו הגיעה מתוכנת ניתוח משפטי המשתמשת בAI.
הכרה בטעות
בפני אחריותו, עורך הדין הגיש התנצלות ללא סייג לבית המשפט. הוא הודה שהוא לא הבין את אופן פעולתו של הכלי שבו השתמש, והבין את החשיבות של בדיקת נכונות החיפושים שנעזרו ב-AI.
השלכות השימוש ב-AI
השופטת המפריס קיבלה את התנצלותו, והדגישה את ההשפעה המלחיצה של המצב, אך החליטה שצריך להנחות את המקרה לכיוון חקירה. שקיפות בנוגע לשימוש חסר האחריות של ה-AI במערכת המשפטית היא בעלת חשיבות רבה. מועצת שירותי המשפט של ויקטוריה לקחה על עצמה את בדיקת ההתנהלות המקצועית של עורך הדין, בהתחשב בעליית השימוש בכלי AI בתחום המשפטי.
שינויים ברישיון העיסוק
ב-19 באוגוסט שלאחר מכן, מועצת שירותי המשפט של ויקטוריה עדכנה את תנאי העיסוק של עורך הדין הזה. עדכון זה משמעותו שהוא אינו יכול עוד לפעול כעורך דין בכיר, אינו יכול לנהל כספים בעקרות ואינו יהיה מסוגל לנהל את משרדו הפרטי. בעתיד, עליו לפעול תחת פיקוח של עורך דין אחר במשך תקופה של שנתיים, עם דיווחים רבעוניים למועצה.
הרחבת הבעיה
המקרה הזה אינו מבודד. יותר מעשרים מקרים אחרים באוסטרליה דווחו, אשר מעורבים עורכי דין ונתבעים שהשתמשו ב-AI להכנת מסמכים משפטיים הכוללים ציטוטים פיקטיביים. עורכי דין במדינת מערב אוסטרליה ובניו סאות' ויילס נתונים גם הם לביקורות דומות על ידי גופי הרגולציה שלהם.
שיקולים אתיים ומקצועיים
בתי המשפט וארגונים משפטיים מכירים במקומו ההולך ועולה של AI בתהליכים משפטיים. עם זאת, קיימים אזהרות לגבי החשיבות של אי הזנחת השיפוט המקצועי של עורכי הדין. ג'וליאנה וורנר, נשיאת מועצת המשפטים של אוסטרליה, הביעה כי המקרים בהם ה-AI ייצר ציטוטים כוזבים נחשבים לבעיה חמורה.
היא הדגישה כי השימוש בכלים אלו חייב להתבצע עם מירב הזהירות. חובות אתיות כלפי לקוחות ובית המשפט נותרות על פרק חשיבות ראשי. ההצעה על איסור כללי על השימוש ב-AI בהליכים משפטיים נראית עם זאת כלא מעשית ולא פרופורציונלית, ובכך מעמידה את החדשנות וגישה לצדק בסיכון.
לצורך הפניות על עונשים דומים, ניתן לעיין במקרים של עורך דין אמריקאי בהקשר דומה, שבו השימוש ב-ChatGPT הביא לתוצאות דומות, כאן: מקרה דומה בארצות הברית.
הבעיות הקשורות להלציות שנוצרו על ידי AI אינן מוגבלות למדינה אחת. כלים מודרניים כמו ChatGPT מעלים שאלות בנוגע לשימושם האתי במדיניות ובפרקטיקות, כפי שמודגם במאמר אחר: ניתוחים של נתונים פיקטיביים.
שאלות נפוצות על עורך הדין שנענש על שימוש בציטוטים כוזבים שנוצרו על ידי AI
מהם פרטי המקרה המעורב בעורך הדין שהשתמש בציטוטים כוזבים שנוצרו על ידי AI?
המקרה מתייחס לעורך דין מוויקטוריה שנענש לאחר שהגיש ציטוטים משפטיים לא נכונים שנוצרו על ידי תוכנת אינטליגנציה מלאכותית. עורך הדין לא בדק את נכונות הציטוטים לפני שהגישם לבית המשפט, מה שהוביל לעונשים מקצועיים.
אילו עונשים קיבל עורך הדין בעקבות המקרה הזה?
בעקבות החקירה המנוהלת על ידי מועצת שירותי המשפט של ויקטוריה, עורך הדין איבד את מעמדו כעורך דין בכיר, אינו יכול לנהל כספים בעקרות או לעסוק במשרדו הפרטי. כעת עליו לפעול תחת פיקוח במשך תקופה של שנתיים.
מדוע חשוב לבדוק את ההתנהלות המקצועית של עורכי דין המשתמשים ב-AI?
חשוב לבדוק את ההתנהלות המקצועית כדי להבטיח שהשימוש ההולך וגדל ב-AI בתחום המשפט מתבצע בצורה אחראית, תוך שמירה על חובות אתיות ומקצועיות של עורכי הדין כלפי לקוחותיהם והבית המשפט.
אילו לקחים יכולים עורכי הדין להסיק מהמקרה הזה?
עורכי הדין חייבים לבדוק כל מידע המתקבל מכלים של אינטליגנציה מלאכותית על מנת לוודא את נכונותו לפני הגשתו בהקשר משפטי, תוך שמירה על אחריותם המקצועית.
מה חשף המקרה לגבי השימוש ב-AI להכנת מסמכים משפטיים?
המקרה הדגיש כי למרות היתרונות הפוטנציאליים של ה-AI בפרקטיקה המשפטית, מקרים חדשות מראים שכמה עורכי דין נענשו על כך שהשתמשו במידע שנוצר על ידי AI ללא בדיקה, ובכך הם מצביעים על צורך דחוף במסגרת רגולטורית הנוגעת לכך.
איך בתי המשפט מגיבים למקרים של שימוש ב-AI המייצר ציטוטים כוזבים?
בתי המשפט רואים הפרות אלו כבעיות חמורות, מכיוון שזה מכניס לספק את שלמות ההליכים המשפטיים. ננקטות צעדים הולמים כדי להבטיח שכאלה טעויות לא יקרו שוב.
מהי התגובה של מועצת המשפטים של אוסטרליה לגבי השימוש ב-AI על ידי עורכי דין?
מועצת המשפטים של אוסטרליה מדגישה כי עורכי הדין חייבים להשתמש בכלי ה-AI בזהירות, תוך שמירה על מודעות לחובותיהם האתיות. איסור כללי על השימוש ב-AI לא יהיה מעשי ועלול לפגוע בחדשנות, אך יש צורך בעירנות.
