שגיאות שנוצרו על ידי AI במסמכי בית משפט מובילות לבעיות משפטיות עבור עורכי דין

דו"ח ששותף אתמול על ידי רויטרס מגלה כי ההולוגרמות של הבינה המלאכותית – שגיאות ומידע שנוצר על ידי מודלים מלאכותיים של AI – גורמות לבעיות משפטיות בבתי המשפט בארצות הברית.

בחודש זה, שלחה משרד העורכי הדין מורגן ומורגן מייל אזהרה למעלה מ-1,000 עורכי דין לגבי הסיכונים שבשימוש בבוטים וכאשר מקרים מזויפים מיוצרים על ידי בינה מלאכותית.

לפני כמה ימים, שני עורכי דין בוויומינג הודו שכללו תיקים מזויפים שנוצרו באמצעות AI בהגשת כתב אישום לבית משפט נגד וולמארט, ושופט פדרלי איים להטיל עליהם קנסות.

בדצמבר, הפרופסור מאוניברסיטת סטנפורד ומומחה לתעמולת התעמולה ג'ף הנקוק הואשם בשימוש ב-AI כדי להזוייף ציטוטים מהצהרות בית דין כחלק מהצהרתו בהגנה על חוק המדינה של 2023 שמפליל את שימוש בדיפפייקס לשם השפעה על בחירות.

מספר תיקים כאלה, לאורך השנים האחרונות, יוצרים מתח משפטי ומוסיפים בעיות לשופטים ולתובעים. מורגן & מורגן ווולמארט סירבו להגיב לנושא זה.

ה-AI המייצר עזר להקטין את זמן המחקר של עורכי הדין, אך ההזיות שלו יכולות להביא להוצאות משמעותיות. בשנה שעברה, סקר של תומסון רויטרס הגילה ש-63% מהעורכי דין השתמשו ב-AI לעבודה ו-12% עשו זאת באופן קבוע.

בשנה שעברה, איגוד העורכי הדין האמריקאי תזכיר ל-400,000 מהחברים שלו את כללי האתיקה של העורכי דין, שכוללים שהמשנה יתמוך בכל המידע שהוא מגיש לבית המשפט, והזכיר שזה מכיל גם מידע שנוצר באמצעות מלאכות שלם (AI), אפילו אם זה לא התכוון – כמו במקרה של הנקוק.

"כאשר עורכי דין נתפסים משתמשים ב-ChatGPT או בכלי AI מייצר אחר ליצירת ציטוטים ללא בדיקתם, זו אי-כשירות, פשוטה וברורה", אמר אנדרו פרלמן, דיקן בית הספר למשפטים של אוניברסיטת סאפוק לרויטרס.

לפני כמה ימים, ה-BBC גם שיתפה דוח המזהיר מציטוטים מזויפים שנוצרו על ידי AI והבעיות עם כלים של AI בעיתונאות.