שופטת מקנסת עורכי דין על שימוש במחקר משפטי מלאכותי שנוצר באמצעות מלאכותיות מתקדמת

שופטת מאמריקה הביעה ביקורת חריפה על שני משרדי עורכי דין שהכילו מידע משפטי מזויף שנוצר על ידי מלאך אינטיליגנציה מלאכותית בהגשה לבית המשפט, וקראה לכך תקלה חמורה באחריות המשפטית.

השופט מייקל וילנר, מקליפורניה, קנס את החברות בסכום של 31,000 דולרים לאחר שגילה שהפרקליט הוא מלא ב"ציטוטים וציטוטים משפטיים שקריים, לא מדויקים ומטעים", כפי שדווח בראשונה על ידי WIRED.

"אף עורך דין מוכשר באופן סביר לא צריך למסור את מחקרו וכתיבתו ליישום של אינטיליגנציה מלאכותית", כתב וילנר בפסק דינו, והזהיר שהוא קרוב לכלול את התיקים המזויפים בהוראה שיפוטית.

"קראתי את ההסבר שלהם, התרשמתי (או לפחות התעניינתי) מהראיות שהציגו, וחיפשתי את ההחלטות כדי ללמוד עליהן יותר – רק כדי לגלות שהן לא קיימות", אמר, כפי שדווח על ידי WIRED. "זה מפחיד", הוסיף.

המצב נוצר במהלך תביעה אזרחית נגד State Farm. עורך דין אחד השתמש בכלים של מלאכות חשיבה כדי לכתוב סקיצה משפטית. המסמך הזה, שהכיל מחקר מזויף, הועבר למשרד העורכים הדין הגדול יותר K&L Gates, שהוסיף אותו להגשה הרשמית.

"אף עורך דין או חבר צוות באחת מהמשרדים, כנראה לא בדק או ביקר באופן אחר את המחקר לפני הגשת החוברת", ציין וילנר, כפי שדווח ב WIRED.

אחרי שגילה שלפחות שני מהמקרים שנצטטו הומצאו כשקרניים לחלוטין, שאל השופט ווילנר את קיי ואל גייטס להבהיר. כאשר הם הגישו גרסה חדשה, התברר שהיא כוללת עוד יותר ציטוטים מזויפים. השופט דרש הסבר, שהתגלה בצורת הצהרות שנשבעו שמודות על שימוש בכלים תוכניתיים, כפי שדווח ב- WIRED.

ווילנר הסיק: "השימוש הראשוני והחשאי במוצרי AI ליצירת הגרסה הראשונית של התביעה היה פשוט טעות […] ושליחת החומר הזה לעורכי הדין האחרים ללא חשיפת מקורו המפוקפק של AI הציב אותם במצב של סיכון ריאלי", כפי שדווח ב- WIRED.

זו לא הפעם הראשונה שהAI הכניסה לצרות בבתי משפט. למעשה, שני עורכי דין מוויומינג לא מזמן הודו שהשתמשו בתיקים שנוצרו באמצעות AI מזויף בהגשת כתב אישום נגד Walmart. שופט פדרלי איים לטפור אותם על כך.

בסצנריו זה, "ההזיות" של הAI – מידע שנוצר על ידי כלים של AI – הופכים לדאגה מתמדת במערכת המשפטית.