נדרש מאפל להסיר תכונת AI לאחר שערוריית כותרת מטעה

צופה בתחום העיתונאות גדול מאוד קרא לאפל לסילוק התכונה של איי-איי המייצרת שלה, לאחר שהכלי הזה התיחס באופן שגוי לכותרת על תיק רצח מרתק של BBC News.

דיווחה ה-BBC ביום חמישי כי עלה מחלוקת לאחר שהתכונה החדשה של אפל, Apple Intelligence, יצרה באופן שגוי כותרת. הכותרת המוצעה היא שלואיג'י מנגיונה, חשוד ברצח של מנכ"ל ביטוחי בריאות בריאן תומפסון, התאבד. ה-BBC לא פרסמה כתבה כזו.

דיווחנים ללא גבולות (RSF), ארגון בינלאומי שמקדם חופש עיתונאות, ביקר את Apple, טוען שהאירוע מצביע על הסיכונים שמטרידים כלים ביינים עיוורים לא בשלים לאמינות התקשורת ולאמון הציבור.

וינסנט ברת'יה, ראש מחלקת הטכנולוגיה והעיתונאות של RSF, גינה את השגיאה, כונה אותה "פגיעה באמינות המדיה" ואיום על הגישה הציבורית למידע אמין. RSF דרש מ-Apple להסיר את התכונה מיידית.

"חוק הAI האירופי – למרות שמדובר בהכי מתקדם בעולם בתחום זה – לא מיינה את מערכות הAI שמייצרות מידע כמערכות בסיכון גבוה, ובכך שותקה מחול שלא כדיין בחקיקה. עלינו לסגור את החריף הזה בהקדם האפשרי", אמרה ברתיה.

ה-BBC אישרה שהגישה תלונה רשמית לגיגנטית הטכנולוגיה וביקשה פתרון, אך לא ברור עדיין האם אפל הגיבה.

תקציר המלאכותי שגוי לא היה מוגבל לחדשות BBC. ב-21 בנובמבר, התכונה סיכמה באופן לא מדויק מאמר של The New York Times, והציגה באופן שגוי כאילו ראש ממשלת ישראל, בנימין נתניהו, נעצר, כפי שדווח במאמר של BBC.

ההודעה הזו, שמאוחר יותר דגישה העיתונאי קן שוונקה, התייחסה למעשה לצו של בית הדין הפלילי הבינלאומי נגד נתניהו.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence, מתמקדת בהפחתת השבש של התראות על ידי סיכום וקיבוצן. הכלי זמין באייפונים המריצים את iOS 18.1 ודגמים חדשים יותר, כמו גם במספר מגוון של אייפדים ומקים, אך נתקל בתגובה שלילית בשל הטעיית מידע מתוך מקורות חדשות מהימנים.

דובר ה-BBC הדגיש שלמרות שחלק מההתראות הקבוצתיות סיכמו באופן מדויק סיפורים על אירועים ברחבי העולם, המידע המטעה הקשור למנגיונה הראה את היכולת הפוטנציאלית של הטכנולוגיה לפגוע בתקשורת המדיה ובהבנת הקהל הרחב.

RSF הזהיר ש"אירוע זה מאמת ששירותי AI מייצרים עדיין תחילה מדי כדי לייצר מידע אמין לציבור, ולא אמורים להימצא בשוק למטרות כאלה."

Ars Technica ביקרה בתקצירי ההודעות של אפל, מתייחסת למספר בעיות שמתרחשות לעיתים קרובות. ראשית, תקצירים מסוימים הם מדויקים מבחינה עובדתית, אך הם נשמעים מרובוטיים ומבולבלים, במיוחד בנושאים רגישים כמו יחסים או בריאות הנפש. אחרים מבינים לא נכון סרקזם, סלנג או ביטויים אידיומטיים, ולעיתים מפרשים אותם באופן ממשי מדי.

אובדן ההקשר הוא בעיה נוספת חמורה, במיוחד כאשר התקצירים מחמיאים על הודעות קודמות בשרשור או שאינם מתחשבים בתוכן מולטימדיה. בצ'אטים קבוצתיים עם מספר נושאים, התקצירים יכולים להיטען באופן יתר, לערבב נושאים ולהוביל לאי-דיוקים.

לבסוף, חלק מהתקצירים פשוט שגויים, לעיתים עקב ניסיון לדחוס יותר מדי מידע למספר קטן של מילים, מה שמביא לדיווחים מעוותים. באופן כללי, בעיות אלו, שמשפיעות על שימושיות ודיוק המאפיין, נפוצות בשימוש היומיומי.

מנג'ונה, שעכשיו מואשמת ברצח מדרגה ראשונה, הפכה לנושא מרכזי בוויכוח על הסיכונים המקושרים למלאכות של AI בעיתונאות. התלות של הציבור בחדשות אמינות נמצאת על סף התשמעות כאשר אפל מתמודדת עם לחץ גובר לטפל בבעיה.