ה-AI המייצרת מעוררת אזעקה במדע כאשר מידע מזויף מאיים על אמינות

תמונות שנוצרו באמצעות מלאכות-חשיבה מעלות דאגות רבות בין חוקרים ומו"לים, כאשר כלים חדשים של המלאכות-חשיבה היוצרת מאפשרים בקלות מצמררת ליצור נתונים ותמונות מדעיות מזויפות, כפי שנאמר ב-הודעה לעיתונות של נייצ'ר.

התקדמות זו מאיימת על אמינות הספרות האקדמית, כאשר מומחים מתייחסים לגל של מחקרים מזויפים שנוצרו באמצעות מלאכות-חשיבה, שיכולים להיות קשים לזיהוי.

ג'אנה כריסטופר, מנתחת אמינות תמונה ב-FEBS Press בגרמניה, מדגישה שהתפתחות המהירה של הAI המייצר מעלה חששות גוברים לגבי הפוטנציאל לשימוש לרעה במדע.

"האנשים שעובדים בתחום שלי – אמינות תמונה ואתיקה של פרסום – מתחילים לדאוג יותר ויותר מהאפשרויות שהוא מציע", אמרה ג'יין כפי שדווח ב-Nature.

היא מציינת ש, למרות שחלק מהכתבים עשויים לקבל טקסט שנוצר על ידי AI תחת הנחיות מסוימות, דימויים ונתונים שנוצרו על ידי AI נתפסים כחריגים מהקו שיכול להשפיע באופן משמעותי על אמינות המחקר, כפי שצוין ב-Nature.

איתור דימויים אלו שנוצרו באמצעות AI הפך לאתגר ראשי, אומר Nature. בניגוד לזיופים דיגיטליים קודמים, לדימויים שנוצרו על ידי AI לעיתים חסרים הסימנים הרגילים לזיוף, מה שמקשה על הוכחת כל מרמה.

מומחית לאיתור תמונות מוזרות, אליזבת' ביק, ומחקרים אחרים מציעים שדימויים שנוצרו באמצעות AI, במיוחד בביולוגיה מולקולרית ותאית, עשויים כבר להופיע בספרות שנפרסמה, כפי שדיווחה Nature.

כלים כמו ChatGPT משמשים כעת באופן קבוע לכתיבת מאמרים, שניתן לזהותם דרך ביטויים טיפוסיים של צ'אטבוט שנותרו ללא עריכה, אך תמונות שנוצרו באמצעות AI הרבה יותר קשה לזהות. בתגובה לאתגרים אלו, חברות טכנולוגיה ומוסדות מחקר מפתחים כלים לאיתור, כפי שציינה Nature.

כלים מונעים ב-AI כמו Imagetwin ו-Proofig מובילים את המרד הזה על ידי אימון של האלגוריתמים שלהם לזהות תוכן שנוצר על ידי AI יוצר. מייסד Proofig, דרור קולודקין-גל, מדווח כי הכלי שלהם מזהה בהצלחה תמונות AI 98% מהזמן, אך הוא מציין שאימות אנושי נותר חיוני לאימות של התוצאות, כך דיווחה Nature.

בעולם ההוצאה לאור, כתבי עת כמו Science משתמשים ב-Proofig לסריקות ראשוניות של ההגשות, והגיגנטית של ההוצאה לאור, Springer Nature, מפתחת כלים ייחודיים, Geppetto ו-SnapShot, לזיהוי של אי-התאמות בטקסט ובתמונות, כך דיווחה Nature.

ארגונים אחרים, כמו האגודה הבינלאומית למוציאים לאור מדעיים, טכניים ורפואיים, משיקים גם הם יוזמות להלחמה במטחנות המאמרים ולהבטיח את שלמות המחקר, כפי שדווח ב-Nature.

אך מומחים מזהירים שעל המוּציאים לאור לפעול במהירות. קווין פטריק, החוקר המתמקד בתמונות מדעיות, מודאג מכך ש, אם הפעולה תתעכב, תוכן שנוצר באמצעות AI עשוי להפוך לבעיה נוספת שלא נפתרה בספרות האקדמית, כפי שדווח ב-Nature.

למרות הדאגות האלו, רבים עדיין מקווים שהטכנולוגיה של העתיד תתפתח כדי לזהות את ההונאות שנוצרו באמצעות AI של היום, ותציע פתרון לטווח ארוך לשמירה על מוסר המחקר האקדמי.