גוגל דיפמיינד משיקה כלי קוד פתוח לזיהוי טקסט שנוצר על ידי מלאכון

מחלקת Google DeepMind השיקה ביום שלישי כלי מקור פתוח לסימון מים בשם SynthID-Text, שמטרתו לזהות טקסט שנוצר באמצעות מלאכות פותחות. הכלי נגיש לעסקים ולמפתחים בחינם, והוא פועל על ידי הטמעת סימני מים בלתי נראים – שלא ניתן לגילותם בעין החשוף – בתוך הטקסט במהלך הייצור, על ידי שינוי הסיכויים של המילים.

"בכאן אנחנו מתארים את SynthID-Text, מערכת סימון המים בטקסט מוכנה לייצור, ששומרת על איכות הטקסט ומאפשרת דיוק גבוה בזיהוי, עם עיכוב מינימלי," כך נאמר בתקציר המחקר שנפרסם בNature. "כדי לאפשר סימון מים בקנה מידה גדול, אנו מפתחים אלגוריתם שמשלב סימון מים עם דיגום מתמטי, טכניקה שנמצאת בשימוש נרחב במערכות ייצור."

לפי MIT Technology Review, מעבדת המחקר של התיקון הטכנולוגי הגדולה פיתחה את טכנולוגיית SynthID ליצירת מספר כלים ליצירת סימנים מים מלאכותיים שכעת מכירים בטקסט, מוזיקה, וידאו, ותמונות שנוצרו על ידי AI. Google DeepMind שיתפה סרטון שמסביר איך הטכנולוגיה עובדת במספר סוגים של מדיה.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 באוקטובר, 2024

SynthID זמין דרך ערכת הכלים של גוגל לבניית AI מייצרת אחראית, וחוקרים עובדים בשיתוף פעולה עם Hugging Face – פלטפורמה שיתופית למפתחים שמארחת פרויקטים אחרים בקוד פתוח כמו מדריך של LeRobot לבניית רובוטים מונעים באמצעות AI בבית – כדי לשתף אותו באתר שלהם.

"עכשיו, מפתחי AI [מייצרים] אחרים יוכלו להשתמש בטכנולוגיה זו כדי לעזור להם לזהות אם פלטי הטקסט שלהם הגיעו מהדגמים שלהם של [שפה גדולה], מה שהופך את זה לקל יותר למפתחים רבים יותר לבנות AI באופן אחראי," אמר פושמיט כוהלי, סגן הנשיא למחקר ב Google DeepMind, ל MIT Technology Review.

SynthID נבדק במוצרי Google’s Gemini, ומיליונים של משתמשים לא הצליחו להבחין בין תוכן שהועבר לסימון ותוכן שלא הועבר לסימון. למרות זאת, החוקרים הכירו שיש לו מגבלות כאשר הטקסט נערך או תורגם, אבל הם נשארים אופטימיים ומאמינים שהכלי יכול לעזור להלחם במידע שגוי ולשפר את בטיחות הAI.

חברות טכנולוגיה רבות הכריזו על אסטרטגיות תיוג AI במהלך החודשים האחרונים. Meta הכריזה בפברואר על מערכת לזיהוי תוכן AI ברחבי Instagram, Facebook, וThreads, Google דרשה ממשתמשים לתייג תוכן AI במרץ, וTiktok הוסיף תוויות לתוכן שנוצר באמצעות AI במאי.