אוניברסיטת שיקגו מציעה לאמנים הגנה נגד מלאכת האיי-אי באמצעות Glaze ו-Nightshade

אמנים מתנגדים לדגמי AI המנצלים באמצעות Glaze וNightshade, שני כלים שפיתח בן זאו וצוותו במעבדת SAND של אוניברסיטת שיקגו, כפי שדווח היום על ידי MIT Technology Review.

מטרת הכלים הללו היא להגן על עבודת האמנים ולמנוע את שימושם ללא הסכמה לאימון מודלי AI, הרגל שרבים מהיוצרים רואים כגניבה. Glaze, שהורד יותר מ-4 מיליון פעמים מאז שוחרר במרץ 2023, מסווה תמונות על ידי הוספת שינויים עדינים שמנעים מ-AI ללמוד את סגנון האמן, כך אומר ה-MIT.

נייטשייד (Nightshade), הצדדית "המערערת", מפריעה עוד יותר לדגמי הAI על ידי הצגת שינויים בלתי נראים שיכולים להשחית את למידת הAI אם משתמשים בהם באימון, כפי שצוין על ידי MIT.

הכלים השראה להם הייתה חששות של אמנים בעקבות העלייה המהירה של הAI המייצר, שלעיתים מתבסס על תמונות מהאינטרנט כדי ליצור יצירות חדשות. MIT מדווחת שהאיירת הפנטזיה קרלה אורטיז ויוצרים אחרים הביעו חששות מאיבוד מקור המחיה שלהם כאשר מודלי AI משכפלים את הסגנונות הייחודיים שלהם ללא רשות או תשלום.

לאמנים, פרסום באינטרנט הוא חיוני לראות והכנסה, אך רבים שקלו להסיר את עבודותיהם כדי למנוע שימוש בהם לאימון מערכות AI, מעשה שיכול לפגוע בקריירות שלהם, כפי שציין ה-MIT.

Nightshade, שהושקה שנה אחרי Glaze, מציעה הגנה יותר אגרסיבית, כפי שדיווח ה-MIT. על ידי הוספת פיקסלים "מרועלים" לתמונות, היא משבשת את אימון ה-AI, גורמת למודלים להפיק תוצאות מעוותות אם התמונות האלה נאספות.

ההשפעה הממליכה של צמח החמציצה תפקדה כמקור השראה לאמנים, הרואים בה צדק משורר: אם העבודה שלהם מובאה לאימון AI, היא יכולה לפגוע במערכות שמנצלות אותם.

ה-MIT מתמקדת בכך שהכלים סבלו מספקטיציזם מטעם האמנים, שחששו בהתחלה מפרטיות המידע. כדי לענות על החשש הזה, SAND Lab שחררה גרסה של Glaze שפועלת במצב לא מקוון, מה שמבטיח שלא יתבצע עברת מידע ומפתח אמון עם אמנים מודאגים מניצול.

המעבדה הרחיבה לאחרונה את הגישה על ידי שותפות עם Cara, פלטפורמת חברתית חדשה שאוסרת תוכן שנוצר על ידי AI, כפי שצויין על ידי MIT.

ג'או וצוותו מתכוונים לשנות את הדינמיקה של הכוח בין יוצרים אישיים לחברות AI.

באמצעות מסירה של כלים המגנים על יצירתיות מפני תאגידים גדולים, זאו מקווה לאפשר לאמנים לשמור על שליטה מלאה בעבודתם ולהגדיר מחדש את התקנות האתיות בתחום הAI והקניין הרוחני, כך טוענת ה-MIT.

המאמץ מתחיל להשיג מומנטום, אך חלק מהמומחים מזהירים שהכלים עשויים לא להציע הגנה מוחלטת, שכן מפתחי AI והאקרים מחפשים דרכים לעקוף את ההגנות האלו, כפי שה-MIT מציינת.

כעת, כאשר Glaze ו-Nightshade נגישים ללא תשלום, מעבדת SAND של Zhao ממשיכה להוביל את המאמץ להגנה על תוקפן של אמנויות בפני ההשפעה המתרחבת של יצירת תוכן מונעת AI.