סוכני AI מותעים על ידי זיכרונות מזויפים, מאפשרים גניבת קריפטו

מחקר חדש חשף חולשות אבטחה משמעותיות בסוכנים מונעי AI של Web3 אי-אי, אשר מאפשרות לתקיפים להשתמש בזיכרונות מזויפים כדי לבצע העברות של מטבעות דיגיטליים ללא הרשאה.

חוקרים מאוניברסיטת פרינסטון ומהקרן Sentient גילו שאגנטים אלו של מלאכות בינה מלאכותית, שנוצרו כדי להתמודד עם משימות מבוססות בלוקצ'יין כמו מסחר בקריפטו וניהול נכסים דיגיטליים, פגיעים לטקטיקה המכונה הטרדה של ההקשר.

התקיפה פועלת על ידי מכירה למערכות הזיכרון של פלטפורמות כמו ElizaOS, המייצרת סוכני AI ליישומים מבוזרים. מערכת הזיכרון של אותם סוכנים מאחסנת שיחות עבר, כדי להשתמש בהן כמדריך לבחירות העתידיות שלהן.

החוקרים הדגימו שמתקיפים יכולים להטמיע פקודות מטעות במערכת הזיכרון, מה שמוביל את ה AI לשלוח כספים מהארנק המיועד לארנק שנשלט על ידי מתקיף. מזעיזע כי הזיכרונות המזויפים האלו יכולים להטייל בין פלטפורמות.

לדוגמה, סוכן שנפגע ב-Discord עשוי לבצע מאוחר יותר העברות שגויות באמצעות X, מבלי להבין שמשהו אינו כשורה.

מה שהופך את זה למיוחד מסוכן הוא שאמצעים הגנתיים סטנדרטיים לא יכולים לעצור את מסוף התקפה מסוג זה. התייחסות לזיכרונות מזויפים כהוראות אמתיות הופכת את האמצעים הבטיחותיים המבוססים על בקשות בסיסיות ללא יעילים נגד סוג זה של התקפה.

כל העסקאות בבלוקצ'יין הופכות לקבועות, כך שאין אפשרות לשחזר כספים שנשדדו. הבעיה מתרחבת עקב העובדה שסוכני AI מסוימים מאחסנים זיכרון במספר משתמשים, כך שפריצה אחת של אבטחה יכולה להשפיע על מספר משתמשים.

צוות המחקר בדק שיטות שונות למניעת מצב זה, כולל התאמה של הדרכת ה- AI ודרישה של אישור ידני לעסקאות. אף ששיטות אלו מציעות מעט תקווה, הן מגיעות עם מחיר של האטת האוטומציה.

הבעיה חורגת מעבר למטבעות הקריפטוגרפיים. אותה חשיפה עשויה להשפיע גם על עוזרים דיגיטליים מבית AI למטרות כלליות, ולהסכין להדלפות מידע או לפעולות מזיקות אם מתקיפים משנים את הזיכרון שלהם.

החשיפה הזו מטרידה במיוחד באור ממצאים אחרונים שלפיהם 84% ממנהיגי IT סומכים על סוכני AI כמו או יותר מאוד מאשר על פקידים אנושיים, ו-92% מצפים שמערכות אלו יניבו תוצאות עסקיות במהלך 12 ל-18 החודשים הבאים.

כדי להתמודד עם הבעיה, שחררו החוקרים כלי בשם CrAIBench שמטרתו לעזור למפתחים לבדוק את מערכותיהם ולבנות הגנות חזקות יותר. עד אז, מומחים מזהירים משתמשים להיות זהירים כאשר הם מאמינים לסוכני AI עם החלטות כלכליות.