מדינות מתווכחות על עתיד נשקי ה-AI באו"ם

מדינות התקבצו באסיפה הכללית של האום לאומות בניו יורק ביום שני כדי לדון בעתיד של נשקים אוטונומיים בשליטת מלאכונים ובהסדרים המשפטיים האפשריים שישלטו בשימושם. מומחים מזהירים מדחיפות מתמידה, בהם מתייחסים לחוסר הסכמה בינלאומית ולזמן המוגבל.

לפי רויטרס, האינטיליגנציה המלאכותית כבר משחקת תפקיד חשוב בסכסוכים הנוכחיים, במיוחד באזורים כמו אוקראינה ועזה. לפני מספר חודשים חשפה אוקראינה שאספה כ-2 מיליון שעות של צילומי קרב על מנת לאמן מערכות אינטיליגנציה מלאכותית.

מסגרות הרגולציה עבור טכנולוגיות הAI מתקשות להשאר בקצב. למרות שהדיונים על נשק אוטונומי מתנהלים בהסכם לנשק מסוים (CCW) בז'נבה מאז 2014, לא הוקמו עד כה רגולציות גלובליות מחייבות.

מזכיר האו"ם, אנטוניו גוטריס, קבע את שנת 2026 כמטרה להגעה להסכמה בינלאומית על מסגרת משפטית חדשה.

"הזמן באמת נגמר להקמת מחסומים כדי שהתרחישים המזעזעים שחלק מהמומחים המוכרים ביותר מזהירים מהם לא יתרחשו", אמר אלכסנדר קמנט, ראש מחלקת שליטה על נשק במשרד החוץ של אוסטריה, לרויטרס.

בנוסף לנשק אוטונומי, יש דיונים בנושאים קריטיים אחרים במפגשים של השבוע, כמו זכויות האדם ודאגות אתיות, והמעורבות של גורמים שאינם מדינות. בעוד שרוב המדינות תומכות ביצירת מסגרת עולמית מחייבת, ישנן מדינות – כמו סין, ארצות הברית, הודו ורוסיה – שמעדיפות להישען על החוקים הבינלאומיים הקיימים או על הנחיות לאומיות.

מספר ארגונים, כולל ארגון "הומן רייטס וואטש", הביעו חשש מפני התפשטות של נשק אוטונומי לא מנוהל באזורים שונים. מכון "העתיד של החיים" זיהה בערך 200 מערכות נשק אוטונומיות שבשימוש במקומות כמו אפריקה, המזרח התיכון ואוקראינה.

"אנחנו בדרך כלל לא מאמינים בענפים שמנהלים את עצמם… אין שום סיבה שחברות הגנה או טכנולוגיה יהיו יותר ראויות לאמון," אמרה לורה נולן, מבצעת מסע חרם נגד רובוטים רוצחים, לרויטרס.

שימוש בAI ובמערכות אוטונומיות לפיתוח אמצעי לחימה משתלט על המרחב בתעשיית הטכנולוגיה. גוגל הסירה את האיסור שלה על שימוש בAI לאמצעי לחימה לפני כמה חודשים, חוקרים סיניים השתמשו בדגם למה של Meta ליישומים צבאיים, והסטארט-אפ Theseus לאחרונה הגייס 4.3 מיליון דולר לפיתוח רחפנים אוטונומיים.