משטרת ניו אורלינס השתמשה בסודיות בזיהוי פנים למעקב אחרי הרחובות למשך שנתיים

במשך שנתיים, משטרת ניו אורלינס השתמשה בצורה חשאית במצלמות הכרה פנימית חיות למעקב אחר חשודים בזמן אמת, במה שנראה כמו התוכנית הראשונה מסוגה בעיר גדולה בארה"ב.

חקירה שנערכה על ידי The Washington Post חשפה כי מערכת המעקב, שמנוהלת בעזרת ארגון ללא מטרות רווח פרטי בשם Project NOLA, ביצעה סריקות של הרחובות הציבוריים ושלחה התראות מובייל לשוטרים לגבי התאמות אפשריות.

המערכת פעלה בלי שהציבור היה מודע לכך והפרה את תקנון העיר של שנת 2022, שמגביל את שימוש בטכנולוגיה של זיהוי פנים לחקירות פשעים אלימים, ולא כולל מעקב כללי.

"זו התסריט המסופר של טכנולוגיית זיהוי הפנים שחששנו ממנו," אמר נתן פריד וסלר מה-ACLU, כפי שדווח בפוסט. "זהו הממשל מעניק לעצמו את הכוח לעקוב אחרי כל אחד – למעשה, אחרי כולם – בעת שאנחנו מתנהלים בציבור," הוסיף.

הפוסט מדווח שמאז תחילת שנת 2023, התוכנית הובילה למעצר של לפחות 34 אנשים, בהם אנשים שהואשמו בעבירות לא אלימות. שוטרים לעיתים לא הזכירו את השימוש בזיהוי פנים בדוחות, ואף אחד מהמקרים לא הופיע בדוחות שהמחלקה חייבת להגיש למועצת העיר.

ראשת המשטרה אן קירפטריק השעתה את התוכנית באפריל לאחר שקצין העלה חששות משפטיים. "אנחנו הולכות לעשות את מה שהתקנון אומר […] ואם נמצא שאנחנו מחוץ להגבלות האלה, אנחנו הולכות לעצור את זה, לתקן זאת ולהכנס לתוך הגבולות של התקנון," אמרה, כפי שדווח בפוסט.

העיר כעת בתהליך בחינה של השימוש בטכנולוגיה ודיון לגבי עדכונים לתקנון. קירפטריק תומכת ביישום החוקי של טכנולוגיה לזיהוי פנים, כאשר היא פועלת בשקיפות.

"האם אפשר להשתמש בטכנולוגיה מבלי להפר ולבצע מעקב?" היא שאלה, כך דיווח הפוסט. "כן, אפשר. וזה מה שאנחנו מקדמים".

אין כללים פדרליים שמנהיגים שימוש בזיהוי פנים על ידי המשטרה המקומית. אך מבקרים מזהירים שהטכנולוגיה יכולה להוביל למעצרים לא מוצדקים ולהפרות זכויות אזרחיות, במיוחד כאשר משתמשים בה בסתר.

הכישלון לחשוף שימוש בזיהוי פנים במהלך מעצרים יוצר בעיות רבות בנוגע להוגנות ושקיפות ברחבי ארצות הברית.

חקירה מוקדמת יותר גילתה למעלה מ-1,000 תיקים פליליים ברחבי 15 מדינות, שבהם המשטרה לא חשפה שנעשה שימוש בטכנולוגיית זיהוי פנים.

מחלקות המשטרה בדרך כלל מנעו חשיפת שימוש בתוכנה, על ידי ייחוס איסוף הראיות לשיטות חקירה אחרות או לתעודת עין. החוסר בשקיפות מונע מהמואשמים לתת מענה על ראיות שיכול להיות שאינן נכונות, מאחר ומערכות זיהוי הפנים הוכחו כמפליטות באופן אפליה נגד אנשים ממוצעים שחור, נשים ומבוגרים.

מקרה דומה בדטרויט הושך את תשומת לב הלאומית לאחר שרוברט ויליאמס נעצר באופן שגוי ב-2020 בשל שגיאה בזיהוי פנים באמצעות מערכת AI. התביעה שהגיש ויליאמס הובילה להכרזה על כללים חדשים במשטרה, שדורשים ראיות עצמאיות מעבר להתאמות שנעשו באמצעות אלגוריתמים. השינויים במדיניות מטרתם למנוע מעצרים שגויים ולהתמודד עם הטיה גזעית במערכות AI.