דעה: האם מערכת הבטיחות של Meta שבורה?

כמעט כל יוצר תוכן או מנהל של מדיה חברתית פעיל נתקל באותה בעיה כאשר הם מפרסמים בפייסבוק או באינסטגרם לאחרונה: פוסט או חשבון מוחסמים, כנראה מסיבות שגויות.

המצב המעצבן הזה הוא רק חלק מהבעיה המורכבת של מערכת רגולציה של תוכן ב-Meta. בעוד של-Meta נראה שיש הרבה אמצעי בקרה – לפעמים מוזרים – שורש הבעיה לא נראה שמתוקנה.

במהלך החודשים האחרונים, מטה הציגה מספר לא מועט של עידכונים להנחיות התוכן שלה ויישמה כללים יותר מחמירים הממועדים לבנייה של סביבה מקוונת בריאה יותר. אחת מהתוצאות הייתה שחשבונות רבים של עסקים, מוציאים לאור ומשתמשים ננעלו, מה שהוביל למאות תלונות בפורומים, פלטפורמות צ'אט וערוצי מדיה חברתית. מספר מוציאים לאור ומותגים הוסרו מפלטפורמות של מטה באזורים מסויימים השנה, דבר שהעלה דאגות בקרב בעלי עסקים, עיתונאים ויוצרי תוכן.

למרות העידכונים האחרונים של מטה, שנותנים את הרושם של מנהלנות יותר מחמירה ובחינה מקרובה של התוכן שמשותף בפלטפורמות שלה, פוסטים הקשורים לסמים, התאבדות, הטרדה מינית, אלימות, דיבה שנאית, תקיפה וחדשות מזויפות ממשיכים לחלוף מתחת לראדר של האלגוריתמים, ומגיעים אל קהלים שהם במצב תלוי ועומד.

אני לא יכולה להמנע מלתהות: מה קורה למערכת התקנות לבטיחות של Meta?

חשבונות שנחסמו מטעמים שגויים

הכל מתחיל עם הודעה דומה: "חשבון ה-Meta שלך אינו עומד בכללי." הרבה משתמשי Facebook ו-Instagram נחסמו או הוסרו זמנית מחשבונותיהם "עקב חריגה" מכללי Meta, גם כאשר הם מאמינים שהם עמדו בהם.

זו מצב שחווינו ב-Wizcase. מערכת Meta סימנה פריטים רלוונטיים כבלתי הולמים והכריחה את מנהלת הקהל לעבור תהליך ערעור ולספק תעודות שהונפקו על ידי הממשלה.

מאות משתמשים, מנהלי קהל ומנהלי חשבונות תלוננו בפלטפורמות כמו Reddit ופורומים, צ'אטים וערוצי מדיה חברתית אחרים על מצבים דומים. במספר תרחישים בלתי מאושרים, משתמשים איבדו את החשבונות שלהם ואין להם דרך לעשות על כך שום דבר, והם אפילו לא מקבלים הסבר.

"צוות התמיכה של פייסבוק הוא נוראי. לא משנה כמה פעמים אנחנו מספרות להם הכל או מסבירות להם את הכל, הם פשוט לא מבינים" – אמרה משתמשת אחת ברדיט, באשר לאיום על חשבונות שנחסמו. "דבר אחד שאני יכולה לומר מיד הוא שאת לא הולכת לקבל את חשבונך חזרה אלא אם כן היית מוציאה מאות אלפים ביום", הוסיפה משתמשת אחרת.

הבעיה הזו, אף על פי שנראה שהיא משפיעה רק על יוצרי תוכן, היא רק חלק קטן מאתגר גדול יותר.

מטא מנגד לתביעות משפטיות

במשך שנים, Meta משקיעה במתינות תוכן, ובאסטרטגיות חדשות לעבודה על פלטפורמה בטוחה יותר למשתמשים ולהגנה על עצמה מפני תביעות נוספות – התביעה האחרונה היא מצד מנהלי התוכן הקניינים, שכרגע דורשים פיצוי של 1.6 מיליארד דולרים על פיטורין מוניטינים וכדי לפצות על החומר המטריד אליו הוחשפו בעת ניתוח התוכן של Facebook.

חברת הטכנולוגיה נשענת על צדדים שלישיים כדי לעזור עם הסדרת התוכן ומפתחת כלים לזיהוי מקרים בהם התוכן מפר את כללי הפלטפורמה. אף על פי כך, האמצעים האלה לא היו מספיקים והמצב יצא משליטה, במיוחד בין המשתמשים הקטינים.

ב-2021, הציגה Meta תכונות הגנה חדשות, אך זה לא מנע מה סנאט לכלול את Instagram ו-Facebook בין הפלטפורמות שנחשבות למזיקות לילדים בשנה שעברה. המוליך הטכנולוגי נתקל ב-תביעה משותפת שהוגשה על ידי 33 מדינות בארצות הברית בגין אלגוריתם מניפולטיבי ומזיק שלה.

מאז ינואר, שיתפה Meta עדכונים על כלים חדשים לבקרת בטיחות. ביוני, שדרגה החברה את כלי המניעת הטרדה שלה כדי להגן על המתבגרים ב-Instagram, עם התכנית "חברים קרובים" כברירת מחדל ותכונת "מגבלות", כך שרק חברים ובני משפחה אמיתיים יוכלו להתערב בתוכן שנשלח על ידי משתמשים צעירים.

לפני כמה ימים בלבד, החברה הכריזה על החשבונות הנוער החדשים שלה על מנת להגן על מתבגרים ו"להרגיע הורים שהמתבגרים מקבלים חוויה בטוחה". האם זה יהיה מספיק להגנה על הילדים? מה עם המשתמשים המבוגרים יותר?

אקוסיסטמה לא בטוחה

פייסבוק, אינסטגרם ווואטסאפ עדיין מוכתים בתוכן מזיק שמשפיע על משתמשים, מכל הגילאים, מקצועות, וקבוצות חברתיות, וכנראה שזה לא ייפתר בזמן הקרוב.

מחקר שנערך על ידי המרכז למניעת שנאה דיגיטלית (CCDH) ניתח מעל 500 מיליון תגובות באינסטגרם שנעשו בחשבונות של 10 פוליטיקאיות בארצות הברית, וחשף שחברת Meta נכשלה בהסרה או נקיטת פעולה ב-93% מהתגובות הללו.

התביעות הרבות נגד Meta הוכיחו במילא את המאמץ שהחברה משקיעה במניעת תוכן מזיק למשתמשים, וכן בפגיעה ביוצרים, מו"מים ומותגים באמצעות מסננים לא הוגנים וכלים של בטיחות שלא הוטמעו באופן מתאים.

כמובן, זהו נושא מורכב ועמוק שצריך להתמקד בו בעומק, אך אולי הגיע הזמן לקבל את העובדה ש-Meta לא הצליחה להתמודד עם המצב הזה. פתרונות תיקון זמניים לא יפתרו מערכת שהיא למעשה שבורה מהתחלה. כעת השאלה האמיתית היא: כמה משתמשים נוספים צריכים להיות חסומים באופן לא הוגן, מוטעים או מנופים לפני שתתרחש שינוי אמיתי?