ישראל, איראן והודו: כיצד פייסבוק מחליטה אילו מדינות מועדות לאלימות פוליטית?

ענקית האינטרנט פייסבוק לא יורדת מהכותרות, וההדלפות מהמסמכים הפנימיים שלה ממשיכות: בתחקיר נוסף שמתפרסם ב-The Verge מתגלה מערכת שמיפתה את כל מדינות העולם מבחינת השקעת משאבים לקראת ימי הבחירות בהן - על מנת למנוע הפרעות, הסתה, ניצול השיח לרעה, ניסיונות התערבות ועוד. מדינת ישראל נמצאת בין עשר המדינות המפוקחות ביותר. למעשה, המערכת מצביעה על האופן בו מחליטה פייסבוק להשקיע את משאבי ניהול התוכן שלה ובאילו מדינות בהתבסס על קריטריונים שאינם פומביים או נתונים לביקורת חיצונית.

המערכת המדוברת נחשפה מתוך מסמכי פייסבוק שהודלפו על ידי הצוותים המשפטיים של פרנסיס האוגן, עובדת פייסבוק לשעבר שסיפקה עשרות אלפי מסמכים לקונגרס ולרשות האמריקאית לניירות ערך. עד עכשיו, הוול סטריט ג'ורנל פרסם בבלעדיות את המסמכים. כעת גופי חדשות נוספים כמו הוושינגטון פוסט, בלומברג ועוד מפרסמים מסמכים מעודכנים יותר. 

  

לפי פייסבוק, ישראל מועדת לפורענות בעת הבחירות

על פי התחקיר, בסוף 2019, התכנסה קבוצת עובדים בפייסבוק שאחראית למנוע את הנזקים והפגיעות שיש בזירה. לקבוצה קראו "Civic Summit" ובה החליטו איפה להשקיע משאבים כדי לספק הגנות משופרות יותר סביב הבחירות הקרובות, וגם איפה לא. בצעד שהפך לסטנדרט בחברה, פייסבוק מיינה את המדינות לפי דרגות. מבחינת פייסבוק, יש למפות את המדינות עם סיכון גבוה לאלימות פוליטית ובהן צריך לפקח יותר.

איך החלוקה עבדה? ב"דרגה אפס" ישנן שלוש מדינות: ברזיל, הודו וארה"ב - הן המדינות בעדיפות הגבוהה ביותר. על מנת לנטר את הרשת והתוכן באופן רציף, פייסבוק הקימה "חדרי מלחמה" ואיישה אותם בעובדים שבוחנים את המידע 24/7. פייסבוק יצרה דאשבורדים כדי לנתח את הפעילות והזהירה את הפקידים המקומיים שאחראים על הבחירות לגבי כל בעיה.

ב"דרגה הראשונה" נמצאת מדינת ישראל, לצד מדינות נוספות כמו גרמניה, אינדונזיה, איראן ואיטליה. מבחינת פייסבוק, אותם המשאבים מושקעים במדינות האלה כמו ב"דרגה אפס", אך פחות משאבים יושקעו לאכיפת החוקים והתראות מחוץ לתקופת הבחירות. למעשה, המדינות שפייסבוק מגדירה כבעלות "סיכון לאלימות פוליטית", זוכות לכלים מסוימים כדי להילחם בתוכן המזיק: תרגום השירות וכללי הקהילה לשפות הרשמיות, בניית מסווגי בינה מלאכותית שיזהה שיח שנאה ומידע שגוי בשפות אלה, איוש צוותים שינתחו תוכן ויראלי ויגיבו במהירות להסתה לאלימות ופגיעות על בסיס תמידי.

 בניין הפרלמנט ההודי, ניו דלהי. לפי פייסבוק, הודו נחשבת כאחת מהמדינות שנמצאות בסיכון הכי גדול בעת בחירות / צילום: Associated Press, Manish Swarup

ב"דרגה השנייה" נוספו עוד 22 מדינות, שלפי פייסבוק הן מדינות שצריך לפקח עליהן, אך לא ייפתחו "חדרי מלחמה" ולא יושקעו בהן משאבים קונקרטיים בדומה למדינות שבראש הרשימה. ול"דרגה השלישית" נכנס שאר העולם - לפי המסמכים, פייסבוק תבדוק את החומר שקשור לבחירות במדינות שבדרגה הזו רק אם הוא יועבר לבחינה על ידי מנהלי התוכן שאחראים על המדינה המדוברת. אחרת, פייסבוק לא תתערב.

פייסבוק בחרה שלא להשקיע במיאנמר, פקיסטן ואתיופיה

לפי התחקיר, במדינות אחרות, כמו אתיופיה, לא מתרגמים את כללי הקהילה לכל השפות הרשמיות. בנוסף, בגלל שאין תמיכה בשפות המקומיות, המסווגים שאמורים ללמוד את המשתמשים לא באמת זמינים. במדינות כאלה אין שותפים לבדיקת עובדות ולא נפתחים חדרי מלחמה של פייסבוק שנועדו להילחם עם מה שקורה במדינה. "עבור חברה רגילה, זה לא שנוי במחלוקת להקצות משאבים בצורה שונה על סמך תנאי שוק. אבל בהתחשב בתפקיד המפתח של פייסבוק בשיח האזרחי - הפערים מעוררים דאגה", כך נכתב בתחקיר The Verge. בתחקיר נקבע שלא היו מסווגים רלוונטים במיאנמר, פקיסטן ואתיופיה - מדינות שהוגדרו בסיכון גבוה ביותר.

מירנדה סיסון, מנהלת מדיניות זכויות האדם של פייסבוק אמרה ל-The Verge שהקצאת המשאבים בצורה הזו משקפת את השיטות הטובות ביותר שהציע האו"ם בעקרונות המנחים שלו לעסקים וזכויות אדם. למעשה, העקרונות קובעים שעל עסקים לבחון את המרחב בו הם פועלים כדי להכין את הפתרון המדויק ביותר. היא אומרת שאפילו במדינות בהן פייסבוק כביכול מגבילה את המשאבים שלה, המערכות שלה מחפשות באופן קבוע סימנים לחוסר יציבות פוליטית או סיכונים אחרים של הסלמה לאלימות. חלק מהפרויקטים, כמו הכשרת מסווגי שיח שנאה חדשים, יקרים ולוקח חודשים רבים להכין אותם. אך התערבויות אחרות יכולות להיות מהירות יותר.

במסמך ממאי 2019 שכותרתו היא "מקסום הערך בבדיקה אנושית" - החברה אמרה שהיא תיצור מכשלים חדשים למשתמשים שמדווחים על שיח שנאה כדי להפחית את העומס על מנהלי תוכן. פייסבוק אף אמרה שיסגרו דיווחים אוטומטית מבלי לפתור אותם במקרה שמעט אנשים ראו את הפוסט או שהבעיה שדווחה לא הייתה חמורה. בנוסף נכתב שב-75% מהמקרים, סוקרים אנושיים גילו שדיווחי שיח שנאה לא מפרים את כללי הקהילה של פייסבוק ועדיף שהבודקים האנושיים ישקיעו את הזמן שלהם בהפרות חמורות יותר.

וכמובן שגם מצטרפים לזה ענייני הוצאות - פייסבוק אומרת שהתקציב שלה בנושא מתבזבז ושהם יצטרכו להפחית את הפעילות כדי לעמוד בו. "הדבר ידרוש הפחתה של ממש בכמות הצפייה עד סוף השנה, דבר שיאלץ להוביל לפשרות", נכתב. עובדים ראו שהפשרות הללו נעשו גם במדינות בסיכון גבוה. לפי תזכיר של אחד העובדים, גם אחרי שמדינה מוגדרת ב"עדיפות", בדרך כלל לוקח לחברה שנה על מנת לבנות מסווג שיזהה שיח שנאה ולשפר את האכיפה בה. "עלינו לתעדף בניית מסווגים למדינות עם אלימות מתמשכת, במקום אלימות זמנית", נכתב.