פייסבוק טוענת שהכללים שלה חלים על כולם – מסמכי החברה חושפים אליטה סודית המוחרגת מהכללים

הכתבה הוקלטה באולפני הספריה המרכזית לעיוורים ולבעלי לקויות קריאה

מארק צוקרברג אמר באופן גלוי לא פעם שפייסבוק מאפשרת ליותר משלושה מיליארד בני אדם לשוחח באופן שוויוני עם האליטות מעולם הפוליטיקה, התרבות והעיתונות, וכללי ההתנהגות של הרשת חלים על כולם, ללא קשר למעמדם או כמה הם מפורסמים. אלא שבמקביל, החברה בנתה מערכת שמחריגה משתמשים בפרופיל גבוה מחלק או מכל הכללים שלה, כך מתגלה ממסמכים של החברה שנצפו על ידי הוול סטריט ג'ורנל.

התוכנית, הידועה כ"קרוס־צ'ק" או Xcheck, נועדה בתחילה לשמש ככלי בקרת איכות לפעולות שננקטות נגד חשבונות בפרופיל גבוה, כולל דפים של סלבריטאים, פוליטיקאים ועיתונאים. כיום, היא מגנה על מיליוני משתמשי VIP מהליכי האכיפה הרגילים של החברה, כך ניתן ללמוד מהמסמכים. חלק מהמשתמשים עוברים ל"רשימה הלבנה" - כלומר נעשים חסינים לפעולות אכיפה - בעוד שאחרים מורשים להעלות תכנים המפרים את הכללים שאמורים לעבור בדיקה של עובדי פייסבוק, שלעתים לא קורית לעולם.

לעתים, כך מראים המסמכים, הגנה מערכת קרוס־צ'ק על דמויות ציבוריות, שהפוסטים שלהן כוללים תכנים של הטרדה או הסתה לאלימות - הפרות שבאופן שגרתי מביאות להטלת סנקציות על משתמשים רגילים. ב־2019, אפשרה הרשת החברתית לכוכב הכדורגל ניימאר להעלות תמונות עירום של אישה שהאשימה אותו באונס שנצפו על ידי עשרות מיליוני מעריצים שלו לפני שהוסרו על ידי פייסבוק; חשבונות ברשימה הלבנה שיתפו טענות שקריות שבודקי העובדות של פייסבוק אמרו שהן שגויות, כולל הטענה שחיסונים הם קטלניים, שהילארי קלינטון סיפקה כיסוי ל"רשתות פדופיליה" ושהנשיא דאז דונלד טראמפ כינה מהגרים מבקשי מקלט "חיות", כך ניתן לראות במסמכים.

בדיקה פנימית חסויה של נהלי הכניסה לרשימה הלבנה שנעשתה בפייסבוק ב־2019 מצאה שהתעדוף המוענק למשתמשים האלה נרחב וכי "לא ניתן להגן עליו ציבורית".

"אנחנו לא באמת עושים את מה שאנחנו אומרים באופן ציבורי שאנחנו עושים", נכתב בבדיקה החשאית. בבדיקה מכונים נהלי החברה "שבירת אמון" ונכתב בה ש"בשונה משאר הקהילה שלנו, האנשים האלה יכולים להפר את כללי ההתנהגות ללא השלכות כלשהן".

על אף ניסיונות לרסן את התוכנית, גדלה קרוס־צ'ק וכללה לפחות 5.8 מיליון משתמשים ב־2020, כך מראים המסמכים. במאבקה לעשות בדיקת תוכן מדויקת על מבול פוסטים ולהימנע מתשומת לב שלילית, יצרה פייסבוק בתוך הרשת החברתית שכבות בלתי נראות של אליטות.

בתיאור המערכת, הטעתה פייסבוק את הציבור ואת המועצה המפקחת שלה עצמה - גוף שהוקם בחברה כדי לוודא שמערכות הפיקוח והאכיפה של הרשת החברתית עובדות כהלכה. ביוני, הודיעה פייסבוק למועצה בכתב שהמערכת שלה למשתמשים בפרופיל גבוה מקבלת "מספר קטן של החלטות".

בהודעה כתובה אמר דובר פייסבוק, אנדי סטון, שהביקורת על קרוס־צ'ק היא הוגנת, אך הוסיף שהמערכת "תוכננה מסיבה חשובה: יצירת כלי נוסף שיאפשר לנו לאכוף באופן מדויק מדיניות לגבי תוכן שעשוי להצריך הבנה טובה יותר". סטון הוסיף כי פייסבוק דייקה בהתקשרויותיה עם המועצה המפקחת וכן שהחברה פועלת להפסיק את הנוהג של שימוש ב"רשימה הלבנה".

"הרבה מהחומר הפנימי הזה הוא מידע ישן, שנתפר כדי לתאר נרטיב של התעלמות מהנקודה החשובה ביותר: פייסבוק עצמה זיהתה את הבעיות במערכת קרוס־צ'ק ופועלת לטפל בהן", הוסיף.

 מארק צוקרברג / צילום: Associated Press, Mark Lennihan

מסמכים פנימיים חושפים: הרווח מעל הכול

המסמכים המתארים את קרוס־צ'ק הם חלק ממערך נרחב של תכתובות פנימיות שנשלחו בין עובדי פייסבוק ונבחנו על ידי הוול סטריט ג'ורנל. ניתן ללמוד מהן שפייסבוק ידעה, באופן מפורט, שהפלטפורמות שלה מלאות כשלים הגורמים לנזק, לעתים בדרכים שרק החברה עצמה מבינה לעומק. יתרה מזו, מהמסמכים ניתן להבין שלעתים קרובות לפייסבוק אין שום רצון או יכולת לטפל בכשלים האלה.

כתבה זו היא הראשונה בסדרת כתבות המבוססות על מסמכים אלה ועל ראיונות עם עשרות עובדים בחברה כיום ובעבר. לפחות חלק מהמסמכים נמסרו לרשות ניירות הערך (SEC) ולקונגרס על ידי אדם המבקש הגנה פדרלית כחושף מידע מפליל, כך על פי אנשים המכירים את הנושא.

השאיפה המוצהרת של פייסבוק מימיה המוקדמים הייתה לחבר בין אנשים. בזמן שהיא תהליכי ההתרחבות של הרשת ב־17 השנים האחרונות, מרשת של סטודנטים בהרווארד למיליארדי משתמשים בכל העולם, היא נאבקה במציאות המבולגנת של חיבור בין קולות שונים שיש להם מניעים שונים - מאנשים המאחלים זה לזו יום הולדת שמח ועד קרטלי סמים מקסיקניים המנהלים עסקים על גבי הרשת החברתית. הבעיות האלה "אוכלות" כיום את החברה יותר ויותר.

כפי שניתן ללמוד מהמסמכים, הן בארה"ב והן במדינות אחרות, שוב ושוב החוקרים של פייסבוק זיהו את ההשפעות הרעות של הפלטפורמה, בתחומים הכוללים את בריאות הנפש של בני נוער, השיח הפוליטי וסחר בבני אדם. שוב ושוב, על אף שימועים בקונגרס, הבטחות מצד החברה וכמה חשיפות עיתונאיות, החברה לא תיקנה את הכשלים.

לעתים החברה נמנעה מפעולה מחשש שזה יפגע בעסקיה. במקרים אחרים, עשתה פייסבוק שינויים שבדיעבד התגלה שהחמירו את המצב. אפילו יוזמות אישיות של המייסד והמנכ"ל צוקרברג הוכשלו על ידי המערכות והאלגוריתמים שלו.

המסמכים כוללים דוחות מחקר, דיונים של עובדים וטיוטות של מצגות שנועדו להנהלה הבכירה, כולל צוקרברג עצמו. לא מדובר בביקורת של עובדים מתוסכלים אלא בעבודה רשמית של צוותים, שתפקידם היה לבחון את הרשת החברתית ולבדוק כיצד ניתן לשפר אותה.

המסמכים מספקים אולי את התמונה הברורה ביותר אי־פעם על עומק ההבנה שיש לפייסבוק לגבי הבעיות שלה, כולל למנכ"ל עצמו. כמו כן, המסמכים מלמדים שכאשר פייסבוק מדברת בפומבי על הרבה מהנושאים האלה, עם מחוקקים, רגולטורים ובמקרה של קרוס־צ'ק, עם המועצה המפקחת שלה, היא לעתים קרובות נותנת תשובות חלקיות או מטעות, ומסתירה את מידת המודעות שלה לבעיות.

תחום אחד שבו החברה מעולם לא נאבקה הוא הרווחיות שלה. בחמש השנים האחרונות, במהלכן הייתה נתונה לבחינה אינטנסיבית והיו בה דיונים פנימיים ערים, ייצרה פייסבוק רווח של יותר מ־100 מיליארד דולר. החברה כיום מוערכת ביותר מטריליון דולר.

שיפוט קשוח לכולם, כמעט

על משתמשים רגילים, פייסבוק מיישמת מעין כללים קשוחים בהערכה אם פוסטים ממלאים אחר כללי החברה נגד בריונות, תוכן מיני, דברי שנאה והסתה לאלימות. לעתים המערכות האוטומטיות של החברה מוחקות באופן מיידי או "קוברות" תוכן שחשוד בהפרת הכללים מבלי שיעבור בדיקה אנושית. במקרים אחרים, תוכן המסומן על ידי המערכות האלה או על ידי משתמשים מוערך על ידי בודקי תוכן שעובדים בחברות חיצוניות.

צוקרברג העריך ב־2018 שכ־10% מההחלטות להסרת תוכן שעושה פייסבוק הן שגויות בהתחשב בפעולות האכיפה שננקטות, ובכך שהמשתמשים לא מקבלים הודעה איזה כלל הפרו או מקבלים אפשרות לערער על ההחלטה.

במקביל, משתמשים שעוברים בדיקה בקרוס־צ'ק מקבלים כאמור יחס מועדף. פייסבוק תכננה את המערכת כך שתצמצם את מה שעובדיה מתארים במסמכים כ"שריפת יח"צ" - תשומת לב תקשורתית שלילית שמגיעה מאכיפה כושלת נגד VIP מ"הרשימה הלבנה".

אם המערכת הזו של פייסבוק מגלה שאחד החשבונות האלה אולי הפר את כלליה, התוכן לא מוסר - לפחות לא מיד - כך ניתן ללמוד מהמסמכים. התלונה מועברת למערכת נפרדת, שבה מועסקים עובדים במשרה מלאה, והתכנים עוברים מערכות סינון נוספות.

לרוב העובדים בחברה הייתה הרשאה להוסיף משתמשים למערכת קרוס־צ'ק, כך ניתן לראות במסמכים, ובדיקה מ־2019 מצאה שלפחות 45 צוותים בחברה היו מעורבים בהכנסת משתמשים ל"רשימה הלבנה". מסמך פנימי שמגדיר את הקריטריונים של קרוס־צ'ק מציין מאפיינים כמו "ראוי לדיווח חדשותי", "משפיע או פופולרי" או "עשוי להוות בעיית יח"צ".

פורנו הנקמה של ניימאר

כוכב הכדורגל הברזילאי ניימאר התאים בקלות לקריטריונים הללו. עם יותר מ־150 מיליון עוקבים, החשבון של ניימאר באינסטגרם, שבבעלות פייסבוק, הוא אחד הפופולריים ביותר בעולם.

לאחר שאישה האשימה אותו באונס ב־2019, הוא העלה צילומים בפייסבוק וסרטונים באינסטגרם בהם הגן על עצמו - והראה למשתמשים את התכתבויות הוואטסאפ שלו עם המאשימה, שכללו את שמה וצילומי עירום שלה. ניימאר האשים את האישה בניסיון לסחוט אותו.

הנוהל הרגיל של פייסבוק לניהול פוסטים הכוללים "צילומים אינטימיים המועלים ללא הסכמה" הוא פשוט: מחיקה. אלא שניימאר היה מוגן על ידי מערכת קרוס־צ'ק.

 ניימאר. היה מוגן על ידי מערכת קרוס־צ'ק / צילום: Associated Press, Christophe Ena

במשך יותר מיום שלם, המערכת חסמה לבודקי התוכן של פייסבוק את האפשרות להסיר את הסרטון. בדיקה רשמית של המקרה מצאה ש־56 מיליון משתמשי פייסבוק ואינסטגרם ראו את מה שהרשת החברתית עצמה תיארה במסמך פנימי כ"פורנו נקמה" - צילומים שחשפו את האישה למה שאחד העובדים תיאר בבדיקה כהתעללות מצד משתמשים אחרים. "זה כלל שיתופים של הסרטון יותר מ־6,000 פעמים, בריונות והטרדות הקשורות לאופייה של האישה", נכתב בבדיקה.

בהנחיות התפעול של פייסבוק כתוב שלא רק שצילומי עירום לא־מורשים אמורים להימחק, אלא שחשבונותיהם של האנשים שהעלו אותם צריכים להיחסם.

"אחרי שהמקרה הגיע להנהגת החברה", נכתב בבדיקה, "החלטנו להותיר את חשבונו של ניימאר פעיל, חריגה ממדיניות 'הפסילה לאחר עבירה בודדת' שלנו לגבי מחיקת פרופילים".

ניימאר הכחיש את האשמת האונס, ומעולם לא הוגשה נגדו תלונה. האישה הואשמה על ידי הרשויות בברזיל בהוצאת דיבה, סחיטה ומרמה. שני האישומים הראשונים בוטלו והיא זוכתה מהאישום השלישי. דוברו של ניימאר אמר שהספורטאי נצמד לכללי פייסבוק וסירב להגיב מעבר לכך.

המסמכים מעלים עוד כי הרשימות של הפרופילים הרשומים בקרוס־צ'ק היו "מפוזרות ברחבי החברה, בלי מדיניות ברורה או ייחוס. כתוצאה מכך קרוס־צ'ק לא הופעלה על אנשים המהווים סיכון אמיתי בעלי חשבונות נצלניים או מפרים־סדרתיים, ומנגד כן הופעלה על אנשים שלא הגיע להם שהיא תופעל נגדם. כך נגרמו שריפות יח"צ".

בפועל, נראה שפייסבוק יותר חוששת מפאדיחות מאשר מהפחתת הניצול מצד פרופילים בנראות גבוהה. בדיקה אחת בפייסבוק מ־2019 של טעויות רציניות בקרוס־צ'ק הראתה שמתוך 18 תקריות שנבדקו, 16 כללו מקרים בהם החברה שגתה בפעולות שנקטה נגד משתמשים בולטים.

ארבעה מקרים מתוך ה־18 נגעו לפעולות אכיפה שגויות על תוכן, שהעלו הנשיא לשעבר טראמפ ובנו, דונלד טראמפ ג'וניור. פעולות אכיפה שגויות אחרות ננקטו נגד החשבונות של הסנטורית אליזבת' וורן, הדוגמנית סונאיה נאש וצוקרברג עצמו, ששידור לייב של שאלות־ותשובות עם עובדים שלו נקבר לאחר, שאלגוריתם קבע שהוא כולל מידע שגוי.

 הסנטורית אליזבת' וורן. פייסבוק נקטה בפעולות אכיפה שגויות נגד החשבון שלה / צילום: Associated Press, Stefani Reynolds/The New York Times

הסרת פוסטים שחורגים מהכללים

בעבר, פייסבוק יצרה קשר עם משתמשי VIP, שהפרו כללים של הרשת ונתנה להם "חלון זמן לתיקון עצמי" של 24 שעות למחיקת תוכן שמפר כללים לפני שפייסבוק תסיר אותו או תעניש אותם. סטון, דובר החברה, מסר שפייסבוק הפסיקה עם ההטבה הזו, שעדיין הייתה בתוקף בזמן הבחירות של 2020. הוא סירב לומר מתי הנוהל הופסק.

לעתים, הסרת תוכן מחשבונות VIP היה טעון אישור של מנהלים בכירים בצוותי התקשורת ויחסי הציבור, או אפילו מצד צוקרברג וסמנכ"לית התפעול, שריל סנדברג, כך אמרו אנשים המכירים את הנושא.

ביוני 2020, פוסט של טראמפ עלה בעת דיון על הכללים החסויים של קרוס־צ'ק, שנעשה במערכת התקשורת הפנימית של החברה, המכונה Facebook Workplace. כחודש לפני כן, כתב טראמפ בפוסט: "כשמתחילה הבזיזה, מתחיל גם הירי" ("When the looting starts, the shooting starts").

מנהל בפייסבוק ציין שמערכת אוטומטית, שתוכננה לזהות מתי פוסט מפר את הכללים, נתנה לטראמפ ציון 90 מתוך 100, מה שאומר שהייתה סבירות גבוהה שהפוסט הפר את כללי הפלטפורמה. ציון כזה לפוסט של משתמש שגרתי היה מביא להסרתו מרגע שמשתמש אחר היה מדווח עליו לפייסבוק. במקום זה, כפי שהודה צוקרברג בפומבי בשנה שעברה, הוא החליט בעצמו להשאיר את הפוסט של טראמפ ברשת. "ביצוע החלטות בצורה ידנית כזו נראה כצעד שיהיה יותר קשה להגן עליו לעומת מערכת ציון ואכיפה אלגוריתמית", כתב המנהל.

 דונלד טראמפ / צילום: Shutterstock

חשבונו של טראמפ היה כלול במערכת קרוס־צ'ק לפני שנחסם לשנתיים ביוני האחרון. גם חשבונות של בני משפחתו כלולים במערכת, כמו גם חשבונות של חברי קונגרס וחברי הפרלמנט האירופי, לצד ראשי ערים, פעילים חברתיים ומתנגדי משטר.

בעוד שרוב פקידי הממשלה כלולים בתוכנית, היא לא כוללת את כל המועמדים לתפקידים ציבוריים, ובכך לעתים היא מאפשרת למתמודדים בבחירות המתמודדים מחדש על כיסאם, יתרון על פני הצד היריב. הפער הזה בלט במיוחד בערים ובמדינות ארה"ב, כך ניתך ללמוד מהמסמכים, ועובדים חששו שפייסבוק תואשם בפייבוריטיות.

סטון הכיר בחשש הזה אך אמר שהחברה פעלה לתיקון הבעיה. "עשינו מאמצים רבים לוודא שגם במרוצים פדרליים וגם לא פדרליים, מועמדים חדשים וכן מי שמתמודדים על כהונות נוספות ייכללו בתוכנית", אמר.

קרוס־צ'ק כוללת פחות או יותר את כל מי שנמצא בתקשורת באופן שגרתי או שיש להם כמות עוקבים משמעותית, כולל כוכבי קולנוע, מנחים בטלוויזיה, אקדמאים ודמויות אחרות בעלות עוקבים רבים. באינסטגרם, קרוס־צ'ק כוללת חשבונות של משפיענים, כולל בעלי חיים, למשל הכלב "דאג דה פאג".

בפועל, רוב התוכן המסומן על ידי מערכת קרוס־צ'ק לא עובר בדיקות נוספות, כך ניתן ללמוד מהמסמכים. אפילו כשהחברה כן בודקת את החומרים, התוצאה של עיכובים באכיפה כמו במקרה של ניימאר היא, שתוכן שאמור היה להיחסם, מופץ לקהלים גדולים. בשנה שעברה, קרוס־צ'ק אפשרה לפוסטים המפרים את כלליה להיראות לפחות 16.4 מיליארד פעמים, לפני שהוסרו מהרשת, לפי סיכום של התוכנית בסוף דצמבר.

פייסבוק כבר הבינה לפני שנים שהחרגות האכיפה שמעניקה מערכת קרוס־צ'ק אינן מקובלות, עם הגנות שניתנו למה שהחברה מכנה פרופילים נצלניים ומפרים סדרתיים של הכללים, כך ניתן לראות במסמכים. יחד עם זאת, עם השנים התוכנית דווקא התרחבה, ורק בשנה האחרונה נוספו אליה עשרות אלפי חשבונות.

בנוסף לכך, פייסבוק ביקשה מחברות שבודקות עבורה עובדות לשנות רטרואקטיבית את הממצאים שלהן לגבי פוסטים מחשבונות בפרופיל גבוה, וויתרה על עונשים על הפצת מידע שגוי ואפילו ביצעה שינויים מתוכננים באלגוריתם שלה כדי להימנע מהשלכות פוליטיות עליה.

"כרגע אין לפייסבוק חומת אש שמבודדת החלטות־תוכן מלחצים חיצוניים" - כך כתב חוקר בכיר בפייסבוק במזכר מ־2020 שבו תיאר התערבות יומיומיות מצד צוות היח"צ של החברה ומנהליה הבכירים בקביעת הכללים והליכי האכיפה. מזכר מדצמבר שחיבר חוקר מידע אחר בפייסבוק היה בוטה יותר: "פייסבוק עושה ויתורים לגורמים בעלי כוח באופן יומיומי".

קריאות שלא נענו

צוקרברג באופן עקבי הציג את עמדתו לגבי השאלה איך לבדוק תוכן שנוי במחלוקת כגישה של ניטרליות עקרונית. "אנו לא רוצים להיות קובעי האמת", הוא אמר לקונגרס בשימוע בשנה שעברה.

מערכת האכיפה המיוחדת של פייסבוק למשתמשי VIP נבעה מהעובדה שמערכות אוטומטיות ואנושיות לאכיפת תוכן מפשלות פעמים רבות.

חלק מהבעיה הוא משאבים. בעוד שפייסבוק הצהירה בקול גדול על העסקת צבא של בודקי תוכן, היא עדיין לא מסוגלת לעבד עד הסוף את מבול התוכן שעולה לפלטפורמות שלה. אפילו מתוך הנחה שיועסקו בה מספיק אנשים, שיעבדו בדייקנות מספקת, ויקבלו מיליוני החלטות ביום, הם עדיין יכללו כמות רבה של החלטות בפרופיל גבוה, שיש להן פוטנציאל להביא לחברה פרסום שלילי.

פייסבוק רצתה מערכת "להפחתת הדגלים האדומים השגויים ועומס העבודה האנושי", נכתב במסמך פנימי. מערכת קרוס־צ'ק נועדה לעשות בדיוק את זה. כדי לצמצם את החיכוכים עם משתמשים רגילים, החברה שומרת כבר זמן רב על איפול בנוגע להודעות על הסרת תכנים. משתמשים לעתים קרובות מתארים בפייסבוק, אינסטגרם או בפלטפורמות יריבות מקרים שהם מתארים כהסרה שגויה.

פייסבוק שמה לב לכך. הכותרת של מצגת פנימית אחת על הנושא משנה שעברה הייתה "משתמשים מתנקמים בפייסבוק על פעולות שהיא נוקטת". "כל מה שאמרתי היה יום הולדת שמח", כתב משתמש אחד בתגובה להסרה שגויה, על פי המצגת.

"כנראה שפייסבוק לא מרשה כעת להתלונן על גווני צבעים", התלונן משתמש אחר, לאחר שפייסבוק סימנה כ"דברי שנאה" פוסט שבו אמר ש"צבעים בגוון לבן הם הגרועים ביותר".

"משתמשים אוהבים לעשות צילומי מסך המציגים אותנו באור המגוחך ביותר", נכתב במצגת, תוך ציון שהמשתמשים מתרגזים אפילו כשפייסבוק מיישמת את הכללים מתי שנכון ליישם אותם.

אם לחטוף ביקורת ממשתמשים רגילים זה לא נעים, לעצבן משתמשים בולטים עשוי להיות מביך ממש. בשנה שעברה, האלגוריתמים של פייסבוק פירשו לא נכון פוסט ישן של חוסאם אל סוקרי, עיתונאי עצמאי שפעם עמד בראש שירות החדשות של רשת BBC בערבית, על פי "תחקיר האירוע" מספטמבר 2020 שבוצע בחברה.

בפוסט, גינה העיתונאי את אוסמה בן־לאדן, אבל האלגוריתמים של פייסבוק פירשו אותו כמביע תמיכה בטרוריסט, מה שהיה מהווה הפרה של כללי הפלטפורמה. בוחנים אנושיים הסכימו בטעות עם ההחלטה האוטומטית ודחו את הערעור עליה מצד סוקרי.

התוצאה: נחסם חשבונו של סוקרי מהאפשרות לשדר סרטון בלייב זמן קצר לפני שהיה אמור להופיע בפומבי. בתגובה לזה, הוא מתח ביקורת חריפה על פייסבוק בטוויטר וברשת עצמה, בפוסטים שנצפו על ידי מאות אלפי אנשים. פייסבוק שינתה כיוון במהירות, אלא שזמן קצר אחר כך היא הסירה בטעות עוד פוסטים של סוקרי - הפעם דברי ביקורת על דמויות מוסלמיות שמרניות.

סוקרי הגיב בטוויטר: "נראה שלצוותי פייסבוק בערבית חדרו קיצוניים". הציוץ הזה גרם לעוד מהומה בתוך פייסבוק.

להימנע ממבוכות ציבוריות 

לאחר שביקשה החברה משוב מ־41 עובדים, נכתב בדוח על המקרה הזה שקרוס־צ'ק היא לעתים תכופות מערכת "המגיבה ומונעת על ידי תלונות". הדוח סיכם במסקנה שיש להרחיב את התוכנית אפילו יותר, כדי לכלול עיתונאים עצמאיים בולטים כמו סוקרי, כדי להימנע ממבוכות ציבוריות כאלה בעתיד.

כשקרוס־צ'ק כבר כללה מיליוני אנשים בכל העולם, בדיקת כל התוכן תחת סימן שאלה שוב הפכה להר של עבודה.

בתגובה למה שמתואר במסמכים כתת־השקעה כרונית בנושא בדיקת התכנים, צוותים רבים בפייסבוק בחרו לא לאכוף את הכללים על פרופילים בולטים בכלל - נוהג המכונה "הכנסה לרשימה הלבנה". במקרים מסוימים, מעמד חברות ברשימה הלבנה ניתן עם תיעוד מועט לגבי מי העניק אותו ולמה - כך נכתב בבדיקה פנימית של החברה מ־2019.

"הבעיה הזו התפשטה ונוגעת כמעט לכל תחום בחברה", נכתב בבדיקה. בסיכום נאמר שהרשימות הלבנות "מציבות כמה סיכונים מבחינה חוקית, מבחינת לגיטימיות ומבחינת ציות לכללי החברה ומזיקות לקהילה שלנו".

בתוכניות לשיפור קרוס־צ'ק, שתוארו במסמך שיצא ב־2020, נכתב שהחרגות כוללניות ופוסטים שמעולם לא עברו בדיקה נוספת הפכו לליבה של קרוס־צ'ק, מה שאומר שרוב התוכן של אנשי "הרשימה הלבנה" למעשה לא נבדק כלל. "אנו כיום בודקים פחות מ־10% מהתוכן של קרוס־צ'ק", נכתב במסמך. דובר החברה סטון אמר שהחברה שיפרה את היחס הזה ב־2020, אך סירב לספק נתונים מדויקים.

העובדים נשארו מבולבלים

מרחב הפעולה שניתן לפרופילים פוליטיים בולטים לגבי מידע שגוי, נושא שהחברה הכירה בו במידה מסוימת ב־2019, השאיר כמה עובדים שתפקידם להגן על הרשת החברתית מבולבלים. חשבונות בפרופיל גבוה הציגו סיכונים גדולים יותר מפרופילים רגילים, כך אמרו החוקרים, אבל היו נתונים לאכיפה המצומצמת ביותר.

"אנו חושפים משתמשים ביודעין למידע שגוי שיש לנו ההליכים והמשאבים לצמצם", נכתב במזכר מ־2019 על ידי חוקרי פייסבוק, שהכותרת שלו היא "הרשימה הלבנה הפוליטית סותרת את עקרונות הליבה המוצהרים של פייסבוק". אתר הטכנולוגיה The Information דיווח בעבר על מסמך זה.

במקרה אחד, משתמשים פוליטיים הנמצאים ברשימה הלבנה שיתפו מאמרים מאתרי רפואה אלטרנטיבית שטענו שרופא מאוניברסיטת ברקלי, קליפורניה גילה שטיפולים כימותרפיים לא עובדים 97% מהזמן. בודקי העובדות גילו שהמידע שגוי, ציינו שהחומר המדעי מוצג בצורה שגויה והוסיפו שהרופא המוזכר במאמר מת ב־1978.

בתגובה פנימית שפרסם בתגובה למזכר, סמיד צ'קרברטי, מנהל בכיר בפייסבוק שעמד בראש צוות שמתמקד בשיח חברתי ופוליטי ברשת, הביע אי־הנוחות נוכח ההחרגות. "אחת הסיבות היסודיות לכך שהצטרפתי לפייסבוק היא שאני מאמין ביכולתה של הרשת להיות כוח למען הדמוקרטיה, המאפשר לכל האנשים שיהיה להם קול אזרחי שווה", כתב. "כך שהעובדה שיש כללי שיח שונים לאנשים שונים מטרידה אותי מאוד".

עובדים אחרים אמרו שהנוהל אינו תואם את הערכים של פייסבוק. "קבלת ההחלטות בפייסבוק על מדיניות־תוכן מושפעת משיקולים פוליטיים", כתב כלכלן במחלקת מדע הנתונים בחברה. "הפרידו את מדיניות התוכן מיחסי הציבור", המליץ ביוני 2020 קאושיק אייר, שהיה באותו הזמן המהנדס המוביל ב"צוות ההגינות האזרחית" של פייסבוק. חלק מהדברים הללו דווחו בעבר בבאזפיד.

באותו חודש, דנו עובדים ב־Workspace, פלטפורמת השיח הפנימית, ביתרונות ובחסרונות של גילוי־ציבורי על קיומה של תוכנית קרוס־צ'ק. כשההצעה להגדיל את השקיפות זכתה לעשרות ציוני "לייק" ו"אוהבים" במערכת הפנימית של פייסבוק, צ'קרברטי מהצוות האזרחי הכניס לדיון את מנהל המוצר האחראי על תוכנית קרוס־צ'ק.

 מארק צוקרברג בדיון בקונגרס ב-2019 / צילום: Associated Press, Andrew Harnik

שקיפות כלפי־פנים בלבד

החששות לגבי הוגנות היו אמיתיים וקרוס־צ'ק לא נוהלה כהלכה, כתב אותו מנהל מוצר, אבל "עלינו לאזן זאת מול הסיכונים לחברה". בגלל שהחברה כבר היתה בתהליך של תיקון כשלים בתוכנית, הגישה הטובה ביותר תהיה "שקיפות כלפי פנים", כתב המנהל.

ב־5 במאי, המועצה המפקחת של פייסבוק האריכה את השעיית טראמפ מהרשת, לאחר שהאשימה אותו ביצירת סיכון לאלימות לפני הפשיטה על גבעת הקפיטול בוושינגטון ב־6 בינואר. בנוסף, מתחו חברי המועצה ביקורת על נהלי האכיפה של החברה והמליצו לה לנסח את הכללים יותר בבהירות ולפתח כלי ענישה נגד מפרי הכללים.

באחת מתוך 19 המלצות שסיפקו, ביקשו חברי המועצה מפייסבוק "לדווח על שיעור השגיאות ועל העקביות של קבלת ההחלטות דרך תהליך קרוס־צ'ק בהשוואה לנהלי אכיפה שגרתיים".

חודש אחר כך, הודיעה פייסבוק שהיא מיישמת 15 מתוך 19 ההמלצות. ההחלטה לגבי גילוי נתונים ממערכת קרוס־צ'ק הייתה אחת מארבע החלטות שהחברה אמרה שלא תאמץ.

"זה לא ישים לעקוב אחרי המידע הזה", כתבה פייסבוק בתגובתה. "הסברנו את המוצר הזה בחדר החדשות שלנו", כתבה החברה, והוסיפה לינק לפוסט בבלוג שלה מ־2018 שהכריז: "אנו מסירים תוכן מפייסבוק, בלי קשר למי כתב אותו, כשהוא מפר את הכללים שלנו". הבדיקה הפנימית של פייסבוק מ־2019 ציינה בעבר שאותו פוסט בבלוג היה מטעה.

מסמכי קרוס־צ'ק מראים שפייסבוק הטעתה את המועצה המפקחת, כך אומרת קייט קלוניק, פרופ' למשפטים באוניברסיטת סנט ג'ונס. המועצה קיבלה מפייסבוק בתחילת דרכה מימון בגובה 130 מיליון דולר ב־2019, וקלוניק קיבלה מהחברה גישה מיוחדת לבחון את יצירת הקבוצה ואת אופני הפעולה שלה.

"למה שפייסבוק יבזבזו כל כך הרבה זמן וכסף להקמת המועצה המפקחת, ואז ישקרו לה?" תהתה. לאחר שבחנה את המסמכים הקשורים לקרוס־צ'ק לבקשת הוול סטריט ג'ורנל אמרה קלוניק כי המידע שעולה "לגמרי חותר תחת המטרה".

בהודעה כתובה, דובר מטעם המועצה המפקחת כתב שבמקרים רבים, "חבריה הביעו חששות לגבי היעדר השקיפות בתהליכי בדיקת התוכן של פייסבוק, בייחוד בנוגע לחוסר העקביות בניהול חשבונות בפרופיל גבוה".

פייסבוק: קבענו יעד לחיסול נוהל החסינות

פייסבוק מנסה למגר את נוהל הרשימה הלבנה, כך ניתן ללמוד מהמסמכים וכך אישר דובר של החברה. היא קבעה לעצמה יעד של חיסול החסינות המלאה לגבי הפרות "חמורות מאוד" של כללי הרשת במחצית הראשונה של 2021. בעדכון ממרץ דווח שהחברה נאבקת לרסן את כמות החשבונות הנוספים לקרוס־צ'ק.

"רשימות ה-VIP ממשיכות לגדול", כתבה מנהלת מוצר בצוות מניעת הטעויות של פייסבוק. היא הכריזה על תוכנית "לעצור את הדימום" על ידי חסימת האפשרות לעובדי פייסבוק להוסיף משתמשים חדשים לקרוס־צ'ק.

פתרון אפשרי אחד נותר מחוץ לשולחן: אכיפת אותם סטנדרטים של התנהגות על משתמשים בפרופיל גבוה כמו על כל האחרים. "אין לנו מערכות הבנויות להעניק את כל תשומת הלב על פעולות שעשויה להתבצע לגבי הידוענים", כתבה במזכר שלה. כדי להימנע מטעויות שעשויות להרגיז משתמשים בעלי השפעה, ציינה, פייסבוק צריכה לומר לבוחנים לנקוט בגישה עדינה. "אנחנו נקטלג אותם בבדיקות שלנו כמתכוונים לטוב ונפעל ברוח של 'חפים מפשע עד שהוכחה אשמה'", כתבה.

התוכנית, כך כתבה המנהלת, זכתה "ברובה" לתמיכה בהנהגת החברה.

גלובס מפרסם בבלעדיות את סדרת התחקירים של "וול סטריט ג'ורנל" על פייסבוק, שהתבססה על הדלפה של מערך נרחב של מסמכים, מחקרים, מצגות, תכתובות, הודעות דוא"ל ומזכרים פנימיים. מכלול החומרים והכתבות מציגים תמונה שלא הייתה כדוגמתה לגבי המידה שבה החברה מודעת לכשלים ברשת שלה, ועד כמה היא חסרת כל רצון או יכולת לטפל בהם. מהתחקיר ניתן לראות עד כמה החוקרים של פייסבוק זיהו את ההשפעות הרעות של הפלטפורמה בתחומים שונים כגון בריאות הנפש של בני נוער, הקצנת הקיטוב בשיח הפוליטי, סחר בבני אדם ואפילו החרפת מלחמות. לעתים, כך מתגלה, החברה נמנעה מביצוע פעולות מחשש שהן יפגעו בה כלכלית בהמשך ולפעמים, אפילו יוזמות אישיות של המנכ"ל מארק צוקרברג עצמו הוכשלו על ידי המערכות והאלגוריתמים של הרשת החברתית