האנשים שמנקים את הרשת מסרטוני זוועות, אלימות ומין

בדקה שחלפה מאז שקראתם את כותרת הכתבה הזאת, הצצתם באיור שמלווה אותה וקראתם את המשפטים שמרכיבים את כותרת המשנה שלה, עלו ליוטיוב כ-500 שעות של וידאו, בפייסבוק התפרסמו כ-2.5 מיליון פוסטים ומספר אסטרונומי של תמונות וסרטונים, לטוויטר עלו כ-450 אלף ציוצים, ובאינסטגרם הופיעו יותר מ-55 אלף תמונות חדשות. אולם, אף שהתוכן מוזרם ללא הרף אל הרשתות החברתיות וגורם להן להתרחב ולהתנפח כמו היקום עצמו - לא כולו נשאר בו.

פועלים אלמוניים, שמעטים מודעים לעצם קיומם, מופקדים על סינון התוכן. הם לעולם לא יצליחו לראות את כל התמונות, הסרטונים וההגיגים שכולנו מעלים לרשתות החברתיות כדי לזעום, למחות, להרשים, לעורר רחמים או לעשות למישהו רע בנשמה, אבל הם מנסים. התכנים נעים מכאלה הנתפסים כ"בלתי הולמים" (גזענות, הסתה, עירום, תכנים מיניים) ועד לתהומות העמוקים ביותר בגיהינום עלי אדמות שכולנו בעולם המערבי מקפידים להדחיק כדי לשמור על שפיות: התעללות בבעלי חיים, פורנוגרפיית ילדים, רצח, אונס, הוצאות להורג, וכמובן כל זוועה חדשה מבית היוצר של דאעש.

האנשים שמנקים את הרשת מסרטוני זוועות, אלימות ומין

 אלימות/צילום: רויטרס

העובדים האלה צריכים להחליט מה יאושר ומה יימחק, ואין להם זמן להתעמק. עובדים בחברות שמספקות את שירותי ניטור התוכן לחברות כמו גוגל, פייסבוק וטוויטר מספרים שמצופה מהם לעבור על 25 אלף תמונות במשמרת. זה אומר 52 תמונות בדקה. מי שלא יעמוד בקצב יילך הביתה. רובם - עשרות אלפים, אבל אף אחד לא יודע כמה בדיוק - נמצאים במנילה שבפיליפינים. הם לא מועסקים ישירות על-ידי ענקיות הטכנולוגיה האמריקאיות אלא על-ידי חברות חיצוניות שמשלמות להם בין דולר לשלושה דולרים לשעת עבודה. אם הם יעשו טעויות שיסבכו את המעסיקים הלא ישירים שלהם, אלו יוכלו לגלגל את האחריות הלאה. אם הם יתלוננו שהחשיפה המתמשכת לתכנים פוגעת בנפשם, ניתן יהיה להתעלם מכך או להשתיק את הטענות בקלות. הם הרי לא באמת עובדים בפייסבוק, בגוגל או בטוויטר.

"מנקי האינטרנט", סרטם התיעודי של האנס בלוק ומוריץ רייזוויק הגרמנים שמוקרן בימים אלו בערוץ yes דוקו וב-STINGTV, מאיר בפעם הראשונה את עולמם האפל של אלו שעוסקים בעבודה הקשה והמאוד לא מתגמלת הזו. מאז שענקיות האינטרנט, ובראשן פייסבוק, סופגות ביקורת ציבורית קשה על חלקן בהפצת פייק ניוז ותכנים מפלגים סביב בחירות 2016 בארצות-הברית, הן הגדילו בצורה ניכרת את מאמציהן לשלוט בתוכן שמופץ באמצעות הפלטפורמות שלהן. אם הן לא יעשו את זה, הן יודעות, הרגולציה שתיתפר למידותיהן תעשה את זה בשבילן. משום כך, בעוד שמספרם של "מנקי האינטרנט" רק הולך וגדל, הלחץ שעל כתפיהם של אותם אנשים מתגבר גם הוא. הם יודעים שאישור מוטעה של תוכן שמוגדר כ"בעייתי" אינו אופציה, ולכן הם מעדיפים לא לקחת סיכונים ופוסלים תוכן שנוי במחלוקת. ההחלטות הללו, מדגים הסרט היטב, משפיעות על העולם שבו אנחנו חיים.

 בלוק ורייזוויק יוצרי הסרט מנקי האינטרנט / צילום: Konrad Waldmann

שקיפות? הצחקתם אותנו

רייזוויק אומר שהוא ובלוק, שניהם בני 32, החלו לשאול את עצמם שאלות לגבי סינון התוכן ברשתות החברתיות עוד במארס 2013. "קראנו על כך שאלפי משתמשים גילו בניוז-פיד שלהם סרטון של ילדה קטנה שנאנסה על-ידי גבר", הוא מספר בראיון ל-G. "לפני שהסרטון נמחק מפייסבוק הוא שותף משהו כמו 4,000 פעמים ושאלנו את עצמנו מדוע זה קורה, איך הוא הגיע לשם ומי מחק אותו. סרטונים מהסוג הזה אפשר כמובן למצוא באינטרנט, אבל לא מוצאים אותם לעיתים קרובות ברשתות חברתיות.

"התחלנו תחקיר וניסינו לברר אם יש מישהו שמסנן את מה שאנחנו רואים ברשתות החברתיות או שמלאכת הסינון הזאת נעשית באמצעות אלגוריתמים או אינטליגנציה מלאכותית. אחרי שקצת התקדמנו עם התחקיר, גילינו שיש הרבה מאוד אנשים שמבצעים את מלאכת הסינון הזאת בצורה ידנית, ושרוב העבודה הזאת נעשית במיקור חוץ במדינות מתפתחות ובמיוחד בפיליפינים. כמובן שרצינו מאוד ליצור קשר עם האנשים הללו וללמוד מהם על העבודה שלהם".

רק אחרי שהשניים גילו את כל זה ופרסמו כמה מהממצאים הללו באמצעות עיתונאים שהם הכירו, הם קיבלו פנייה מחברת הפקה שהציעה להם להפוך את התחקיר לסרט תיעודי. "לא היה לנו שום ניסיון בתחום, וזה כמובן הסרט הראשון שלנו", אומר בלוק.

רייזוויק טוען שלאורך תהליך העבודה על הסרט, הוא ובלוק לא זכו לשיתוף פעולה מצד פייסבוק, טוויטר וגוגל - לא בתחקיר, לא בבקשות לראיין אנשים בתפקידי מפתח באותן חברות, וגם לא בניסיונותיהם לקבל מהן תגובות, אחרי שהסרט היה ערוך ומשובץ להקרנת הבכורה שלו בפסטיבל סאנדנס האחרון.

 אלימות/צילום: רויטרס

"החברות הגלובליות המוכרות אינן אלו ששוכרות את האנשים בפיליפינים, והן עושות את כל מה שהן יכולות כדי להסתיר את מהות העבודה ואת שם התפקיד", אומר רייזוויק. "הן אפילו משתמשות במילות קוד. במקרה של פייסבוק, למשל, רשת קטנה של סטודנטים פיליפינים שסייעה לנו עזרה לנו לגלות שהעובדים נדרשים לספר לעולם החיצון שהם עובדים ב'פרויקט גירית הדבש'. אסור להם לדבר עם אף אחד על העבודה שלהם, על המעסיקה שלהם ועל מה שהם עושים בה. אפילו לא עם בני המשפחה שלהם.

"אחרי שגילינו את שם הקוד הזה, יכולנו לאתר את האנשים הללו בקלות רבה יותר. בשלב הזה, היינו צריכים למצוא דרכים לשכנע אותם להתראיין לסרט שלנו מבלי לגרום להם לנזק מפני שגילינו שכולם חתמו על הסכמים נוקשים מאוד שמחייבים אותם לא לספר דבר על אודות העבודה שלהם. בסופו של דבר, אחרי ראיונות עם הרבה מהם, החלטנו להשתמש בסרט בראיונות עם עובדים לשעבר בלבד. היה קשה להפוך את הסרט הזה למציאות כי החברות הללו בונות סביבן עולם מאוד סודי בניגוד לכל הטענות שלהן על שקיפות".

"בכל פעם שפנינו אל גוגל ופייסבוק ושאלנו איך הן מפקחות על התוכן שעל הפלטפורמות שלהן, בכלל לא קיבלנו מהן תגובה", מוסיף בלוק. "אני חושב שהן לא רוצות לדבר על התחום הזה. צוקרברג אומר שהוא רוצה להפוך את העולם שלנו לפתוח יותר ומחובר יותר, אבל מהתחקיר שלנו למדנו שאין שום פתיחות בחברות הללו; שיותר ויותר חלקים מהחיים החברתיים שלנו עברו לעולם הדיגיטלי, ושהציבור אינו יודע שום דבר לגבי המדיניות, החוקים או החוקה של העולם שאנחנו למעשה חיים בו כיום. למעשה, פייסבוק התחילה לדבר על הנושאים הללו רק לאחרונה מפני שהעיתונות לחצה עליה".

 בכירים בגוגל טוויטר ופייסבוק / צילום: רויטרס Jonathan Erns

"לשטוף להם את המוח"

לעבודה מסוג כזה, באופן טבעי, יש מחיר כבד, ממש כמו שעבודה במפעל מזהם עלולה לגרום למחלות כבדות. רק בשבוע שעבר, למשל, דווח על כך שעובדת לשעבר של חברה קבלנית בשירות פייסבוק, הגישה לבית משפט בקליפורניה בקשה לאישור תביעה ייצוגית נגד הרשת החברתית, בטענה שפייסבוק הפקירה את בריאותה הנפשית. החשיפה לתכנים הקשים שהיא נאלצה לסנן, היא טוענת, גרמה לה ולרבים אחרים לסבול מפוסט טראומה של ממש. בבקשה נטען כי אנשי ניטור התוכן של החברה הקבלנית "מופצצים באלפי סרטונים, תמונות ושידורים חיים של התעללות מינית בילדים, אונס, עינויים, יחסי מין עם חיות, כריתות ראש, התאבדויות ורציחות... פייסבוק מתעלמת מחובתה לספק סביבת עבודה בטוחה, ובמקום זאת היא יוצרת דלת מסתובבת של עובדי קבלן הסובלים מטראומות בלתי ניתנות לריפוי בשל מה שהם היו עדים לו בעבודה".

מפייסבוק נמסר בתגובה על כך, כי היא "לוקחת את התמיכה באנשי ניטור התוכן שלנו מאוד ברצינות... אנו מבטיחים שכל אדם שמנטר תוכן בפייסבוק יקבל גישה למקורות תמיכה פסיכולוגית וסיוע לבריאות הנפשית והגופנית שלו".

אלא שהמציאות העולה מ"מנקי האינטרנט" מראה שהדבר ככל הנראה רחוק מהמציאות. "זו עבודה קשוחה מאוד ולקח לנו זמן מסוים לגלות את ההשפעה שיש לה על העובדים", אומר רייזוויק. "זה קרה רק אחרי שבילינו איתם יותר זמן והכרנו אותם טוב יותר והם נפתחו איתנו. למדנו מהם שלעיתים קרובות מאוד יש להם בעיות".

מה למשל?
"היה עובד אחד שראה הרבה סרטונים של פיגועים והוא ממש נמנע מללכת למקומות צפופים ופתוחים; מישהי אחרת סבלה מבעיות אכילה; מישהו אחר מאימפוטנטיות. וכמובן מקרה שהראנו בסרט שבו מישהו שעבד בצוות שהיה אחראי על ניטור מקרים של פגיעה עצמית - התאבד בעצמו בתלייה מול הלפטופ שלו".

אחרי אותה התאבדות, מספר בלוק, ניסתה החברה הקבלנית שהעסיקה את העובדים לשכנע אותם שההתאבדות כלל אינה קשורה לעבודתו של אותו מועסק. "הם ממש עשו פגישות וניסו לשטוף להם את המוח ולטעון שזה קשור לסיבות פרטיות, אף על פי שאותו עובד נפגש עם מנהל הצוות שלו וביקש ממנו לעבור לתפקיד אחר שבו הוא לא יצטרך לראות אנשים מתאבדים", אומר בלוק. "בעיניי, מקרים כאלו הם עוד סיבה לכך שהרשתות החברתיות מעסיקות את מנטרי התוכן שלהן באמצעות מיקור חוץ ולא ישירות. ככה הן לא צריכות לקבל אחריות על דברים מהסוג הזה".

בלוק מספר גם שהוא ורייזוויק גילו שנושא ההתמודדות עם לחץ נפשי הוא עוד תחום שבו קיימים הבדלים משמעותיים בין עובדים שמנטרים תוכן באירופה לבין אלו שעושים זאת בפיליפינים. לדבריו, "מנטרי התוכן האירופאים הרבה יותר מודעים לזכויות שלהם ולא מתביישים לדרוש לממש אותן. הם, למשל, דורשים לקבל טיפול נפשי או תמיכה נפשית. בפיליפינים, התרבות היא כזאת שלא מאפשרת לאנשים להתלונן. זה פשוט לא בדנ"א התרבותי. אנשים שם גם לא מדברים זה עם זה על הקשיים שלהם".

אז איך בכל זאת מצליחים להחזיק מעמד בעבודה כזאת?
"פסיכולוגים שדיברנו איתם אמרו לנו שהאנשים הללו מנסים ליצור לעצמם נראטיב שיאפשר להם לבצע את העבודה הזאת בצורה יומיומית. יש אנשים שאומרים לעצמם שהם עושים את זה מטעמי דת, וזה סוג של משימה דומה למה שישו עשה - לקחת על עצמו את חטאי המין האנושי על מנת להפוך את העולם למקום טוב יותר - ושהם בעצם עושים את אותו הדבר בעולם המקוון. אחרים מאמצים את הנראטיב של נשיא הפיליפינים, רודריגו דוטרטה, שהצהיר על עצמו שתפקידו הוא 'לנקות את החברה' ולהעלים מן העין פושעים ונרקומנים. במציאות, זה אומר שעשרות אלפי אנשים נרצחו ברחובות ומה שהעובדים הללו עושים זה פשוט להעלים את הבעיות ולא להסתכל למציאות בעיניים ולהתמודד איתן. היה לנו מרואיין שאמר לנו שהוא בעצם עושה את מה שדוטרטה עושה במדינה - שומר על הניקיון. אני חושב שזה מאוד מסוכן".

כך או אחרת, שני היוצרים אומרים שהם גילו שרוב מנטרי התוכן של הרשתות החברתיות הגדולות עוזבים את העבודה אחרי פרק זמן ממוצע שנע בין חצי שנה לשנה. הם פשוט לא מסוגלים להתמודד יותר עם הזוועות שהם נחשפים אליהן. זה יותר מדי בשבילם. דיברנו גם עם מישהו שעושה את זה כבר שבע שנים שזה מטורף, אבל בדרך כלל ההשלכות של זה קיצוניות מדי".

ההבדל בין זוועה לסאטירה

חלק משמעותי מהסרט עוסק לא רק בתכנים הקשים מאוד שנאלצים העובדים בפיליפינים לסנן, אלא גם בשאלה מתי צריך לסנן את התוכן, ומתי יש חשיבות היסטורית שמחייבת את השארתו, למרות חוסר הנעימות שהוא גורם. זו שאלה קשה ומורכבת, והיא מתחדדת מאוד בעיקר נוכח העובדה שהצעירים האלה בפיליפינים, שעושים את העבודה הסיזיפית הזו בשכר זעום ובעומס לא פשוט, לפעמים עושים טעויות קריטיות, שגורמות לכך שמידע חשוב מסונן והולך לאיבוד.

"חברות הסינון טוענות שיש להן חוקי קהילה מאוד ברורים, אבל בתחקיר שלנו גילינו שאין בהם שום דבר ברור", אומר בלוק. "למעשה, נראה שההחלטות של העובדים מאוד מושפעות מהרקע התרבותי שלהם ואין להם בעצם הרבה מושג או יכולת ליצור הקשרים סביב חלק ניכר מהתוכן שהם נדרשים לסנן. משום כך, הרבה מאוד טעויות מתרחשות מדי יום".

 אלימות/צילום: רויטרס

כדי להדגים את הטעויות האלה, משתמשים שני הבמאים לאורך הסרט בסצנות קצרות, שבהן הם מושיבים את המרואיינים שלהם מול מסכי מחשב ומייצרים סימולציה של העבודה שהם נדרשים לבצע במשרד. באחת מהן, הם מראים לאחד העובדים לשעבר תמונה מכלא אבו גרייב בעיראק, שבמערב לפחות כבר נחשבת לאייקונית: בתמונה רואים חייל אמריקאי לבוש במדי הסוואה אוחז בקולרו של כלב שחור ומטיל אימה שחושף את שיניו כלפי אסיר עיראקי באוברול כתום שכורע ברך על הרצפה בעוד ידיו אזוקות מאחורי גבו.

העובד נדרש על-ידי הבימאים לעשות את מה שהוא נדרש לעשות כל יום בעבודה - להחליט אם למחוק את התמונה או לאשר אותה. אלא שהפיליפיני, כנראה שצעיר מדי בשביל להכיר את התמונה או את שערוריית ההתעללויות שמאחוריה. הוא לא ידע שבתגובה למסכת ההתעללויות באבו גרייב ולמידע שדלף מדי פעם מהכלא האמריקאי הסודי בוונטאנאמו, החליטו ארגוני הטרור האסלאמיים להלביש את בני הערובה שחטפו בדיוק באותם בגדים שהאמריקאים הלבישו את האסירים שלהם. הדמוגרפיה והגיאוגרפיה מחקו את ההקשר, שבלעדיו הופכת המציאות שבה אנחנו מתנהלים למרק סמיך של אירועים חסרי פשר.

כך שהמרואיין מהסס מול התמונה ומסביר לבימאים מדוע הוא מתלבט: "משמאל אנחנו רואים את האיש של דאעש שמחזיק את הכלב", הוא אומר ומצביע על החייל האמריקאי. "ופה", הוא מצביע על האסיר העיראקי המפוחד, "אנחנו רואים את בן הערובה שלו. זו שיטת עינויים של דאעש. נמחק את התמונה הזאת".

מיד לאחר מכן הוא מסביר מדוע צריך למחוק תמונה של פעוט לבוש חיתול שרוע פשוט זרועות על חול ים; העובדה שהמצולם הוא ילדון סורי שטבע למוות במהלך ניסיונה של משפחתו להימלט לחוף מבטחים, ושמדובר באחת מכמה תמונות שהיכו גלים ברחבי העולם, כלל אינה ידועה לו.

האמן חאלד בארקה שפועל מברלין, מספר בסרט שהוא פרסם כמה מתמונות הילדים הסורים הטבועים בחשבון הפייסבוק שלו, אולם שאלו נמחקו ממנו ללא הסבר: "ניסיתי ליצור איתם קשר בכל דרך, אבל זה היה בלתי אפשרי, ואז החלטתי שאם אני רוצה להראות את התמונות הללו, אני צריך להדפיס אותם ולקלף את הציפוי של התצלום. אני מוציא את הקורבן מהתמונה ואז אפשר להראות אותו בלי להשתמש בתירוץ הזה שלהם. לפעמים אני שואל את עצמי מי האנשים הללו שמחליטים מה מותר ומה אסור בפייסבוק. ההיגיון הוא שהרקע שלהם אחראי לדרך שבה הם חושבים".

בסצנה נוספת מסביר עובד אחר מדוע לדעתו כדאי למחוק מהרשת את התמונה זוכת הפוליצר של הילדה העירומה ומכוסת הכוויות, שנסה על חייה מהפצצה אמריקאית במלחמת וייטנאם. "על-פי ההנחיות, כשמדובר באברי מין ובקטינים מוחקים את זה", הוא מסביר. לאחר מכן מסביר עובד אחר מדוע חייבים למחוק קריקטורה שבה מצויר נשיא טורקיה, רג'פ טייפ ארדואן, כשהוא אונס את הלוגו המכונף של טוויטר. העובד שנדרש לקבל החלטה לגבי הקריקטורה, שנוצרה בגלל החלטת הנשיא לחסום את הגישה לרשת בארצו, לא מתלבט הרבה. "זה גבר זקן שעושה סקס עם ציפור", הוא מנמק. "צריך למחוק כל דבר שקשור ליחסי מין".

ניואנסים, אירוניה, סאטירה והקשרים תרבותיים והיסטוריים מושטחים תוך שברירי שנייה. אף אחד מהעובדים, שלעיתים מפרנסים את משפחתם המורחבת כולה באמצעות העבודה הזו, לא רוצה לקחת סיכונים. בטח שלא בשביל דבר אמורפי כמו חופש הביטוי. מה תהיה ההשפעה של כל זה על מהלך ההיסטוריה בעתיד? איש אינו יודע.

"רוב האנשים בעבודה הזאת לא מקבלים הדרכה ספציפית אלא עוברים על תוכן שמגיע אליהם מכל העולם", אומר בלוק. "יש אומנם צוותים קטנים שעשויים לטפל בתוכן שקשור לנושא ספציפי כמו טרור, אבל הם במיעוט. למדנו שיש על העובדים לחץ עצום להגיע למספר התמונות שנדרש מהם לטפל בו מדי יום, כך שאין להם זמן להתעמק. בתנאים הללו הם לא יכולים להבחין בין סתם אלימות לבין סצנה מסרט או ממחזה, או סאטירה או שיש לה ערך חדשותי. אלו לא החלטות שאפשר לקבל בשניות".

בירת ניטור התוכן של העולם

כשהם נשאלים מדוע לדעתם זה קורה דווקא בפיליפינים, השניים משיבים תשובה מקורית ומעמיקה, שחושפת הקשרים היסטוריים רחבים: "במהלך התחקיר שלנו גילינו שבעוד שפייסבוק מעסיקה אנשים שמנטרים תכנים בכל מיני מקומות בעולם, רובם נמצאים בפיליפינים ומועסקים על-ידי חברות חיצוניות, אז שאלנו את עצמו מדוע מנילה היא בירת ניטור התוכן", אומר בלוק.

"הסיבה הראשונה היא כמובן שהפיליפינים היא מדינה שיש בה שכר נמוך, אבל יש סיבות אחרות לכך שהעבודה לא נעשית במדינות כמו פקיסטן או הודו. לפיליפינים יש היסטוריה של קולוניזציה: ספרד כבשה אותה במשך 300 שנה, ארצות-הברית כבשה אותה במשך 100 שנה".

ואיך זה קשור?
"לכך שלפיליפינים יש לכאורה את אותם ערכים שיש לאנשים בעולם המערבי, אפילו שהחוויה שלנו שם הייתה שונה מאוד. רבים מהעובדים הצעירים שנחשפים לתוכן מכל העולם פשוט לא מצליחים לעשות את זה כמו שצריך. העובדים באירופה שעושים את העבודה הזאת - והם כמובן המיעוט - מקבלים הכשרה טובה יותר ויודעים יותר על המדיניות".