כך כשלה טוויטר במלחמה נגד פייק ניוז, גזענות וטרולים

פרולוג // גול עצמי

האנטישמים ו"מחסל המתחזים"

יאיר רוזנברג רצה להטריל את הטרולים. רוזנברג, כותב בכיר ב"טאבלט מגזין", אתר פופולרי העוסק בחדשות ובתרבות בזיקה יהודית, נעשה מושא למתקפות אנטישמיות מצד משתמשי טוויטר בזמן שסיקר את הקמפיין לנשיאות ארצות-הברית ב-2016. בכל יום אחר, הוא אומר, זה לא היה מפריע לו - "בדרך כלל היה לי קל לצחוק עליהם ולהתעלם מהם", הוא מסביר - אבל היה סוג אחד של טרולים שקיומם הציק לו במיוחד: כאלה שהתחזו לבני מיעוטים באמצעות תמונות גנובות של אנשים אמיתיים, והסתננו לתוך שיחות עתירות טראפיק כדי להתיז שם ארס. "הקורא התמים היה רואה מישהו שנראה כמו יהודי-חרדי או אישה מוסלמית שאומר משהו ממש פוגעני, ואז הוא היה חושב, אה, המוסלמים דתיים, היהודים דתיים - ושתיהן קבוצות פוגעניות".

אז רוזנברג החליט להשיב מלחמה. הוא חבר לניל צ'נדרה, מפתח מסן פרנסיסקו שאותו לא פגש מעולם, ויחד יצרו בוט-טוויטר ששמו, כמה מתאים, הוא Imposter Buster ("מחסל המתחזים"). מאז דצמבר 2016, הבוט השתחל אל אותם פתילי טוויטר שבעלי החשבונות הכוזבים הסתננו אליהם, וחשף את טיבם האמיתי ("רק שתדעו, החשבון הזה הוא גזען שמתחזה ליהודי כדי להכפיש יהודים").

בתוך זמן לא רב, גם הבוט עצמו זכה למתקפות: מאות גזענים דיווחו עליו לטוויטר בטענה שהטריד אותם. למרבה הפליאה, החברה תמכה דווקא בטרולים, ובאפריל השעתה את הבוט על רקע "התנהגות ספאמית". רוזנברג וצ'נדרה, בסיוע הליגה נגד השמצה, הצליחו להפוך את ההחלטה בתוך שלושה ימים, אבל היעדים שלהם המשיכו להתלונן על הטרדה, ובדצמבר אשתקד שבה טוויטר וחסמה את "מחסל המתחזים" - הפעם, סופית.

סיפורו של הבוט רודף המתחזים ייחודי מבחינות רבות, ואף על פי כן, הוא יכול לשמש גם דוגמה לבעיות רחבות היקף אשר טורדות את טוויטר זה זמן רב: גילויי פוגענות, ניצול אלים של האנונימיות, מלחמות בוטים והחלטות מתמהמהות מצד האנשים שמנהלים את הפלטפורמה. כל אלה רק החריפו מאז שדונלד טראמפ נבחר לנשיאות ובחר בטוויטר כמיקרופון החביב עליו. כיום הפלטפורמה היא הבמה העולמית המרכזית לענייני פוליטיקה וזעם, תרבות ושיח.

 הפוסט ששיתף יאיר נתניהו / צילום מסך מתוך טוויטר

המעמד הזה נוח מאוד גם לכיס: השימוש היומי הציג עלייה בריאה של 12% בהשוואה לשנה הקודמת, ובחודש פברואר דיווחה טוויטר  על הרבעון הרווחי הראשון בתולדותיה, ובכך חתמה 12 חודשים שבמהלכם הוכפל מחיר המניה. יחד עם זאת, מייסד החברה והמנכ"ל שלה, ג'ק דורסי, לא היסס לרגע להתייחס בפומבי לבעיות. בשיחה עם המשקיעים הוא תיאר יוזמה בתחום "איכות המידע", שתכליתה לשפר את התוכן ואת החשבונות בשירות. זוהי מעין הודאה משתמעת בכך שהגורמים הבעייתיים שעדיין נוכחים בפלטפורמה - מחרחרי שנאה, מפיצי ידיעות כוזבות וצבאות בוטים מפוקפקים שנוצרו כדי להשפיע על דעת הציבור - מקשים עליה לגדול (טוויטר לא אפשרה לנו לראיין את דורסי או בכירים אחרים בחברה; במסגרת העבודה על הכתבה דיברנו עם למעלה מ-60 מקורות שרובם, כולל 44 עובדים לשעבר בטוויטר, ביקשו לשמור על עילום שם).

אף שבשנים האחרונות עשתה החברה צעדים משמעותיים כדי להיפטר מגורמים שליליים, היא טרם הצליחה לפוגג את הרושם המתמשך שלפיו, היא פשוט אינה עושה די מאמצים להפוך את הפלטפורמה למרחב בטוח. לא פעם, תגובתה לאירועים שליליים אינה מספקת בעיני המשתמשים. לפעמים היא מצטיירת גם כתמוהה, כפי שקרה כשהחליטה להעניש את רוזנברג במקום את אלה שרדפו אותו.

איך הסתבכה טוויטר בכל הבלגן הזה? למה רק עכשיו היא מתמודדת עם השימוש הזדוני שנעשה בפלטפורמה כבר שנים? בכיר לשעבר בחברה מנסה להשיב: "זו תיבת פנדורה. ברגע שפותחים אותה, לך תחזיר הכול פנימה".

2014-2011// הטרולים בשער

"לכי תתלי את עצמך"

לטוויטר יש עדיין זכויות רבות. בראשית ימיה, המשתמשים עצמם הראו את כוחה להיטיב: תנועות חברתיות גלובליות, מתנגדי משטר, אקטיביסטים וחושפי שחיתויות אימצו את טוויטר, וחופש הביטוי הפך לעיקרון המנחה שלה. היום מתברר שזו הייתה אידיאולוגיה נאיבית: "טוויטר השתכנעה שהמחויבות שלה לחופש הביטוי כל-כך טובה וחשובה, שהבכירים בה פשוט לא הבינו שחוטפים להם את הפלטפורמה ומשתמשים בה לרעה", אומר בכיר לשעבר בחברה.

הבעיה הראשונה שצפה לפני השטח הייתה הספאם: פורנוגרפיה פדופילית, התקפות הפישינג והבוטים הלכו והתרבו. בשנת 2011 כבר היו לטוויטר כמעט 100 מיליון משתמשים, אך צוות האנטי-ספאם שלה כלל ארבעה מהנדסים בלבד. "הם יצרו כלים מינימליים שבמינימליים, בסיסיים עד טיפשות", אומר מהנדס בכיר לשעבר בחברה.

כדי להבין איך כל זה נרקם לבעיה של טוויטר היום, צריך לעמוד על טיבה של מי שעמדה בראש "קבוצת האמון והבטיחות" של טוויטר, שתפקידה להגן על המשתמשים - אישה בשם עמדה דל הארווי (Del Harvey), העובדת ה-25 שהצטרפה לטוויטר. הרזומה שלה לא היה אופייני לעמק הסיליקון: קודם לכן עבדה עם Perverted Justice ("צדק סוטה"), קבוצת מתנדבים שנויה במחלוקת שהשתמשה בחדרי צ'טים כדי לחשוף עברייני מין, וחברה אל התוכנית "לתפוס טורף" של NBC, שם התחזתה לקטינה כדי לפתות פדופילים שנעצרו מול המצלמות. העובדה שלא היו לה רקע טכני מסורתי או ניסיון בניסוח מדיניות, הפכו אותה לדמות שנויה במחלוקת בחברה, אף שתומכיה מצאו שהמסירות שלה לסוגיית הבטיחות מעוררת השראה.

 הבחירות בברזיל, 2014 / צילום: רויטרס -Ueslei Marcelino

בתחילת הדרך "היא הגיבה אישית למשתמשים שנפגעו - דל עבדה בלי הפסקה", מספר אלכס מקגיליבריי, היועץ המשפטי הראשון של החברה, ששימש לימים משנה למנהל הטכנולוגי הראשי בממשל אובמה. "היא התמודדה עם כמה מן הנושאים הכי מורכבים שטוויטר נתקלה בהם. לא את הכול עשינו נכון, אבל לעיתים קרובות המנהיגות של דל תרמה לדברים שכן הצלחנו איתם".

המהנדסים המעטים בצוות של הארווי אומנם יצרו כמה כלים לשימוש פנימי כדי לאפשר לצוות להסיר במהירות תוכן לא חוקי, אבל הם לא היו ערוכים לשיעור התוקפנות המאמיר בטוויטר.

ב-2014 הגיעה התופעה לשיא: אשת הטלוויזיה האוסטרלית שרלוט דוסון הייתה באותה שנה מושאה של מתקפת ציוצים אכזרית - "לכי תתלי את עצמך" - אחרי שהתבטאה בפומבי נגד בריונות ברשת. היא ניסתה להתאבד ואושפזה (מאוחר יותר ניסתה שוב, וגם הצליחה). בקיץ שלאחר מכן, האקטיביסטית קרוליין קריאדו-פרז יצאה בקמפיין לטובת בחירה בדיוקן של אישה לשטר של 10 ליש"ט בבריטניה, ופיד הטוויטר שלה נמלא טרולים ששלחו לה 50 איומים באונס מדי שעה.

מאוחר יותר באותה שנה תנקוט טוויטר בצעד הגדול הראשון שלה, לאחר אירוע מחריד במיוחד (שיתואר בהמשך), אולם כתגובה נקודתית לאירועים האלה, יצרה טוויטר כפתור ייעודי לדיווח על אלימות. הבעיה: זה כבר היה מאוחר מדי, והטרולים בפלטפורמה רק התחזקו.

בדיונים פנימיים התלונן המנכ"ל דאז דיק קוסטולו, על כך ש"כלכלת האלימות היא הפוכה": צריך רק כמה שניות כדי ליצור חשבון בשביל להטריד מישהו, אבל מי שירצה לדווח על התוקפנות, יתבקש להשקיע זמן בלתי מבוטל. צוותה של הארווי, שבאמת ובתמים רצה לבחון את ההקשר של כל דיווח, אבל לא צויד בכוח אדם שיספיק למשימה, פעל לאט. כמה מקורות סיפרו כי לעיתים נדרשו לצוות שלה חודשים כדי להגיב לדיווחים על התבטאויות אלימות.

יותר מכך: מאחר שהצוות לא זכה לתמיכה רב-לשונית הולמת, הוא נדרש להסתמך על כלי התרגום של גוגל כדי להשיב על תלונות רבות שלא נשלחו באנגלית. הם היו כל-כך מוצפים בדיווחים, עד כדי כך שאילו אחד המשתמשים החסומים ערער על חסימתו, לפעמים היו פשוט מסירים אותה ובכך מאפשרים לתוקפים לשוב אל הפלטפורמה. "הם פשוט טבעו", אומר מקור שעבד לצד הארווי, "עד היום מזעזע אותי לחשוב עד כמה גרועה הייתה טוויטר בענייני בטיחות".

במה כן עסקה טוויטר בשנים שהובילו למצב הנוכחי? בהכנות להנפקה בנובמבר 2013. המשמעות הייתה שרוב משאבי ההנדסה שלהם הופנו לצוות שעסק בהגדלת מספר המשתמשים, סוגיה שעמדה במרכז פנייתה של טוויטר לוול-סטריט.

2014 // נקודת המפנה

רק עד שהסכין נוגע בצוואר

גילויי הרעל בפלטפורמה הלכו והתרבו, בעיקר בשווקים הבינלאומיים: טרולים חברו זה לזה כדי להפיץ מסרים מיזוגניים בהודו ומסרים אנטישמיים באירופה. בברזיל, בוטים החלו להשפיע על הבחירות לנשיאות, דבר שהוביל אחד מבכירי החברה לפגוש את נציגי הממשל: "פחות או יותר, כל חבר בסנאט ובבית הנבחרים הברזילאי שאל מה טוויטר עושה לגבי הבוטים האלה", מספר אחד המקורות. לא ידוע מה השיבו נציגי החברה, אבל מקורות שעמם שוחחנו טוענים שטוויטר, ככלל, לא נאבקה בחשבונות אוטומטיים בפלטפורמה. מקור הבקיא בפרטים זוכר כי פעם פנתה החברה בכתב לחוואי בוטים, דרשה שיפסיק את פעילותו ונענתה בהתעלמות. בעיני אותו מקור, מדובר בדוגמה לתגובתה האנמית לנושא.

נדמה שבכירי טוויטר לא היו קשובים למצוקות שמעבר לים, ושגם היא נפלה קורבן לבעיית קוצר הראייה המוכרת בעמק הסיליקון: "בכל פעם שמשהו קרה בארצות-הברית, זאת הייתה טרגדיה של כל החברה", אומר אחד הגורמים הלא-אמריקאים, "ואנחנו אמרנו, 'רגע, לנו זה קורה פה כל יום!'".

רק באמצע שנת 2014, המנכ"ל קוסטולו החליט שהעניין עבר כל גבול. הוא אומנם השאיר את הארווי בתפקיד האחראית על ניסוח מדיניות האמון והבטיחות של החברה, אך מינה מחלקה אחרת על התגובות לתלונות של משתמשים. לא הייתה למדיניות הזו הזדמנות להוכיח את עצמה, כי באותו זמן נכנס שחקן חדש לעולם הטרולים: דאע"ש.

בכירי החברה, שהעלו על נס את ערכי חופש הביטוי, התקשו להתמודד. הם החליטו, למשל, שיאפשרו להציג דימויים של עריפות ראש, אבל "רק עד הרגע שהסכין נוגע בצוואר". שני מקורות מספרים כי החברה מינתה אנשי תמיכה כדי שיחפשו סרטוני עריפת ראשים וידווחו עליהם - כדי שאותו צוות יוכל להסיר אותם. "זה היה הדבר הכי מטומטם בעולם", אומר מקור שעבד לצד הארווי. "הרי כבר החליטו שהמדיניות היא להוריד את התוכן הזה, אבל מצד שני לא רצו לבנות את הכלים בשביל לאכוף את המדיניות הזו".

2015 // שיטת דורסי

תנועת מלקחיים הפוכה

חשוב להגיד שמאז ועד היום, מחקה טוויטר מאות אלפי חשבונות הקשורים בדאע"ש, ואף זכתה לשבחים על גישתה התקיפה, אבל ב-2015 קוסטולו היה מתוסכל. בפברואר 2015 הוא הוציא מזכר לעובדים ובו התלונן שהוא "מתבייש" בכך שטוויטר "ממש גרועה" בכל הנוגע להתמודדותה עם גילויי אלימות. "אם הייתי יכול להחזיר את השעון לאחור, הייתי מתחיל להיות יותר אגרסיבי עוד קודם לכן" הוא אומר לפאסט קומפני ומדגיש שאת האשם יש לתלות "אך ורק במנכ"ל דאז - אני".

פה נכנס הגורם האנושי המשמעותי ביותר: המייסד ג'ק דורסי, שנכנס לתפקיד המנכ"ל אחרי שקוסטולו התפטר מטוויטר בקיץ 2015. דורסי, בעל תואר בספרות אנגלית בין מדעני המחשב, ניסח מחשבות הרות משמעות באשר לעתידה של טוויטר, אבל לא תמיד הצליח לתרגם אותן למהנדסים. "אני אהיה בהלם אם תמצא מישהו ששמע מג'ק ניסוח בהיר ממש של התיזה שלו לגבי טוויטר", אומר בכיר לשעבר בחברה, ומציין שדורסי תיאר את השירות במטאפורות כמו גשר שער הזהב ושקע חשמלי לטוסטר. פעם אסף את סגל המשרד בסן פרנסיסקו כדי "להגדיר את משימתה של טוויטר" - ואז השמיע את "בלקבירד" של הביטלס בעוד הנוכחים כורים אוזן בדממה מבולבלת.

 ג’ק דורסי / צילום: רויטרס - Lucas Jackson

יחד עם זאת, במהלך כהונתו של דורסי הצליחה טוויטר להשתלט טוב יותר על חלק מן הזיהום הוורבלי שפשה בשירות. על פעולות הנגד של החברה מול גילויי האלימות הופקדה טינה בטנגר, יוצאת צוות המכירות, שלא אהבה להתקשקש והייתה מצוידת בסבלנות דלה מאוד להתייפייפויות בעניין חופש הביטוי. בטנגר הגדילה במידה דרמטית את מספר סוכני התמיכה שסיפקו לחברה שירותים במיקור חוץ, והצליחה לצמצם את זמן התגובה הממוצע לתלונות לכמה שעות בלבד. עם זאת, היו שהרגישו שהדגש על הביצועים והנתונים היה מעט מוגזם. "היא הייתה יותר בקטע של 'פשוט תחסמו אותם ודי", אומר מקור שעבד לצדה.

חילוקי הדעות האידיאולוגיים השתקפו גם במבנה הארגוני של החברה, שהותירה את הארווי ואת בטנגר בתחומים נפרדים (המשפטי וההנדסי, בהתאמה) ועם מנהלים נפרדים. "לעיתים קרובות הם עבדו בדיוק על אותם דברים, אבל בגישה שונה לגמרי, זה היה פשוט מטורף", אומר עובד בכיר לשעבר שהרגיש אבוד בין הפלגים. גם אנשים שעבדו לכאורה באותו צוות לא תמיד ראו עין בעין: שלושה מקורות מספרים כי קולין קרוול, סמנכ"ל לענייני מדיניות ציבורית בחברה, סירב פעם לעבוד מול הבוס של הארווי, היועצת המשפטית ויג'איה ג'אד'ה (מחליפתו בתפקיד של מקגיליבריי), בין היתר עקב מחלוקת בשאלת הגישה העדיפה לסוגיות של חופש הביטוי.

המחלוקות היו רבות ותכופות: הצוות של בטנגר היה מחליט לחסום משתמשים שהיו פוגעניים בעיניו, ואז היו גאדה והארווי מחליטות אחרות. "זה שיגע את טינה", אומר מקור שחזה בדינמיקה מקרוב. "היא הייתה הולכת לג'ק, והוא היה מקשיב ורושם לעצמו הערות ואומר, 'תני לי לחשוב על זה'. אבל ג'ק לא היה יכול להחליט כלום בלי לעצבן את התומכים בחופש הביטוי או את התומכים בבטיחות מקוונת, אז ההכרעות לא התקבלו".

תומכיו של דורסי גורסים שהוא לא היה בלתי החלטי, אלא שפשוט לא היו תשובות קלות. המחלוקות שהגיעו עד אליו היו לעיתים קרובות מקרי קצה ביזאריים, כך שהיה קשה להכליל את החלטותיו בקנה מידה רחב. "יכול להיות לך חוק שמנוסח מושלם, אבל אם אי אפשר להחיל אותו על 330 מיליון משתמשים, הוא פשוט לא שווה שום דבר", אומר מקור הבקיא באתגרים שעמם נדרשה החברה להתמודד.

מעבר לזה, דורסי נדרש לטפל אז בדרישות עסקיות אחרות. בתקופה שחזר לתפקיד המנכ"ל, צמיחת המשתמשים עצרה ומניית החברה ירדה בשיעור של כמעט 70% מאז השיא שאליו הגיעה לאחר ההנפקה. החברה עמדה להפסיד יותר מחצי מיליארד דולר ב-2015 לבדה, וכמה עובדים מרכזיים ומוערכים בה עמדו לעזוב. טוויטר אומנם השיקה כמה מוצרים חדשים, ובכללם Moments ותכונות הווידיאו החי שלה, אך התקשתה לרענן את חוויית הליבה שלה. "טוויטר הייתה בבלגן רציני", אומר לסלי מיילי, שניהל את קבוצת ההנדסה שהייתה אחראית על תכונות הבטיחות, עד לפיטוריו בשלהי 2015. "קשה לשמור על אסטרטגיה עקבית כשאתה מחליף סמנכ"ל מוצר כל שנה".

2016 // הבחירות לנשיאות

לתפוס לעולם את ה-@#!

כשהגיע הזמן לבחירות לנשיאות ארצות-הברית, כשבצד הדמוקרטי הייתה הילארי קלינטון (עם כל איכויותיה ובעיותיה), ובצד השני עמד אדם שקצרה היריעה מלהכיל את הפרופיל התקשורתי שלו במלואו - כל ליקוייה של טוויטר עמדו להיחשף לעיני כול בהגדלה יתרה, ועל הבמה העולמית. סוכני התמיכה שלה, אלה שבחנו את התוכן המסומן ודשדשו בביצות האפלות ביותר של המדיה החברתית, היו עדים לסימני האזהרה הראשונים כשדונלד טראמפ החל לעלות בפריימריז.

"ראינו את ההקצנה", אומר אחד מהם. עובד אחר מספר שהעמדות המפלות הלכו והקצינו, ואילו התעמולה והבוטים נעשו אגרסיביים יותר ויותר: "היית מוריד את זה, ותוך דקות זה חזר. תמיכה בנאצים, שנאת יהודים, ממים עם תנורים ו... אוי, הצפרדע... הצפרדע הירוקה הזאת!" (הכוונה היא לפפה, דמות מצוירת ששוחרי העליונות הלבנה ניכסו לעצמם, ושקיבלה בולטות ציבורית גם בישראל, בזכות המם בעל האופי האנטישמי ששיתף יאיר נתניהו, בנו של ראש הממשלה).

ביולי 2016, מתקפת טרולים על "סאטרדיי נייט לייב" ועל כוכבת "מגרשות השדים" לזלי ג'ונס - שאותה ליבה פרובוקטור האלט-רייט מילו יאנופולוס - הפכה לקו פרשת המים במאבקה של טוויטר בהכפשות ובגילויי פוגענות. לאחר שצף הציוצים הגזעניים והסקסיסטיים שהוטחו בג'ונס, דורסי פגש אותה כדי להתנצל פנים אל פנים, והכריז בחברה כי מדובר במצב חירום. טוויטר חסמה את יאנופולוס. היא הגבירה גם את פעולות החסימה שלה, והציגה כלי שאפשר למשתמשים לבחור לסנן מה שהיה בעיני טוויטר "תוכן באיכות נמוכה". הרעיון היה שטוויטר לא תפגע בחופש הביטוי - היא בסך הכול לא תדחף ציוצים בלתי רצויים בפרצוף של משתמשיה.

אלא שהמתקפה נגד ג'ונס הציגה התפתחות אבולוציונית חדשה: ברחבי הפלטפורמה הוצפו צילומי מסך של ציוצים של ג'ונס, שמעולם לא כתבה - אלה היו עיבודי פוטושופ שהציגו תוכן שנוי במחלוקת שג'ונס שיתפה, כביכול. מהלכי דיסאינפורמציה כאלה היו לאחד מסימני ההיכר של בחירות 2016 (ולא רק שלהן), וטוויטר לא אמדה נכונה את עוצמת החזית החדשה הזו במלחמות המידע.

מבין שני הקמפיינים, מחנה טראמפ היטיב לנצל את השירות. כשטוויטר סגרה על עסקת מודעות רחבת היקף מטעם המועמד הרפובליקני, עובדים מן השמאל התלוננו בפני צוות המכירות ודרשו שיפסיק לקבל את ה"כסף המחורבן" של טראמפ, אך השאלה אילו חומרים אמורה טוויטר לאפשר נותרה שנויה במחלוקת עד הסתיו - אז חזרה בה החברה מהעסקה בעקבות ההאשטג של מחנה טראמפ CrookedHillary#. "היה דיון סוער וג'ק התלבט", אומר גורם שהיה מעורב בנושא. "הוא הוריד את השאלטר בדקה התשעים". בתגובה, תומכי טראמפ טענו שטוויטר מוטה פוליטית.

ב-8 בנובמבר הוכו עובדי החברה בהלם נוכח תוצאות הבחירות המסתמנות, ובבוקר שלאחר ניצחונו של טראמפ היו משרדיה הראשיים של טוויטר לעיר רפאים. העובדים החלו סוף-סוף לתת את הדעת על התפקיד שמילאה הפלטפורמה שלהם לא רק בעלייתו של טראמפ, אלא גם בקיטוב ובהקצנה של השיח.

"לכולנו נפל האסימון", אומר מנהל צוות מוצר דאז, ומוסיף שכולם שאלו אותה שאלה: "זה אנחנו שיצרנו את המפלצת הזאת?".

בחודשים שלאחר ניצחונו של טראמפ, רבים מן העובדים ציפו להתייחסות ישירה של דורסי לתפקיד שמילאה טוויטר בבחירות, אך כתריסר מקורות סיפרו כי המנכ"ל כמעט לא התבטא בנושא בדיונים פנימיים. "אתה לא יכול לקחת קרדיט על האביב הערבי בלי לקחת אחריות על דונלד טראמפ", אומר לסלי מיילי, מנהל הבטיחות לשעבר.

2017 // "מירוץ הפוגענות"

טוויטר מתחילה להתאפס

כשהביקורת הלכה וגברה - הן מצד הציבור הרחב והן מצד הקונגרס האמריקאי - בגין חלקה בהפצה של דיסאינפורמציה, דורסי הסמיך את המהנדסים הבכירים אד הו ודייוויד גסקה לתקוף את הבעיות של טוויטר בכל החזיתות. בפברואר 2017, במסגרת מה שאנשי החברה כינו "מירוץ הפוגענות", הנהיגה החברה אמצעים אגרסיביים יותר לחסימה תמידית של משתמשים שליליים בפלטפורמה ולסינון מוצלח יותר של תוכן פוגעני ובלתי איכותי. "ג'ק נהיה קצת אובססיבי", אמר אחד המקורות בעניין. "אנשי ההנדסה בכל מחלקה התבקשו להפסיק לעבוד על מה שלא יהיה שהם עובדים עליו, ובמקום זאת להתמקד בבטיחות".

פעולותיה של טוויטר בתחום הבטיחות, שהתנהלו בעבר על גבול הבדידות הארגונית המזהרת, החלו להתבצע בזיקה הדוקה יותר לצד המוצר-למשתמש של החברה. התוצאות היו חיוביות: במאי 2017, לדוגמה, לאחר שעמד על היקף התוכן הפוגעני שהמשתמשים נחשפים אליו דרך פונקציית ההודעות הישירות של טוויטר, הצוות האחראי על המוצר הציע להנהיג תיבת דואר משנית, שתיועד לתוכן גרוע, בדומה לתיקיית ספאם.

גם קורבנות עבר של אלימות בטוויטר הודו שאמצעי הבטיחות החדשים של החברה אכן מועילים. "אני חושבת שטוויטר עושה עבודה טובה ולא מקבלת עליה מספיק קרדיט", אומרת בריאנה וו, מפתחת שהייתה קורבן מרכזי למתקפות מצד קולקטיב טרולים, שתקף בשנת 2014 נשים בולטות בתעשיית המשחקים. "רוב איומי הרצח שאני מקבלת בזמן האחרון מגיעים בפייסבוק או באימייל, כי טוויטר מצליחה ליירט אותם לפני שאני בכלל רואה אותם", היא מוסיפה בנימה עליזה להפתיע.

באוקטובר החלה טוויטר להנהיג בתחום המדיניות ותכונות הפלטפורמה כמה שינויים שיסודם בייחוס חשיבות לתרבות הדיון ולאמירת אמת, ולא רק לחופש הביטוי ויהי מה. לדוגמה, אף שאיומים ברצח נתקלו תמיד בתגובה תקיפה, כיום גם התייחסות אוהדת אליהם בכל הקשר שהוא מביאה לחסימה זמנית.

יחד עם זאת, האמצעים הנחושים הללו לא שמו קץ לבעיות המתמשכות בשירות: אחרי אירוע הירי ההמוני בפארקלנד בפברואר, כמה מן התלמידים הניצולים הפכו לקורבנות של אלימות רשת, ונטען כי בוטים הקשורים ברוסיה הפיצו דיסאינפורמציה והתבטאויות בשבח כלי ירייה. אבל איש לא יכול להאשים את טוויטר שעמדה מנגד.

 הפגנות במצרים ב־2011, תחילת האביב הערבי / צילום: רויטרס -Yannis Behrakis

אחד הגורמים הדוחקים בדורסי להמשיך במגמה הוא וול סטריט: בשיחת משקיעים שהתקיימה באחרונה, אנליסט מגולדמן זקס דרש לדעת מה עושה החברה כדי להיפטר מבוטים ולאכוף מדיניות אבטחה. "איכות המידע", השיב דורסי, היא כעת "עבודת הליבה" של טוויטר.

2018 // המחוקקים

תם עידן השיטור העצמי

בוולנטיינ'ז האחרון נכנס הסנאטור מארק וורנר למשרדו הפינתי המהודר בבניין המשרדים הארט, המשמש את הסנאט האמריקאי בוושינגטון הבירה, מזג לעצמו מים מחוזקים בוויטמינים, והסביר בהרחבה מדוע עמק הסיליקון צריך לתת את הדין על תפקידו בבחירות 2016. בתור סגן היו"ר הדמוקרטי של ועדת המודיעין של הסנאט, וורנר נחשף לשימועים מתוקשרים ולתדריכים מסווגים, אבל הפעם מדובר גם בנושא אישי מבחינת האיש שמתאר את עצמו כ"בחור של טכנולוגיה" ועשה הון כשהשקיע בטלקום בשנות ה-80.

וורנר הוא מן העומדים בראש החקירה שמנהלת הוועדה באשר להתערבות הרוסית בבחירות בארה"ב - חקירה העוסקת יותר ויותר בכוחן הגדל והבלתי מרוסן של ענקיות הטכנולוגיה, שלדעתו צריכות להתגבר על ה"יהירות" שלהן ולתקן את הפלטפורמות שהן מפעילות. "אחד הדברים שממש הרגיזו אותי היה התגובה הראשונית של חברות הטכנולוגיה, שרצו לנפנף אותנו", אמר ורכן לפנים בכיסא העור שלו. "היה צריך הרבה לחץ בשביל שהן יתחילו לפתוח את הפה".

את הביקורת החריפה ביותר הוא מותח על טוויטר. החברה, הוא אומר, ניסתה למרוח זמן הרבה יותר מאשר פייסבוק וגוגל. "כל מה שטוויטר עשתה, היא עשתה אחרי פייסבוק", התלונן וורנר בקולו המחוספס ופניו האדימו: "הם עובדים על הניסוח!".

טוויטר אכן הייתה היחידה שלא עמדה בדדליין שנקבע כדי להשיב לוועדת המודיעין, ה-8 בינואר, ואם לא די בכך, כמה שבועות לאחר מכן חשפה החברה כי בוטים הקשורים לקרמלין הצליחו להפיק יותר מ-450 מיליון מופעים, מספר גבוה פי כמה מכפי שנטען קודם לכן.

וורנר ציין שקיים שיחות אופליין ישירות עם מארק צוקרברג, אבל לא עם דורסי. הוא חייך כשאמר בלעג שאולי החברה אינה ערוכה להשקיע בעניין משאבים בסדר גודל של פייסבוק או גוגל, כי "המודל העסקי שלה יותר מורכב ופחות רווחי".

עכשיו השאלה היא איזו צורה עשויה ללבוש ההתערבות הממשלתית. וורנר הציע כמה צעדי מדיניות רחבי היקף, כולל רגולציות אנטי-מונופוליות ורגולציות בתחום פרטיות המידע, אבל הדבר שעשוי להשפיע על טוויטר ועל המתחרות יותר מכול יהיה אם יישאו באחריות לתוכן המתפרסם בפלטפורמות שלהן. כאשר נשאל הסנאטור אם האיחוד האירופי, שהיה תקיף יותר ברגולציות שהשית על תעשיית הטכנולוגיה, עשוי לשמש מודל לעניין, הוא השיב: "אני שמח שהאיחוד האירופי עובד. אני חושב שהם יותר נועזים מאיתנו".

אם הממשל אכן יתחיל לקחת חלק פעיל יותר בפיקוח על הרשתות החברתיות, אין ספק שעלולות להיות לכך תוצאות בלתי צפויות. בארה"ב, במקום להמתין לממשל הפדרלי או להנחיה בינלאומית, המחוקקים במדינת מרילנד, בניו-יורק ובוושינגטון כבר עובדים על רגולציה של תעמולה פוליטית ברשתות חברתיות. כמו שאמר וורנר, עידן השיטור העצמי של עמק הסיליקון תם ונשלם.

וורנר מאמין שלפני שעמיתיו ייגשו למלאכת החקיקה, מנכ"לי חברות הטכנולוגיה צריכים להעיד בפני הקונגרס. "אני רוצה את כולם, לא רק את דורסי. אני רוצה את מארק ואני רוצה את סרגיי (ברין) ולארי (פייג', מייסדי גוגל)", הוא אומר. "אל תשלחו את עורכי הדין שלכם, אל תשלחו את אחראי המדיניות שלכם. הם חייבים לציבור האמריקאי הסבר".

אפילוג // מה עושים?

אלו הם המים

בין שהממשל הפדרלי יתערב ובין שלאו, כדי להגן על הרשתות החברתיות הגדולות מפני ניצול לרעה יהיה צורך בפתרונות שטרם הומצאו. "אילו היה מטה קסם שהן היו יכולות לנופף בו כדי לפתור את האתגר הזה, עם המשאבים והניסיון המשמעותיים שיש להן, הן היו עושות את זה", אומר גרהאם ברוקי, סגן מנהל מעבדת המחקר הפורנזי הדיגיטלי של המועצה האטלנטית.

ובכל זאת, יש כמה וכמה דברים שטוויטר יכולה לעשות כדי להגן על הפלטפורמה שלה. השימוש בטכנולוגיה כדי לזהות בוטים נבזיים הוא סוגיה מורכבת, אבל טוויטר יכולה לתייג את כל החשבונות האוטומטיים ככאלה, מה שלא יפגע בפידים הלגיטימיים, אבל יקשה על בוטים רוסיים להתחזות לתומכי טראמפ אמריקאים.

טוויטר יכולה גם לעשות יותר כדי להניא אנשים מיצירה של תוכן שנוי במחלוקת מלכתחילה, אם תבטיח שהכללים שלה יהיו גלויים ונוחים יותר לעיכול.

החברה יכולה גם להגביר את האמון אם תנהיג שקיפות של ממש, לא רק כסיסמה, ותחשוף בפני משתמשים ומשווקים יותר מידע באשר לאופן המדויק שבו טוויטר פועלת ותשתף פעולה עם חוקרים חיצוניים. בהשוואה לענקיות המדיה החברתית האחרות, המודל העסקי שלה אינו נסמך עד כדי כך על אלגוריתמים סודיים שתכליתם לעשות כסף מן הנתונים ומדפוסי ההתנהגות של המשתמשים שלה - מה שמאפשר לה להיות פתוחה באופנים שהמתחרות אינן ערוכות להם בדרך כלל.

נוכח הנטייה השיתופית הזו, ובהשראת מחקר שערכו המלכ"ר קורטיקו והמעבדה למכונות חברתיות ב-MIT, בחודש מארס הודיעה טוויטר שתנסה לאמוד את "בריאות השיח" שלה. היוזמה הזו היא מהלך מעניין ומסקרן, אבל היא נשמעת דומה במידה מטרידה לוועדת האמון והבטיחות של טוויטר, שהתכנסה בפברואר 2016 כדי לאפשר לעורכי דין, אקדמאים וארגונים חברתיים לספק משוב בעניין גישתה של החברה לבטיחות.

רבים מן העובדים לשעבר בטוויטר אינם מעוניינים במדדים, כי אם בהכאה על חטא. מקור אשר דן בעניין עם בכירי החברה אמר ש"התגובה שלהם לכל דבר הייתה מין, 'תקשיב, אנחנו שומעים מה שאתה אומר, אבל אתה לא יכול להאשים את טוויטר במה שקרה. אם זה לא היה אנחנו, זה היה איזה מדיום אחר'. הבכירים לא רצו להכיר בעובדה שאנחנו אחראים, וזאת אחת הסיבות שהתפטרתי".

שבוע לאחר הצגת יוזמת הבריאות, הציג דורסי מעין הכאה על חטא בשידור וידיאו חי בן 47 דקות בטוויטר. "נעשה טעויות - אני בטוח עוד אטעה", אמר. "זה מה שעשיתי בעבר בכל הנושא של בטיחות, פוגענות, דיסאינפורמציה ומניפולציה בפלטפורמה".

דורסי ניסה להתייחס לשאלות ששלחו המשתמשים, אבל מאות ההערות שהופיעו על המסך בזמן אמיתי הבהירו את היקף האתגר הממתין לטיפול. עם התמשך השידור נמלא הפיד בעלבונות אנטישמיים והומופוביים, בתלונות מרירות מפי משתמשים החוששים שטוויטר מונעת מהם לבטא את אמונותיהם, ובקריאות נרגשות המבקשות מן החברה לעצור את הגזענות. דורסי החליק על זקנו, הביט במסך הטלפון שלו וראה את הדיבור הרע שוצף לו הלאה, בעודו מחפש את הטוב.