אפקט אווטאר: כך עובד צבא הרובוטים של הפייק ניוז

פרק ראשון | בובת הבבושקה נפתחת

העניין הציבורי במניפולציות מקוונות על דעת הקהל עלה בצורה ניכרת בשנה החולפת, לאחר שנודעו ממדי ההתערבות הרוסית בבחירות בארצות הברית. הפצת הפייק ניוז, שמומחים סבורים שהשפיעה על תוצאות הבחירות, נעשתה בשתי דרכים עיקריות: הראשונה והמרכזית כללה קנייה ושתילה של מודעות, שהכילו מידע מסולף ומפלג; הדרך השנייה הייתה הפעלת פרופילים מזויפים ברשתות החברתיות. הפרופילים הללו רכשו לעצמם חברים, ניסו להתחבר לבעלי השפעה על דעת הקהל, ואז הפציצו אותם במסרים.

במסגרת חקירת הקונגרס סביב ההתערבות הרוסית בבחירות, הודיעה פייסבוק כי היא חסמה 470 פרופילים מזויפים שנוהלו על-ידי רוסיה, אולם חוקר הרשתות החברתיות פרופ' ג'ונתן אולברייט טען לאחרונה בוושינגטון פוסט כי מספרם גבוה בהרבה. לטענתו, עשרות מיליוני משתמשים נחשפו לפוסטים של הפרופילים הללו, המכונים "אווטארים" וכפי שהדברים נראים כעת, יש להניח שניסיונות מניפולציה דומים רק יילכו ויתגברו בשנים הקרובות.

 אווטארים במספרים / צילום: רויטרס Dado Ruvic ,Kacper Pempel ,Jonathan Ernst

את מהות ה"אוואטר" ניתן לגזור משמו: מדובר במילה הינדית שמשמעותה התגלות האל בבני אדם, ובהשאלה - טכנולוגיה המאפשרת למשתמש אינטרנט "להתגלם" בגופו הקיברנטי של משתמש אחר, כמו רוח רפאים שמדברת מתוך גרונו של המדיום. אלא שהפעם זו לא הרוח שפועלת מתוך המכונה, אלא המכונה שמפעילה את הרוח: בניגוד לטרול אינטרנטי אנושי, שפותח חשבון פיקטיבי ברשת החברתית ומתחזק אותו במו אצבעותיו, האווטארים נשלטים מרחוק באמצעות אלגוריתמים שמקבלים הנחיות מאנליסטים אנושיים.

חברה מסוימת יכולה להפעיל צבא של אווטארים, ולהחליט ש-500 מהם יטפטפו לרשת פריט תוכן או לינק בפרק זמן מסוים, ש-500 אחרים יחלקו את אותו תוכן בקבוצות סגורות שהם הצליחו להסתנן לתוכן, שאלף אחרים יחלקו את אותו פריט מידע עם רשת החברים האמיתיים שלהם, ושעשרת אלפים אחרים רק יעניקו לו לייק.

אלו כמובן רק דוגמאות כלליות, אבל חופש הפעולה הוא אינסופי והאנליסט האנושי כמובן שאינו צריך לצאת ולהיכנס לכל אחד מהחשבונות הללו באופן פרטני; תוכנת השליטה בצבא הזומבים הדיגיטליים דואגת לכל זה. בעין בלתי מזוינת, בלתי אפשרי לדעת אם פרופיל מזויף מופעל בצורה ידנית או ממוחשבת, אבל אם בנקודת זמן מתפתח ברשת קמפיין שלא מריח לכם אותנטי, ניתן להניח שאלו שדוחפים אותו הם אווטארים.

פרק שני | הדילמה של פייסבוק

קשה לדעת אם ישראל מובילה בתחום יצירת האווטארים, אולם אין ספק שמתחת לרדאר פועלות פה כמה חברות שמייצרות את היישויות הדיגטליות הכמעט-עצמאיות הללו, מגדלות ומטפחות אותן כדי שייראו אותנטיות, ואז מוכרות את שירותיהן לגורמים שונים - ממפלגות, דרך חברות עסקיות וגופים גדולים במגזר הציבורי, ועד ממשלות זרות. מה שמחבר בין כל הלקוחות השונים הללו הוא הרצון להשפיע על דעת הקהל לטובתם. חלקם רוצים להיבחר או להשמיץ את המתחרים הפוליטיים שלהם. אחרים רוצים לחזק מותג, לקדם רגולציה מסוימת ולמנוע רגולציה אחרת.

אבל ישנו עוד גורם שמחבר בין כל הגופים ששוכרים את שירותיהם של יצרני האווטארים. דווקא מפני שהם מבינים את כוחן האדיר של הרשתות החברתיות בשנים האחרונות, ומעוניינים לעשות מניפולציות על דעת הקהל באמצעותן, הם גם יודעים שאם מצג השווא של האותנטיות יתגלה ויקושר אליהן, הנזק יהיה אדיר. אם יש דבר שכולם יודעים, זה שהציבור לא שוכח ולא סולח כשהוא מגלה שמנסים לעשות עליו סיבוב.

החשש הזה, כמו גם העובדה ששימוש באווטארים מפר את תנאי השימוש בפייסבוק ועלול להוביל לתביעות עתק, מייצר סביב התעשייה קשר חזק של שתיקה. מעטים מסכימים לספר על הנעשה בה ועל דרכי הפעולה שלה, והבודדים שמוכנים לשפוך מעט אור על שיטות העבודה של אמני המניפולציות הללו אינם מוכנים לעשות זאת בשמם.

גורמים פעילים בתחום טוענים כי העובדה שפייסבוק פועלת בשנה האחרונה ביתר שאת להסרתם של פרופילים פיקטיביים, נובעת רק מכך שהנושא זוכה לתשומת לב ציבורית רבה. "זה ברור שלפייסבוק יש ניגוד אינטרסים בתחום הזה", אומר אדם שמנהל קמפיינים שבהם הוא עושה שימוש בשירותיה של חברה שמייצרת, מגדלת ומפעילה אווטארים. "הפרופילים הללו עושים לפייסבוק הרבה כסף כי הם מקדמים תכנים של עצמם כדי להגביר את התפוצה של המסרים. רק בשנה האחרונה, כשזה נהיה מוגזם וחשיפת השימוש הנרחב באווטארים יצרה לפייסבוק בעיית יחסי ציבור, הם התחילו לפעול נגד התופעה".

פייסבוק לא אפשרה לגלובס לשוחח עם איש או אשת מקצוע בחברה, שיוכלו לספר על היקף התופעה, על מספר הפרופילים המזויפים שהיא מסירה מדי יום משרתיה, וגם לא על הרווחים שפייסבוק עושה מפעילותם של הפרופילים המזויפים (שמפעיליהם מקדמים בתשלום את התכנים שהם עצמם שותלים על מנת להעצים את האפקט שלהם). זו לשון התגובה שהעבירה החברה:

"פייסבוק משקיעה זה מכבר הן במניעת היצירה של חשבונות מזויפים והן בזיהוי והסרה של חשבונות אלה, באמצעות חידושים טכניים. אנו מגבירים את ההגנה שלנו נגד חשבונות מזויפים שנוצרים ידנית ומשתמשים בטכניקות אנליטיות חדשות, כולל למידת מכונה, כדי לחשוף ולשבש עוד סוגים של פגיעה. אנחנו בונים ומעדכנים מערכות טכניות כל יום כדי להקל על מתן תגובה לדיווחים על פגיעה, מאתרים ומסירים ספאם, מזהים ומוחקים חשבונות מזויפים ומונעים פגיעה בחשבונות. ביצענו שיפורים לאחרונה כדי לזהות את החשבונות הלא אותנטיים הללו יותר בקלות על ידי זיהוי תבניות של פעולה, בלי להעריך את תכני החשבונות עצמם. לדוגמה, המערכות שלנו עשויות לאתר פרסומים חוזרים של אותו תוכן או סטיות בנפח יצירת התוכן. בצרפת, למשל, מאז 13 באפריל, שיפורים אלה אפשרו לנו לאחרונה לנקוט פעולה כנגד יותר מ 30,000-חשבונות מזויפים. אנו נוקטים גישה רבת-ממדים כדי לסייע במיתון סיכונים אלה: יישום חדשנות בתחומים של גישה לחשבונות ושלמותם, כולל זיהוי חשבונות מזויפים והרחבת הגדרות הפרטיות והבטיחות שלנו ומגוון האפשרויות הקיים".

פרק שלישי | חבר של חבר של מישהו

"בישראל שווה יותר להפעיל אווטארים בפייסבוק מאשר בטוויטר", אומר הייטקיסט בכיר הבקיא בנעשה בתחום. "בטוויטר בישראל קשה להתחבר לקהלים משמעותיים כי השימוש בטוויטר פה הוא מאוד ברנז'אי ומצומצם. יהיה לזה פחות אימפקט ולמשתמשים שנמצאים שם, האווטארים ייראו פחות אמינים. לו אני הייתי לקוח, בכלל לא הייתי טורח לפעול שם. בפייסבוק, לעומת זאת, כדאי לך מאוד לעבוד. אתה יכול ללכת לחברה שמייצרת ולקנות ממנה איזה פרופילים שאתה רוצה. זה מתחיל מכמה דולרים לפרופיל, אבל יש כמה מודלים של תמחור. למשל, פרופיל ייחודי ומשפיע יכול לעלות לך אלפי דולרים. הלקוח רוצה לראות שהפרופיל הזה מושך אנשים אחריו. תכניס למשל אווטאר לקבוצה של הליכודניקים החדשים ותוכיח לי שהפרופיל הזה מייצר הודעות שאנשים מעתיקים אותן ועושים להם שיירים ולייקים ושהוא חודר למעגלים של השפעה. על דבר כזה משלמים הרבה כסף". 

חברה שמייצרת פלטפורמה המאפשרת יצירת וניהול  אוואטרים היא WEBINTROPRO מהרצליה, המציגה את עצמה כיצרנית וכספקית של מגוון שירותים מודיעיניים ברשת. מוצר HIWIRE Connect של החברה, נכתב באתר שלה, מיועד לניהול כמה אווטארים במקביל בפלטפורמות צ'ט כמו פייסבוק, מסנג'ר, ווטסאפ, טלגרם ואחרות. HIWIRE P.O.I נועד לזהות פרופילים ספציפיים ברשתות חברתיות שונות על-פי פרמטרים כמו פופולריות, סנטימנס, פלטפורמה, פעילות, השפעה ואחרות.

למוצר אחר של החברה קוראים HIWIRE Kindergarten, וכפי ששמו רומז, הוא מתואר כמוצר ש"מגדל ומתחזק אלפי יישויות ומוודא שהן יהיו מוכנות למשימות עתידיות. הישויות החברתיות הללו ייצרו טביעות רגליים וירטואליות ריאליסטיות מלאות כולל לייקים, שיירים, פוסטים של תוכן מקורי ואינטראקציה קבוצתית. העצימו את המודיעין האנושי באמצעות ישויות חברתיות בוגרות לחלוטין". לפני שנמשיך, חשוב להדגיש כי בשוק ישנן חברות רבות נוספות שמייצרות אווטארים. על פי אחד המרואיינים בכתבה, ישנן כ-40 כאלו.

מנכ"ל ומייסד WEBINTPRO הוא שי שילר, בן 56, ממושב בני ציון. שילר היה בעבר בכיר בקומברס ועמד בראש גיאו אינטראקטיב (שהפכה לאימבלייז) עד שפרש ממנה עקב חילוקי דעות עם אלי רייפמן, אחד ממייסדיה. בשנת 2000 הוא החל לעבוד כשותף מנהל בקרן ההון סיכון קונקורד וב-2002 התמנה ליו"ר חברת סי.טי.איי בריבוע. במשך כמה שנים הוא עסק בהשקעות פרטיות ובתחילת 2011 הקים יחד עם ערן ירקוני את קרן ההשקעות קפיטל נייצ'ר שהשקיעה בסטארט-אפים בתחום הקלינטק. דמות ידועה מאוד בעולם ההייטק הישראל מתארת אותו כ"איש רציני מאוד ועם הבנה טובה של טכנולוגיה ומכירות".

שילר סירב להתראיין או להשיב על שאלותינו. הוא לא הסכים להתייחס לטענה שאווטארים מנוגדים לתנאי השימוש של פייסבוק ולכך שהרשת החברתית מנסה בחודשים האחרונים למחוק כמה שיותר פרופילים מזויפים. גם שאלותינו בעניין המניפולציות על דעת הקהל בשנה החולפת נותרו ללא מענה. שילר הסכים רק לומר כי "אווטארים הם לא נושא טכנולוגי. (הם) בשימוש נרחב על-ידי אנשים וממשלות, מאתרי היכרויות ועד רשתות חברתיות. יש חברות שירותים רבות בתחום". בהמשך נמסר מגורמים המקורבים לחברה כי לא מכרה מעולם ולו אף אווטאר אחד.

אדם שהשתמש בשירותיו של יצרן אווטארים אחר, מספר שהלקוח יכול להישען לאחור ולצפות בפעילותו של האווטאר ממש כפי שהיה עושה לו רכן מעל כתפו של אדם שפועל ברשת חברתית: "אתה ממש רואה את העכבר זז על המסך ובוחר תצוגת פרופיל, מגדיר תחומי עניין, עושה לייקים".

"יצרן אווטארים יכול לייצר לך 100 אלף פרופילים, אבל אין טעם", אומר הייטקיסט בכיר. "המתוחכמים רוצים להיכנס למקומות שבהם יש לפרופיל השפעה, ואז צריך להכניס אותם למקום הנכון ושהם ייראו לגיטימיים. השפעה זה להיכנס לקבוצה שבה מאזינים לך או מחליפים מידע מסוים או שיש לה אינטרס מסוים. להכניס מישהו לקבוצה זה לא פשוט. אנשים מכירים זה את זה, ואז אתה צריך להיראות כמו חבר של חבר של מישהו. ככל שהקבוצה גדולה יותר, ההיכרות האינטימית יורדת, אבל גם בקבוצות כאלו יש שומרי סף. אבל אלו שרוצים להשפיע פוליטית, הולכים על מעגלים רחבים יותר - קבוצות שיש בהן עשרות אלפי משתמשים. שם אף אחד לא חושד, אבל אנשים מחפשים מידע. כשאתה מסתכל מה עשו הרוסים כדי להשפיע על הבחירות בארה"ב, אתה רואה שהם השתמשו בפרופילים שבעיקר ייצרו רעש ולכן לא הייתה בעיה לאתר אותם. פייסבוק הסירה אותם במהירות ומשום כך הם לא היו שווים הרבה. קנו או ייצרו אותם באלפים".

תהליך בנייתו של פרופיל פיקטיבי משמעותי, אומר איש ההייטק, דומה לעבודת מודיעין. "כשאתה יוצר פרופיל, הוא לא מתחיל לייצר רעש תוך יום. הוא צריך להיות מקובל במעגל מסוים, הוא צריך לספר סיפורים אמינים שעושים שילוב של מידע מה'חיים' שלהם ופה ושם מידע פוליטי או עסקי שהמפעילים שלו רוצים לקדם. יהיו בו למשל תמונות מיום ההולדת של הילדים, או תמונות של חברים, ורק פעם ב... יגיע המסר הפוליטי או העסקי. אם תראה פרופיל שבו יש רק פוליטיקה או רק אומרים כמה שמותג מסוים מעולה או רק יופיעו שורה של לינקים אחד אחרי השני ואז איזו תמונה של משהו - מיד תבין שזה לא פרופיל אמיתי. קל מאוד לזהות את זה בעיניים אנושיות וגם באמצעים טכנולוגיים ולכן זה לא שווה הרבה. אם, לעומת זאת, מרכיבים פרופילים בצורה הדרגתית ולאורך זמן, יש לזה ערך".

פרק רביעי | אווטאר בשירות הביון

כל מי שבקיא בתחום, מספר שהרבה לפני שגורמים פוליטיים ועסקיים החלו להשתמש באווטארים כדי להפעיל מניפולציות על דעת הקהל, ארגוני ביון של מדינות הבינו את פוטנציאל הרשתות החברתיות ועשו בהן שימוש. "כל שירותי המודיעין בעולם עובדים עם כלים כאלו כבר שנים, ובניגוד לחובבנים, הם לא משאירים אחריהם סימנים", אומר בעל חברה שפועלת בתחום.

"הכלי של שימוש באווטארים נולד בשירותי הביטחון לפני שמונה או עשר שנים והוא איפשר להם להפעיל סוכן אלגוריתמי בלי לסכן מקור אנושי", אומר אדם אחר שמפעיל אופרציית מעגלי השפעה בטוויטר. "אם הסוכן הזה נחשף, הוא מתאייד ולא צריך לדאוג למשפחה שלו ולא לחילוץ שלו. מעבר לכך, הכלי הזה מאפשר לאנשים שלא מעוניינים למסור מידע למדינת אויב ולעסוק בריגול בפועל, לעשות זאת בלי להרגיש שהם פוגעים בביטחון הלאומי של ארצם. תחשוב על מדען גרעין איראני שמתכתב עם מישהו בנסיבות חברתיות, וככה אפשר לגלות עליו הרבה וגם לסחוט אותו בכל מיני אופנים".

בעל אופרציית הטוויטר אומר שבעוד שמערכות ביטחון השקיעו השקעות עתק ביצירת אווטארים אמינים, עם המעבר לשוק האזרחי הסטנדרטים ירדו. "אווטאר של ארגון ביון יכול לשבת על המדף שלוש שנים שבהן הוא צבר לעצמו שביל תודעתי ויצר מעגלי היכרויות אמיתיים. הוא לא נשלח לזירה מיד. הוא נבנה. מה שקרה זה שככל שהמוצר הזה נכנס לשוק האזרחי וההפעלה שלו נעשתה באמצעות תוכנה - מה שהוזיל מאוד את המוצר - אז נוצרו גם הטכנולוגיות שמזהות את האווטארים ומסירות אותם מהרשת. כיום אפשר לזהות אותם בקלות, אבל גם לשטות בהם או לגלות את המפעיל שלהם. בעולם הפוליטי זה לא נעים ובעולם העסקי זה מבוא לתביעות ענק. אם אתה נחשף, הנזק עולה על התועלת המצטברת".

פרק אחרון | כמה זה באמת משפיע?

למרות כל המאמצים, שאלת האפקטיביות של הניסיונות להשפיע על דעת הקהל באמצעים מניפולטיביים כמו אלו שתוארו - פתוחה לדיון. תוצאותיו הראשוניות של מחקר שערכו חוקרים מאוניברסיטת ניו יורק ומאוניברסיטת סטנפורד העלו כי לפייק ניוז הייתה השפעה "מועטה ביותר אם בכלל" על דפוסי ההצבעה בבחירות האחרונות בארצות הברית. לטענת עורכי המחקר, רק 8% מהבוחרים נחשפו בכלל לאייטמים מזויפים חדשותיים לכאורה.

עם זאת, סקר של מכון המחקר PEW מצא כי 64% מהאמריקאים אמרו שהם חושבים שחדשות מפוברקות משפיעות על הציבור וגורמות לבלבול רב לגבי העובדות. 39% מרגישים שהם סומכים מאוד על יכולתם לזהות חדשות מפוברקות; 45% סומכים על יכולתם במידה מסוימת; 32% מהאמריקאים טוענים שלעיתים קרובות הם רואים ברשת חדשות פוליטיות מפוברקות; 23% מהנשאלים אומרים שהם שיתפו בעבר חדשות מפוברקות; 14% אומרים ששיתפו חדשות כאשר ידעו באותו זמן שהן מפוברקות, ו-16% אומרים ששיתפו חדשות ומאוחר יותר גילו שהן מפוברקות. מאחר שהמכון מצא ש-35% מבני 18-29 קיבלו את רוב המידע שלהם על הבחירות מרשתות חברתיות, יש לנושא חשיבות רבה.

ד"ר ניקולאס ג'ון מהחוג לתקשורת באוניברסיטה העברית, אמר לי לפני כמה חודשים שמחקרים שבדקו את האופן שבו בעלי עמדות פוליטיות מסוימות התייחסו לחדשות שהם צרכו, הראו כי בדרך כלל החדשות מחזקות את ההנחות המוקדמות שלהם. עם זאת, הוא מדגיש, "אנחנו לא ממש יודעים כמה אנשים באמת מאמינים לאייטמים של פייק ניוז".