אל תחפשו את הלייק: אזהרה משימוש בגוגל ובפייסבוק

לפני כמה שנים התקשרה חברה כדי לספר לי שקיים בפייסבוק חשבון פיקטיבי עם שמי, תאריך הלידה שלי ותמונה של מישהי אחרת. בניסיון לפנות לפייסבוק ולדווח על גניבת הזהות, גיליתי שעומד לרשותי כפתור דיווח אחד בלבד, שעליי ללחוץ עליו, לחכות, ולקוות לטוב. ללא שירות לקוחות, ללא כתובת להסברים, ללא מענה אנושי, כל שיכולתי - מלבד לפנות למשטרה - היה ללחוץ פעם אחת על הכפתור, ולהמתין חודשיים (תוך בדיקה מתמדת) עד להסרת החשבון. איך יכול להיות שבעולם הווירטואלי הזה קל כל כך לגנוב זהות, ולהשאיר אדם חסר אונים וללא מענה?

"הכוח של פייסבוק הוא ביכולתה להישאר פטורה מאחריות לתוכן שמוצג בה. לכאורה, היא פלטפורמה בלבד, שבה כל משתמש אחראי לתוכן שהוא יוצר, וכך אנחנו עדים מדי יום לתופעות של גניבות זהות, בוליינג (בריונות ברשת) וחדשות שקריות", אומרת תמר ברזוזה בן דרור, מומחית לחקר אלגוריתמי וחדשנות טכנולוגית, העוסקת בניהול טכנולוגיות.

"פייסבוק רשאית לבחור האם להתייחס לתופעות האלה או לא, כיצד לטפל בהן ובתוך כמה זמן. בעוד שבפלטפורמות אחרות יש אחריות חוקית מלאה על התוכן, גם לכותב וגם למערכת, פייסבוק לא נדרשת לדבר לפי חוק, והיא יכולה לבחור את הכללים על פי ראות עיניה והאג'נדה שלה. רק לאחרונה ראינו אותה חוסמת גישה לאתר שפרסם את פרטיהם האישיים של בכירי פייסבוק ישראל, אבל משאירה את החשבון של עובד פייסבוק ישראל שפרסם באופן מחאתי פרטים אישיים של רב מוכר".

בשנים האחרונות מובילה ברזוזה מחקר אקדמי יחד עם חברות פרטיות של האיחוד האירופי, שעוסק בשליטת החברות הגדולות בעולם הווירטואלי שלנו, כשההבדל בינו למציאות הולך ומיטשטש. "מיקדתי את המחקר שלי בשתי חברות שבעיניי מייצגות את הבעיות העומדות בפנינו - פייסבוק וגוגל", היא אומרת בראיון ל'ליידי גלובס'. "אני מציבה שתי שאלות: האחת, איך אנחנו צורכים את המידע שלנו באינטרנט, כלומר, אילו אלטרנטיבות יש לנו ועד כמה אנחנו ביקורתיים. והשנייה, עד כמה אנחנו חשופים ופגיעים כשאנחנו משתמשים בשירותים של החברות האלה.

"האופן שבו אנחנו מתייחסים לאמצעי התקשורת הוא שונה חברתית ותרבותית מהאופן שבו אנחנו מתייחסים לחיפוש באינטרנט. אנשים נוטים להשתמש בכמה מקורות כדי לצרוך חדשות, והם לא צורכים עיתונות בלי להיות טיפה ספקנים וביקורתיים, כי הם מבינים שיש השפעה של בעלי אינטרסים.

"לעומת זאת, לגוגל יש מונופול על חיפוש המידע שלנו, עד כדי כך שאנשים לא מספיק מודעים לכך שיש מנועי חיפוש אחרים. לרוב, הם צורכים את המידע רק דרך גוגל. ובצדק, גוגל מבינים מצוין את האינטרנט ויודעים לעשות טכנולוגיה מעולה, ומנוע החיפוש שלהם משמעותית טוב יותר משל המתחרים. מה שקרה הוא שהם הפכו להיות החלון שלנו לאינטרנט".

מה הבעיה עם המונופול הזה?

"קודם כל, צריך להבין שגוגל לא נדרשת לחשוף בפנינו את אלגוריתמי החיפוש שהיא משתמשת בהם על מנת להציג את המידע. וזה בצדק, כי אם היא תציג אותם אז אתרים יוכלו להשפיע על התוצאה באופן מכוון. אבל מעצם ההגנה הזו, גוגל יכולה לעשות מה שהיא רוצה, ואנחנו לעולם לא נדע, מכיוון שהאלגוריתם שלהם חסוי. תיאורטית, היא יכולה להחליט להבליט משהו אחד או לקדם אג'נדה מסוימת, ואנחנו לא נדע. אין לנו בקרה על זה.

"מצד שני, כשאנחנו מחפשים בגוגל אין לנו שום קריאה ביקורתית. אנחנו מקבלים את התוצאות המוצגות לנו כמשהו שמשקף את המציאות באופן אובייקטיבי ואמיתי. אנחנו לא נוטים לשאול שאלות או להטיל ספקות לגבי המניעים של החברה והיכולת שלה להפעיל עלינו מניפולציות. הנה דוגמה שממחישה את הכוח של גוגל: בתקופת בחירות, בכל פעם שאני אחפש דונלד טראמפ, מנוע החיפוש יכול להחליט להציג ידיעות שליליות, ובכל פעם שאחפש הילארי קלינטון, להציג ידיעות חיוביות. האלגוריתמים יודעים להבחין אוטומטית בין ידיעות טובות ומחמיאות לכאלה שלא, לפי ניתוח של הטקסט או של מילות מפתח".

המציאות של גוגל

"רגולציה חכמה צריכה להבין שיש פה פתח להתנהגות הרסנית", אומרת ברזוזה, 39, בעלת תואר שני במדעי המחשב ממכון ויצמן, נשואה ואם לשניים. "צריך לשאול את עצמנו האם גוגל הוא ארגון נטול אינטרסים, או האם יכול להיות לו רווח מניהול אג'נדות באמצעות השפעה על הלך הרוח שלנו, ועל האופן שבו אנחנו תופסים את המציאות".

אין אנשים בעולם שמחפשים אותם ושמשמשים ככלבי השמירה שלהם?

"ב-2014 התפרסם מחקר חשוב של פרופ' רוברט אפשטיין מאוניברסיטת הרווארד על הפוטנציאל של מנוע החיפוש להשפיע ולהטות את הדעה של המחפשים. במחקר, שהתבצע על רקע הבחירות בהודו, השתתפו 1,800 מצביעים מתנדנדים, שטרם החליטו במי לבחור. אפשטיין הראה שעל ידי סידור מכוון של תוצאות החיפוש שלהם הוא מסוגל להטות ב-12.5% את בחירת המשתתפים כלפי מועמד על פי רצונו. ותחשבי על זה, הרבה מערכות בחירות הן הרבה יותר צמודות, כך שלמספרים כאלה יש משמעות אדירה.

"מנוע החיפוש הוא החלון שלנו למציאות, ותפישת המציאות שלנו משפיעה באופן ישיר על הבחירות שלנו. אם אנחנו לא סקפטיים ומתייחסים למנוע החיפוש כאל מקור למציאות, זה משפיע על מי שאנחנו ועל סט הערכים שלנו.

"ב-2016 אפשטיין פרסם מחקר נוסף, ולא פחות מטריד, לגבי מנגנון ההשלמה האוטומטי של גוגל. כשהוא הקיש את מילות החיפוש 'הילארי קלינטון היא', ההשלמות האוטומטיות היו 'מנצחת' ו'מדהימה'. לעומת זאת, כשהוא עשה זאת ביאהו ובינג, ההשלמות האוטומטיות היו: 'שקרנית'. התוצאות האלה, שייתכן שהן משקפות את הנוכחות האמיתית של צירופים להילארי קלינטון באינטרנט, שונות מהמשלים האוטומטי של גוגל".

מה גוגל ענו על הטענה הזו?

"התשובה של גוגל הייתה שהם מורידים מהמשלים האוטומטי מילים שליליות. אבל במקרה שמחפשים 'דונלד טראמפ הוא', ההשלמה האוטומטית היא 'מת'. זה, אמנם, לא שלילי מובהק כמו שקרן, אבל אפשר עדיין לטעון שמת היא מילה שלילית. יותר חמור מזה, כשאפשטיין כתב בעצמו את המילה השלילית, למשל 'מושחת', ההשלמה האוטומטית בגוגל הייתה חיוך או צבע, ואילו בבינג וביאהו ההשלמה האוטומטית הייתה הילארי. כלומר, קיימת שונות".

מה ההסבר לכך, למה זה קורה?

"אין לי דרך לדעת אם מדובר בהתערבות ידנית שמעדיפה את קלינטון, וגם אם לא, האם תהיה כזאת בעתיד. אתר opensecrets, שאוסף נתונים על התורמים לפוליטיקה בארה"ב, ריכז את התרומות של אנשים פרטיים מגוגל למימון קמפיינים של מתמודדים לנשיאות. מסתבר שהתרומה השנייה בגודלה לקריירה הפוליטית של הילארי קלינטון מגיעה מאלפבית (החברה האם של גוגל), והתרומה השלישית בגודלה לקריירה הפוליטית של אובמה מגיעה מגוגל.

"צריך להבין שגוגל מנהלת מערך לובינג מטורף, הם יודעים לעשות פוליטיקה, הם יודעים להשפיע על פוליטיקה לצורך עסקים, הם גוף עסקי ומתנהלים לחלוטין ככזה".

מאשימים את האלגוריתם

בפייסבוק, מספרת ברזוזה, ניסו לטפל בנושאים חדשותיים באמצעות מדור טרנדינג, "שמראה, כביכול, את מה שטרנדי עכשיו. בדיעבד התברר שהעריכה הייתה ידנית של עורכים אנושיים, ולא כפי שנוצר הרושם, שהועלו באופן אוטומטי נושאים שחמים ברשת החברתית. מאוחר יותר עורכים מתוך טרנדינג העידו שהייתה להם נטייה דמוקרטית, ושהם נמנעו מפרסום ידיעות שמרניות.

"כתוצאה מהפרסומים, פייסבוק פיטרה את העורכים האנושיים ועברה לבחור את הידיעות בטרנדינג באמצעות אלגוריתמים. המעבר כשל, כי מה שהיה הכי 'חם' היו הרבה ידיעות שקריות, שמסתובבות בפייסבוק במסווה של ידיעות חדשותיות, בעוד שהחברה ממשיכה להתנער מאחריות לגבי התוכן שמפורסם בה".

יגידו לך שזו בעיה של אלגוריתמים, לא של עורכי תוכן.

"נכון, הרבה פעמים החברות יסתתרו מאחורי ה'תירוץ' שזה האלגוריתם, שהתוצאות לא מכוונות. אבל צריך להבין שאלגוריתמים לומדים, והרבה פעמים הם משקפים את הבית שממנו הם יוצאים, כלומר, את המידע שהם ניזונים ממנו. אם שם יש הטיה, זו עלולה להפוך להיות הטיה מובנית בתוך האלגוריתם. אגב, לאלגוריתם לומד גם יש נטייה להחליש קבוצות חלשות - באופן שמרע איתן אפילו יותר מהמציאות - ולחזק קבוצות חזקות".

מהן ההטיות שהבית השפיע עליהן? איך הן באות לידי ביטוי?

"אני אתן דוגמה שבה הנתונים היו מוטים עוד כשבנו את האלגוריתם. ב-2009, hp יצאו עם מצלמת אינטרנט שמסוגלת לעקוב אחרי פנים. אם היית זזה מול המצלמה, התמונה הייתה עוקבת אחרייך באופן דיגיטלי. הם יצאו עם המוצר לחנויות, ואז הסתבר שעבור אנשים שחורים המצלמה לא עושה את העבודה. כשאישה לבנה זזה המצלמה עוקבת אחריה, וכשאיש שחור זז המצלמה לא עוקבת אחריו.

"אלגוריתם המעקב היה בעצם אלגוריתם זיהוי פנים שמבוסס בין היתר על צבע העור. ל-hp לא הייתה כוונה גזענית, והם מיד התנצלו. אבל מה המשמעות של זה? ייתכן שהמידע שהוצג לאלגוריתם הלומד בבית לא הכיל מספיק מידע על אנשים בעלי צבע עור שחור, וייתכן גם, אולי, שהמוצר מעולם לא נבדק על ידי מישהו שחור במעבדות החברה, אבל הבית של hp ייצר הטיה אלגוריתמית.

"יש גם מקרים שבהם הנתונים מוטים כבר במציאות, ובהיעדר תיקון הולם, האלגוריתם יקצין את ההטיה הזו וירע עם הקבוצה החלשה. מחקר של אוניברסיטת וושינגטון הראה חוסר קורלציה בין אחוז הנשים המנכ"ליות בארה"ב לאחוז התוצאות במנוע חיפוש התמונות של גוגל בהקשת מילות החיפוש US CEO. יותר מזה, אם תחפשי CEO באותו מנוע, עשרות התמונות הראשונות שתקבלי יהיו של גברים, וספק אישה אחת, שהיא המנכ"לית של בארבי. זו דוגמה מצערת של מציאות שיש בה הטיה מסוימת מלכתחילה, והאלגוריתם מקצין אותה משמעותית, ומטריד מאוד שזו המציאות הווירטואלית שאנחנו נחשפים אליה.

"ישנה, כמובן, גם ההטיה שאפשר לראות בהתאמה אישית של פרסומות, המומחיות הגדולה ביותר של גוגל. המפרסם מבקש להתאים את הפרסומת לחתך מסוים באוכלוסייה, וגוגל מפיצה את הפרסומת בהתאם לפרופיל שהיא מנהלת על כל משתמש. גם כאן, מחקרים הראו תוצאות קיצוניות. חיפוש של שמות שמזוהים יותר עם אפרו אמריקאים הציג פרסום של עורכי דין וייצוג משפטי. משרות למנהלים עם הכנסה גבוהה משווקות יותר לגברים מאשר לנשים. הלוואות בתנאים פחות טובים משווקות באופן אוטומטי לאוכלוסייה יותר חלשה. אלה הטיות קשות, שמחזקות את הקבוצות הגדולות ויוצרות תמונת מציאות וירטואלית קשה".

מפייסבוק נמסר בתגובה: "פייסבוק היא סוג חדש של פלטפורמה, המאפשרת לאנשים לנהל שיחות משמעותיות, לקבל מידע וליצור קשר. אחד הדברים החשובים שאנו רואים בפלטפורמה הוא הכוח החיובי של הקהילה ושל הקבוצות שהופכות להיות מקור חשוב, מעצים ומשפיע עבור חבריהן. תכנים שאינם מותרים בפייסבוק, כגון פרסום מידע אישי של אחרים ללא הסכמתם, עירום והסתה, אנו מסירים כאשר מדווחים לנו. אנו עושים זאת בצורה הוגנת ומאוזנת, ללא תלות באנשים או בארגונים המעורבים. בנוסף, חשוב לנו לוודא שמערכת בריאה של חדשות ועיתונות תוכל לשגשג".

לא התקבלה תגובה מגוגל.