פייסבוק מקימה צוות מיוחד לטיפול בהטייה הגזעית ברשת החברתית

פייסבוק מקימה צוותים חדשים ללימוד וטיפול הטיה גזעית בפוטנציה בפלטפורמה העיקרית שלה ובאתר אינסטגרם, ובכך היא חוזרת בה מהתנגדות קודמת לבדיקת ההשפעה של מוצריה על קבוצות מיעוטים שונות.

"צוות השיוויון וההכלה" החדש באיסטגרם יבחן איך משתמשים שחורים, לטינים ואחרים בארה"ב מושפעים מן אלגוריתמים של החברה, כולל מערכות למידת המכונה שלה, ואיך ההשפעות הללו שונות ביחס למשתמשים לבנים, לפי מקורות יודעי דבר.

נציג של אינסטגרם אישר את המהלך, והוסיף שגם אתר פייסבוק מקים צוות דומה ליישום שלו.

"הטייה מנוגדת לעקרונות שלנו"

"תנועת הצדק הגזעי היא תנועה בעלת חשיבות רבה לחברה שלנו", אמר וישאל שאה, מנהל המוצר של אינסטגרם. "כל הטיה במערכות ובמדיניות שלנו מנוגדת לעקרונות של הפלטפורמה לכל מי שרוצה לבטא את עצמו".

המהלך מגיע על רקע חרם המפרסמים על פייסבוק ביולי, שקשור לאופן הטיפול של ענקית המדיה החברתית בתכני שנאה ומידע כוזב שמופיעים בה, ובהתקוממות עובדים נגד הטיפול בנושאי גזע.

השאלה של איך לאתר ולתקן הטיות של אלגוריתמים היא בעיה גדולה לחברות טכנולוגיה וממשלות כאחת, כאשר מחקרים חשפו אפליה בקבלת החלטות על ידי תוכנה בנוגע בכל דבר, מניסוח הנחיות עד גיוס כוח אדם בחברות.

הבעיה של הטיה אלגוריתמית פוטנציאלית היא נושא טעון במחלוקת גם בתוך פייסבוק. בשנה שעברה, ממונים בחברה מנעו מעובדים לבדוק השלכות גזעיות שונות של הפלטפורמה ללא היתר מ- M-Team, צוות בכיר של מנהלים שכולל את המנכ"ל מארק צוקרברג ואת סמנכ"לית התפעול שריל סנדברג, לפי יודעי דבר.

בערך באותה תקופה, כשאינסטגרם יצרה קריטריונים חדשים להשעיה או מחיקה של חשבונות משתמשים, ניתוח פנימי מצא שמשתמשים שרמזו שהם שחורים היו צפויים ב-50% יותר להשעיה של חשבונותיהם לפי השינויים שהוצעו. ממונים באינסטגרם שינו את הפרמטרים כדי לצמצם את האפקט הפוטנציאלי הזה, אך אסרו מחקר נוסף של אותם קריטריונים, מסרו המקורות.

"הניתוח הפנימי היה שגוי"

פייסבוק אינה אוספת ישירות נתוני גזע מהמשתמשים שלה. הניתוח התבסס על "זיקה רב-תרבותית" - במקרה הזה של הקהילה האפרו-אמרקיקנית - בהסתמך על התכנים שאנשים מחפשים באתר. חברות יכולות להפנות פרסומות אל אותן "קבוצות זיקה", בהגבלות מסוימות.

סטפני אוטוויי, דוברת של אינסטגרם, אמרה שהניתוח הפנימי היה שגוי מפני שהנתונים הקיימים של החברה לא משקפים השתייכות גזעית מדויקת.

פייסבוק מסרה בהודעה שהיא מודאגת מכך ששימוש ב"זיקה רב-תרבותית" לניחוש השתייכות לגזע היא לא אמינה, וחייבה אישור בדרג גבוה למחקר שקשור לגזע כדי להבטיח שהוא נעשה בצורה אחראית. במסגרת יצירת לבדיקת החווייה של משתמשים לא לבנים, פייסבוק מתייעצת עם מומחים חיצונים וארגוני זכויות אזרח על איך ללמוד גזעים בצורה אמינה ועקבית, לפי החברה.