טרור, הכחשת שואה ופגיעה בנוער: כמה תכנים פייסבוק הגבילה בישראל, ולמה?

ענקית הטכנולוגיה  מטא  (לשעבר פייסבוק) מפרסמת הערב (ג') את דוח אכיפת המדיניות וכללי הקהילה לרבעון השלישי של 2021, עם בשורה משמעותית: "השכיחות של דברי שנאה בפייסבוק נחתכה ביותר מחצי תוך חצי שנה". בנוסף, מטא חושפת את מספר בקשות המידע שמדינת ישראל הפנתה אליה וגם כמה תכנים מדינת ישראל ביקשה להסיר מהזירה.

אז בפעם הראשונה, מטא מפרסמת מדדי שכיחות של בריונות ופגיעה גם בפייסבוק וגם באינטסגרם, בדומה גם על שיח שנאה בזירות שלה. "צמצמנו את השכיחות ביותר מחצי בשנה האחרונה באמצעות שיפורים בטכנולוגיה שלנו ושינויים שעשינו כדי להפחית תוכן בעייתי בניוזפיד", נכתב בהודעה.

על פי הדוח, שכיחות דברי שנאה בפייסבוק המשיכה לרדת ברבעון הרביעי ברציפות - ונחתכה ביותר מחצי מתוך שנה בלבד. על פי הנתונים של מטא, שיעור החשיפה לשיח שנאה ברבעון זה היה 0.03% (3 צפיות על כל 10 אלף צפיות בתכנים), בהשוואה לרבעון השני, שם הנתון היה 0.05%. בנוסף, באינטסגרם, אחד משירותיה הנוספים של מטא, שכיחות שיח השנאה בזירה עמדה על 0.02% (משמע 2 צפיות על כל 10 אלף צפיות).

פייסבוק הסירה 13.6 מיליון תכנים בשל הפרת המדיניות ברבעון הזה

לפי מטא, השכיחות של תכנים של אלימות והסתה בפייסבוק הייתה בין 0.04-0.05% (באותה המתודולוגיה), באינסטגרם 0.02%. ברבעון הזה, פייסבוק הסירה 13.6 מיליון תכנים מהזירה בשל הפרת המדיניות בנוגע לאלימות והסתה, מתוכם 96.7% זוהו באופן יזום ע"י בינה מלאכותית לפני שהתקבל כל דיווח עליהם. באינסטגרם, החברה אומרת שהיא הסירה 3.3 מיליון תכנים עם שיעור זיהוי יזום של 96.4%.

בנוסף, מטא מצביעה על השכיחות של תכני בריונות והטרדה: בפייסבוק - 0.14-0.15%, באינסטגרם - 0.05-0.06%. לפי החברה, הם הסירו 9.3 מיליון תכנים בפייסבוק עם שיעור יזום של כ-60%, ובאינסטגרם הסירו 7.8 מיליון תכנים, עם שיעור יזום של 83%.

"אנחנו יודעים שלעולם לא נהיה מושלמים באכיפת כל פיסת תוכן מזיק. אבל אנחנו תמיד עובדים כדי לשפר, לשתף נתונים משמעותיים יותר ולהמשיך לבסס את ההחלטות שלנו בעזרת מחקר", נכתב בהודעת החברה.

החברה אומרת שהיא הטמיעה מערכת חדשה המבוססת בינה מלאכותית, שמאתרת תכנים פוגעניים בשפות שונות, תוך התחשבות והכירות עם הניואנסים התרבותיים וההקשרים המקומיים של כל המקומות. לצד זאת, מטא אומרת שכדי לאמת שהמדדים נבדקים ומדווחים כהלכה, הם יעברו ביקורת של חברת EY על הרבעון הרביעי שיהיה השנה ויפורסם באביב 2022.

"החוקרים והמהנדסים שלנו בוחנים כעת עבודה פורצת דרך בתחום חדש יחסית של חקר בינה מלאכותית הנקראת למידת "few-shot" או "zero-shot". המשמעות היא בניית מודלים של בינה מלאכותית שיכולים ללמוד לזהות משהו ממספר קטן של דוגמאות אימון, או אפילו רק מדוגמה בודדת. זוהי גישה שונה מאוד מרוב מערכות הבינה המלאכותית הפועלות כיום, שדורשות הרבה נתוני אימון לפני שניתן ללמוד על משימה חדשה ולפעול בצורה אמינה", נכתב בהודעת החברה.

לא רק זאת, מטא מפרסמת גם כמה תכנים הוגבלו בישראל ולמה

מטא מפרסמת כל רבעון גם את הפעילות שלה בכל המדינות ואיך היא משתפת פעולה עם המדינה בהקשר של התכנים ובקשות אחרות. אז לפי הנתונים של מטא, במדינת ישראל בין החודשים ינואר ליוני 2021, הוגבלו 267 תכנים (והוגבלו רק בישראל, לא מחוצה לה), 0 תכנים הוגבלו בגלל ישראל במקומות אחרים ו-3 תכנים שהיו הגבלות עולמיות שהשפיעו על ישראל. בפייסבוק הוגבלו 4 תגובות, 2 עמודים וקבוצות, 261 פוסטים ופרופיל אחד לצד 2 חשבונות באינסטגרם שהוגבלו.

החברה מפרטת, ואומרת שהיא הגבילה את התכנים מהסיבות הבאות: 27 תכנים הוגבלו כהפרה של סעיף 24 לחוק הנוער (סעיף שמדבר על ניצול קטין ופגיעות שונות), 12 תכנים שהפרו את סעיפים 24(א) ו-24(ב) לחוק המאבק בטרור (סעיפים שעוסקים בתמיכה והזדהות עם ארגון טרור וקריאה לפעולת טרור), 147 תכנים הוגבלו כתוצאה לצווי בית משפט ו-81 תכנים שהוגבלו על לשון הרע.

למען ההשוואה, בתקופה המקבילה ב-2020, הוגבלו בישראל 127 תכנים - בפייסבוק 32 תגובות, עמוד או קבוצה, ו-94 פוסטים. לפי הפירוט של מטא, 6 תכנים הפרו את סעיף 24 לחוק הנוער, 3 תכנים בתגובה לצו בית משפט, 2 תכנים שמפרים צווים של ועדת הבחירות המרכזית. בנוסף, מטא אומרת שהיא הגבילה בינואר-יולי 2020 את הגישה ל-116 תכנים על סמך דיווחי משתמשים על הכחשת שואה. מה שמעניין בעיקר שאלו לא הסרות של התוכן באופן כללי - אלא הגבלתו רק בישראל.

בינואר יולי 2019, פייסבוק אמרה שהיא הגבילה 484 תכנים שקשורים להכחשת שואה (מתוך 488 פוסטים שהוגבלו). אבל מעניין לראות כי בתקופת יולי-דצמבר 2019, מטא אמרה שהיא הגבילה 51 תכנים שהופנו על ידי פרקליטות המדינה המפירים לכאורה צו בית משפט האסור על פרסום מידע המזהה שוטר שנחקר בגין ירי והתנהגות בלתי הולמת. סביר להניח שמדובר בפרשת מותו של סלומון טקה.

לצד כל זאת, מטא מגיבה גם לבקשות נתונים ממשלתיות במדינות השונות בהתאם לחוק המקומי ולתנאי השימוש בפייסבוק. כל בקשה נבחנת בקפידה לפי מטא על ידי הצוותים המשפטיים והם פועלים כאוות נפשם - לדוגמה, מטא יכולה לבקש פרטים רחבים יותר לגבי בקשות מעורפלות מדי.

ומה קורה בישראל? בין ינואר-יולי 2021, פייסבוק קיבלה ממדינת ישראל 963 בקשות מידע. מתוכן - 513 בקשות להליך משפטי, 450 בקשות חירום. על פי פייסבוק, מספר המשתמשים שמושפע מבקשות אלו עומד על 1,659, ועל 80% מהם הופק המידע. לצורך ההשוואה - בתקופת בין יולי לדצמבר 2020, התקבלו מעל לאלף בקשות שכאלו ממדינת ישראל. בינואר-יולי 2020, התקבלו 913 בקשות.