התוכנה שתילחם בהפצת טרור ברשתות החברתיות

פרופסור האני פריד פיתח, בעזרת מימון שקיבל ממיקרוסופט, טכנולוגיה למחיקת תכנים קיצוניים מהאינטרנט.

פריד פיתח, בשיתוף-פעולה עם הארגון שלא למטרת רווח, פרויקט נגד קיצוניות, (Counter Extremism Project - CEP), תוכנה שמסוגלת לזהות ולעקוב אחר קובצי תמונות, ווידאו ואודיו גם אם הוכנסו בהם שינויים. התוכנה, שנחשפה בסוף השבוע, אמורה לאפשר לאתרי אינטרנט כגון פייסבוק לזהות באופן אוטומטי תכנים מסומנים ולהסירם או למנוע את העלאתם.

בשיחת ועידה אמר פריד, המשמש גם כיועץ בכיר ל-CEP, שהתוכנה תאפשר לחברות להסיר אוטומטית פוסטים שמפירים את תנאי השימוש באתרי האינטרנט שלהן. הוא הוסיף כי מחיקת התכנים אינה יכולה להיחשב כסוגיית חופש הדיבור מכיוון שלחברות יש את הזכות להכתיב מה מתאים להופיע באתריהן.

"אנחנו מאפשרים להם לעשות את זה באופן מהיר, מדויק ואוטומטי", אמר פריד. לחברות אינטרנט ומדיה חברתית, כולל פייסבוק וטוויטר, יש תקנות שאוסרות העלאת פוסטים מארגונים שמעורבים בפעילות טרור או פשיעה מאורגנת, וכן פוסטים בעלי תכנים אלימים או מיניים באופן מופרז. אך תכנים גסים מועלים בכל זאת, והחברות מבצעות סימון והסרה באופן ידני - גישה שמתמודדת עם הבעיה באופן חלקי ושטחי, לדברי פריד.

הנשיא ברק אובמה קרא לחברות הטכנולוגיה להשתתף במאמץ למנוע מקיצונים להשתמש במדיה החברתית ובאינטרנט כדי לגייס חברים חדשים ולפרסם את התעמולה והדרישות שלהם. לאחר פגישה עם פקידי ממשל, אמרה טוויטר בפברואר כי השעתה יותר מ-125 אלף חשבונות שקידמו את הטרור או כללו איומי טרור, וכי הגדילה את הצוותים הבוחנים דיווחים על פעילות של טרוריסטים.

מבצע הטבח במועדון הקהילה הגאה באורלנדו נשבע אמונים לדאעש, והשתמש על פי דיווחים בפייסבוק כדי להעלות תכני טרור. ביום ג' שעבר אמר אובמה כי התעמולה, קובצי הווידאו והפוסטים של ארגוני טרור כמו ארגון המדינה האסלאמית "נמצאים בכל מקום והגישה אליהם קלה יותר משהיינו רוצים שתהיה". אובמה ציין כי סוג תכנים זה תרם להקצנת האדם שביצע את הטבח.

הטכנולוגיה של פריד אמורה להיות התשובה להפצרותיו של אובמה במגזר הטכנולוגיה, לדברי מארק וולאס, מנכ"ל CEP.

CEP כבר בנה בסיס נתונים של תכנים במטרה לפתוח בתהליך המעקב. הארגון מתכנן להקים ארגון נפרד לפיקוח על בסיס הנתונים, לזיהוי תכנים שיצורפו לבסיס הנתונים ולשיתוף-פעולה עם חברות, גופים ממשלתיים וארגונים לא-ממשלתיים. תחילה יתמקד הארגון בתכנים הבוטים ביותר, תכנים שכוללים את התמונות האלימות ביותר, או תכנים שנוצרו בידי אנשים שבאופן חוזר ונשנה שימשו מקור השראה לאנשים אחרים לביצוע מעשי אלימות, לדברי וולאס.

"אני חושב שכולנו יכולים להסכים שיהיה סט של תמונות, קובצי ווידאו וקובצי אודיו שיהיה צורך להסיר במהירות", אמר וולאס, "בשנים הבאות יתנהל דיון מעמיק בסוגיה מה עוד צריך להמשיך להוסיף לזה - מדובר בדיון חשוב".

לחברות שיבחרו להשתמש בטכנולוגיה תהיה גישה לבסיס הנתונים, והן יוכלו להוסיף ערכים משלהן, לדברי פריד. לאחר מכן תסמן התוכנה כל תוכן קיים ותחסום ניסיונות להעלות קבצים מסומנים.

הטכנולוגיה נבדקת, והיא נמצאת בשלבים הסופיים של הכנתה להשקה המונית, וזה עשוי לקחת עוד כמה חודשים, לדברי פריד. עד כה לא התחייבה אף חברת אינטרנט או מדיה חברתית להשתמש בתוכנה, אך וולאס אמר כי הארגון מנהל מו"מ עם כמה חברות כאלה, בייחוד פייסבוק.

הטכנולוגיה משתמשת בכמה מהאלמנטים הכלולים בתוכנה שבנה פריד למעקב וזיהוי תמונות במסגרת פרויקט למחיקת צילומי פורנוגרפיית ילדים מהאינטרנט. המרכז הארצי לילדים נעדרים ומנוצלים (National Center for Missing and Exploited Children) מספק רישיונות חינמיים לתוכנה, ששמה PhotoDNA, ולאחרונה מאפשרת מיקרוסופט את אספקת התוכנה באמצעות פלטפורמת הענן שלה. חברות מדיה חברתית, כולל פייסבוק, טוויטר וחברת הסטארט-אפ למסרים מיידיים Kik, משתמשות ב-PhotoDNA.

מיקרוסופט סיפקה את המימון לבניית התוכנה, אך אין לה שום אחזקה בתוכנה, לדברי פריד, שציין כי זכות הקניין הרוחני נמצאת בידיו ובידי CEP.