לאחר ניסויים מוצלחים בארה"ב, פייסבוק תתחיל להשתמש בתוכנת זיהוי הדפוסים שלה גם במדינות אחרות כדי לאתר משתמשים בעלי כוונות התאבדות - כך הודיעה אתמול (ב') מפעילת הרשת החברתית הגדולה ביותר בעולם.
פייסבוק החלה לבדוק את התוכנה בארה"ב במארס ולסרוק את תוכן ההודעות והתגובות כדי לאתר משפטים שעלולים לאותת על התאבדות ממשמשת ובאה.
פייסבוק לא חשפה רבים מהפרטים הטכניים של התוכנה, אך ציינה כי התוכנה מחפשת ביטויים מסוימים שעשויים לשמש כסימנים, כמו השאלות "אתה בסדר?" ו"אני יכול לעזור?".
אם התוכנה מזהה מתאבד פוטנציאלי, היא שולחת התראה לצוות של עובדי פייסבוק שמתמחים בטיפול בדיווחים כאלה. המערכת מציעה משאבים למשתמש או לחבריו, כגון מוקד חירום טלפוני. עובדי פייסבוק פונים לפעמים לרשויות המקומיות בבקשה להתערב.
גאי רוזן, סגן נשיא לניהול מוצר בפייסבוק, מסר כי החברה מתחילה לפרוס את התוכנה מחוץ לארה"ב, מכיוון שהניסויים בארה"ב היו מוצלחים. בארבעת השבועות האחרונים בדקו מגיבים ראשונים את שלומם של משתמשים יותר מ-100 פעמים, לאחר שתוכנת פייסבוק זיהתה כוונת התאבדות.
פייסבוק מסרה כי היא מנסה לוודא כי עובדים שהוכשרו במיוחד יהיו זמינים בכל שעות היממה כדי שיוכלו לפנות לרשויות בשפה המקומית. "המהירות מאוד חשובה. עלינו להשיג עזרה לאנשים בזמן אמת", אמר רוזן.
אשתקד, לאחר שפייסבוק השיקה שידורי וידאו חיים, הועלה מספר רב של סרטוני וידאו של מעשי אלימות, כולל התאבדויות ורציחות, ונוצר איום לתדמיתה של החברה. במאי הודיעה פייסבוק כי תשכור 3,000 עובדים נוספים לנטר סרטוני וידאו ותכנים אחרים.
רוזן לא נקב בשמות המדינות שבהן פורסת פייסבוק את התוכנה, אך ציין כי בסופו של דבר ייעשה שימוש בתוכנה בעולם כולו, למעט במדינות האיחוד האירופי בשל רגישויות שבהן הוא סירב לדון.
גם חברות טכנולוגיה אחרות מנסות למנוע התאבדויות. מנוע החיפוש של גוגל מציג מספר טלפון של מוקד סיוע למתאבדים פוטנציאליים בתגובה לביצוע חיפושים מסוימים.
פייסבוק יודעת המון על 2.1 מיליארד משתמשיה - נתונים שבהם היא משתמשת לצורך פרסום ממוקד - אך עד כה החברה בדרך-כלל לא נהגה לסרוק באופן שיטתי את שיחות המשתמשים כדי לזהות דפוסי התנהגות פוגענית.
עם זאת, פייסבוק עושה מאמצים לזהות שיחות בין ילדים לבין פדופילים בוגרים שמשחרים לטרף. לעתים פונה פייסבוק לרשויות כשהמערכת האוטומטית שלה מזהה התבטאויות לא הולמות.
עם זאת, חברות טכנולוגיה יתקשו להצדיק סריקת שיחות במצבים אחרים, לדברי ריאן קאלו, פרופסור למשפטים באוניברסיטת וושינגטון, שכותב על סוגיות טכנולוגיות. "ברגע שאתה פותח את הדלת, אתה מתחיל לתהות איזה דברים נוספים אתה צריך לחפש", אמר קאלו.
רוזן סירב לומר אם פייסבוק שוקלת להשתמש בתוכנת זיהוי דפוסים גם בתחומים אחרים, כגון פשעים שאינם פשעי מין.
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
