כך הפכה אינסטגרם לחממת תוכן פורנוגרפי

בראיון שהעניק בסוף השבוע האחרון מארק צוקרברג, מייסד ומנכ"ל פייסבוק, הוא טען כי "קשה לבלות זמן רב בטוויטר בלי להתרגז. מצד שני, אני חושב שאינסטגרם הוא מרחב מאוד חיובי". זו אמירה שנויה במחלוקת כיוון שהפיכתה של הרשת החברתית לכלי המאפשר שידור חי למיליוני עוקבים בו זמנית - ללא כל פיקוח מתאים - יצר פתח להזרמת תכנים בוטים.

על פי בדיקת גלובס, משתמשים מנצלים לרעה את מאפייני המוצר ואת היעדר הפיקוח על השידורים החיים בממשק שיחות הווידאו הפומביות (Live Rooms) על מנת להזרים בפלטפורמה תכנים בוטים ופוגעניים, בכלל זה שידורים חיים של תוכן פורנוגרפי. הדבר נעשה באין מפריע, ואותם חשבונות מהם משודרים תכנים אלה ממשיכים לשדר מידי יום.

כך, אינסטגרם משמשת לצפייה בתוכן בוטה בכל רגע. עם קבלת התראה על תחילתו של שידור חי, אוספים כל אחד מה"שדרנים" מאות צופים הנעים מחדר צפייה וירטואלי אחד לשני, ולמעט הפסקות קצרות, משתמשי אינסטגרם זוכים לפורנו חי כל אימת שיחפצו בכך.

כשלים מובנים בפלטפורמה

המשתמשים המשדרים מנצלים שני כשלים מובנים באינסטגרם ובחברת האם מטא. הראשון קשור למאפייני המוצר - מטא מפקחת בעצמה על התוכן המשודר על ידי המארחים בשיחות הווידיאו צ'ט (Hosts), אך את הפיקוח על המשתתפים האחרים בשיחה הותירה בידי המארחים עצמם. הכשל השני מובנה במטא כולה, והוא חוזר על עצמו בכל המוצרים שלה ובידיעתה המלאה: יכולת הפיקוח הקיימת על תכנים אלימים, פוגעניים ופורנוגרפיים על הנכסים של מטא לא מספקת, בדגש על מחסור חמור בפיקוח על תכנים בשפות שאינן אנגלית. התוכן הפורנוגרפי אליו נחשפנו, שודר במגוון שפות: איטלקית, פרסית, הינדי וניבים הודים שונים.

על מנת להימנע מהפיקוח של מטא, התוכן הפורנוגרפי משודר ללא קול, עם תוכן וידאו בלבד. המארחים כמעט ואינם משדרים תוכן בוטה, אלא משאירים זאת בידיהם של המשתתפים האחרים בשיחה, שהפיקוח עליהם, כאמור, דל למדי.

במטא טוענים כי דיווחים על שידורים חיים בעלי תוכן בוטה מקבלים עדיפות בטיפול, אך יש בטענה זו שני פרדוקסים: האחד, לצופים שמחפשים תכנים מעין אלו אין אינטרס לדווח על תוכן פוגעני. השני הוא שבפועל מספר חשבונות השותפים לשידורי תכנים בוטים ממשיכים לפעול באין מפריע ולצבור קהל עוקבים גדול.

 מארק צוקרברג, מנכ''ל Meta / צילום: Associated Press, Nick Wass

כך לדוגמה, אחד המשתמשים הפעילים אחריו עקבנו שידר כמעט ללא הפסקה תוכן פורנוגרפי באמצעות חדרי הצ'ט, והוא צבר כבר 240 אלף עוקבים. גם משתמשים נוספים אחריהם עקבנו השיגו בין 12 ל־700 אלף עוקבים ומרבים לארח "חדרי פורנו" בשידור חי.

על מנת להציג מראית עין תמימה, מעלים חשבונות אלה לפיד תמונות תמימות למראה - למשל נשים בגירות בבגדי ים, לא תוכן בוטה במיוחד. אלא שעיקר הפופולריות בחשבונות אלה מגיעה מהשידורים החיים, כאלה שאינם מותירים זכר על גבי עמוד הפרופיל. אך כדי לצרף מאות ואולי אפילו אלפי צופים, אין צורך במספר רב מדי של עוקבים, כיוון שהתראת שידור חי נשלחת לעוקבי כל אחד מארבעת המשתתפים בחדר הווידאו צ'ט. כך משיגים השדרנים אפקט רשת רחב הרבה יותר.

לא תופעה חדשה או ייחודית לאינסטגרם

שימוש בפורנוגרפיה בתוכן חי איננו חידוש באינסטגרם או בקבוצת המוצרים של מטא. פלטפורמות שידור חי נוצלו לאורך השנים על ידי משתמשים לשידור תכנים פוגעניים. אתר צ'ט רולט (Chatroulette), שהושק ב- 2009 כדי להגריל שני בעלי מצלמת רשת לשיחה אקראית, הפך במהרה לאתר רצוף תוכן פורנוגרפי. לפי סקר שנערך בקרב משתמשיו, אחת מכל שמונה שיחות הכילה משתתף שחשף תכנים בוטים.

גם טוויטר מחזיקה במדיניות ליברלית באופן יחסי לפרסום תכנים פורנוגרפיים והיא אינה מסירה אותם, אלא אם הם מערבים אלימות או קטינים. טוויטר אף שקלה לאפשר למפיקי תכנים פורנוגרפיים להעלות תכנים באופן ממוסד, אך נמלכה בדעתה לאחר שהודתה בקשיים לפקח על תכנים המפירים את הכללים שלה.

שני מסמכים פנימיים ששותפו בעבר בפייסבוק והודלפו על ידי העובדת לשעבר פרנסיס האוגן לוול סטריט ג'ורנל, שופכים אור על הבעייתיות הכרוכה בפיקוח של תכנים.

לפי אחד המסמכים, באינסטגרם מודעים להשפעות השליליות על דימוי גוף של נערות. לאחר פרסום הדוח, טען הסנטור ריצ'רד בלומנטל, יו"ר ועדת המשנה להגנת הצרכן בסנאט האמריקאי: "הבעיות לא נוצרו ברשתות החברתיות, אבל הרשתות החברתיות מתדלקות אותן". הוא הדגיש שהגיע הזמן למעורבות חיצונית בפיקוח על התכנים ברשתות. "אני חושב שנגמר הזמן לרגולציה ואכיפה פנימית (על ידי החברות עצמן - א"ג). זו בנויה על אמון, ואין אמון", אמר בלומנטל.

מסמך פנימי נוסף מתוך משרדי פייסבוק שחשפה האוגן, מציג את יכולת הפיקוח על התכנים המפורסמים בחברה בשפות זרות באור בעייתי מאוד. על פי המסמך, פייסבוק יודעת לנטר את השיח ב־50 שפות פופולריות בפייסבוק ובאינסטגרם, אך בכל שאר השפות בהן מתנהלת הרשת החברתית - היא מתקשה לאכוף את המדיניות שלה בדבר שיח בוטה, מסית, אלים ופוגעני.

עם יכולת פיקוח נמוכה שלא מצליחה להשיג את ההשקות של מטא, חדשות לבקרים קשה לראות כיצד מטא מווסתת ביעילות תכנים בוטים ופוגעניים במטאוורס, אותו מרחב וירטואלי תלת מימדי שהיא בונה על מנת להכניס אליו את משתמשיה באמצעות משקפי המציאות המדומה שהיא מפתחת.

ניסיון להתחרות בקלאבהאוס ובטיקטוק

ממשק Live Rooms הושק במרץ בשנה שעברה כתגובה לעלייתן של אפליקציות השידורים החיים הקבוצתיות, הפופולרית שבהן היא קלאבהאוס. ההשקה הרחיבה למעשה את האפשרות של משתמשי אינסטגרם ליזום שיחה קבוצתית עם עד שלושה משתמשים נוספים ולשדר אותה בשידור חי לכל עוקביהם. "אנחנו מצפים לכך שהשידורים החיים יביאו להזדמנויות יצירתיות יותר - לאפשר למשתמשים ליזום תכנית אירוח, לארח הופעות אלתור מוזיקליות, ליצור יחד עם אמנים אחרים, לנהל דיון הכולל שאלות ותשובות, להעביר הדרכות, או סתם לבלות עם יותר חברים״, הכריזו בחגיגות במטא.

ההשקה של חדרי הצ'ט הציבוריים היא עוד ניסיון של מטא להתחרות בטיקטוק, עם מגוון מוצרים כמו Reels ו- Live Stories באינסטגרם. החברה גם תכננה להציג בפיד המרכזי סרטונים במסך אנכי מלא, אך לאחר ביקורת שהוטחה בה ביטלה את כוונותיה.

מלבד המוטיבציה לעודד שיח פורה בין משתמשים, פוזלים במטא בעיקר לעבר מובילי הדעה והמשפיענים המביאים עימם קהלים חדשים, מייצרים עבורם תכנים על גבי פלטפורמות כמו אינטסגרם וטיקטוק, והופכים לשותפים עסקיים של מותגי ענק. ממשק ה-Live Rooms של אינסטגרם מפתה את המשפיענים להגיע אליו גם באמצעות תמריץ כלכלי נוסף - מתן אפשרות למשתמשים לתמוך באמנים באמצעות רכישת "תגים" (Badges), מעין מדליון וירטואלי המיועד למעריצים, או לתרום להם בממשק גיוס הכספים בשידור חי (Live Fundraising).

מטא: "כל הפרת מדיניות מובאת בחשבון"

ממטא נמסר בתגובה: "כל אחד יכול לדווח באופן אנונימי על שידור חי באינסטגרם - בין אם מדובר בשידור חי שמארח אדם אחד, שידור משותף של שני אנשים, או חדר - ואינסטגרם בוחנת את הדיווחים במהירות האפשרית. המערכות שלנו מתעדפות דיווחים על שידורים חיים, מאחר שהחברה מבינה את הצורך לבחון אותם ולנקוט בפעולה נגד כל תוכן שעלול להיות מזיק בזמן אמת. כשמתקבל דיווח על שידור חי, כל הפרת מדיניות פוטנציאלית מובאת בחשבון - בין שבוצעה על ידי המארח של השידור, או על ידי משתתפים בחדר - והשידור החי יופסק ויוסר במידה שתימצא כל הפרה.

"כמו כן, מערכות הזיהוי הפרואקטיביות של החברה פועלות גם במהלך שידורים חיים, ובודקות שידורים שעלולים להפר את כללי הקהילה של הפלטפורמה. ברבעון האחרון אינסטגרם הסירה 10.3 מיליון תכנים שהפרו את המדיניות לגבי עירום ופעילות מינית של מבוגרים, כאשר יותר מ-94% מהם התגלו על ידי טכנולוגיות הבינה המלאכותית של הפלטפורמה ולפני כל דיווח״.