ספיידרמן מת, פנדה עם רובה: מה הפעוטות רואים ביוטיוב?

לפני מספר שבועות בתי בת השנתיים צפתה ביוטיוב בסרטון רגיל ומשעמם לפעוטות, עם המנגינה המעיקה הרגילה. רק במקרה הבטתי וראיתי פנדה חמודה מוציאה שני רובים מכיסיה הבלתי נראים ומרססת בנשק חם את שלל הכדורים הצבעוניים הקופצים שהציפו את המסך. חטפתי את הטלפון מידי הפעוטה שלי בבעתה, והבטחתי לעצמי להיות אמא קשובה וטובה יותר. גם ההבטחה הזו נגרסה על-ידי החיים עצמם, ושוב אפשרתי לבתי להינשא על כנפי האלגוריתם האוטומטי הקופץ בין סרטונים ביוטיוב. ואז, שוב, המסך הצבעוני המקרין שירי פעוטות התמלא מגוון גיבורי-על מצוירים שמרביצים זה לזה.

מי מטריל לי את סרטוני הילדים? ומדוע יוטיוב בוחר דווקא את הסרטונים אלה עבור הבת שלי? אם יש לכם פעוטות שצופים באתר, ייתכן ששמתם לב לאיכות המתדרדרת של הסרטים, ככל שנותנים לאלגוריתם של יוטיוב לקפוץ מסרטון אחד לשני. אתם מתחילים, נניח, עם שיר חביב על אצבעות, מהסוג שפופולרי שם במיוחד ומכונה "Finger Family". עם הזמן הסרטים נהיים דומים זה לזה, כולם מכילים את אותה מוזיקה מעצבנת, את אותם צבעים זוהרים על רקע לבן בוהק, ואת אותם דקלומים חוזרים של שמות צבעים ומספרים.

וזה עוד במקרה הטוב. במקרים רבים האלגוריתם מתחיל לייבא למסך סרטים שבהם מופיעים גיבורי תרבות כמו ספיידרמן ואלזה מהסרט "פרוזן" של דיסני. לא בסרטי המקור שלהם, אלא במגוון סצנות שחלקן הזויות וחלקן שטניות ממש. אם הצפייה מתארכת, מספיק תמיד תגיעו לגרסה כלשהי לשיר המופת "ג'וני ג'וני? יס פאפא! איטינג שוגר? נו פאפא!", שבו מגוון יצורים חמודים חווים שיימינג בגין אכילת יתר ואי-אמירת אמת, באנגלית במבטא לא מוכר.

הילדים, כמובן, מכורים. אבל מהיכן צצו כל הסרטים הללו? מה סוד הקסם שלהם? ומדוע מופיעים בהם דברים מזוויעים? או, במילים אחרות, איך נוצר את סרטון המופת "אלזה וספיידרמן נקברים חיים אחרי שאלזה יולדת את הבן של הג'וקר בסופרמרקט"?

האלגוריתם מתגמל סרטונים דומים

התשובה לשאלה הזו נחלקת לשלושה חלקים: תהליך גלובליזציה שלא עלה יפה, ממשקי מכונה-אדם, ותאוות בצע מהולה באדישות.

רבים מהערוצים השולטים בתוכן לילדים ביוטיוב שייכים לחברות תוכן מאסיה ובעיקר מהודו, ובחלקם המבטא ההודי ברור יחסית. דן אולסון מאתר הטכנולוגיה "Folding Ideas" מציין כי המקור לחלק ניכר מהסרטונים שהחלו את התופעות הללו הוא בשנות ה-90 בהודו, שם מספר חברות אנימציה בעלות משאבים דלים יצרו סרטונים בסיסיים ללימוד אנגלית לילדים, שהיו דומים זה לזה. אלה הסרטים הלבנים עם הצבעים הזוהרים שהורי דור היוטיוב למדו להכיר היטב. בתחילת העשור הנוכחי הועלו התכנים של אותן חברות ליוטיוב, כמו שהם.

פעוטות אוהבים פשטות, הם אוהבים חזרתיות ולא כל כך אוהבים מגוון. לכן הם שמחים לצפות בסרטים שהם וריאציה קלה זה של זה במשך שעות. זה מתאים בדיוק לאלגוריתם של יוטיוב, שאוהב להציג לצופיו סרטונים דומים (אך לא זהים) למה שכבר ראו. כאשר הסרטונים ההודים שמציגים את שמות הצבעים הציפו את יוטיוב, החקיינים ראו כי טוב, וכך הוצף האתר בסרטים נוספים מאותו הסוג.

מעניין להתחקות, למשל, אחר המקור של ג'וני ג'וני יס פאפא, להיט יוטיוב שהרבה הורים כבר נחשפו אליו. אתר know your meme מזהה אותו לראשונה ב-2009, כשהועלה כסרטון באיכות נמוכה על-ידי ערוץ בשם Shemrock Nursery Rhymes - רשת פעוטונים הודית המחלטרת גם כערוץ תוכן לקטנטנים. כשהסרטון תפס ביוטיוב קמו לו חקיינים רבים, בעיקר חברות אנימציה הודיות נוספות. אחת הגרסאות הפופולריות, המכילה דמות שדומה באופן חשוד לאב המשפחה מהתוכנית Family Guy, פותחה דווקא על-ידי Turtle Interactive, סטודיו לאנימציה ממינסוטה. נראה כי אחר כך שולבה הדמות, בגרסאות שונות, בחזרה בתוך הסרטונים מהודו. גם זה סוג של גלובליזציה.

תחושת אי-נוחות כבדה

המפתח להצלחה כאן הוא שככל שיוטיוב מוצף ביותר תכנים מאותו סוג המוגדרים על-פי אותן מילות חיפוש, כך הסרטונים הללו יקושרו זה לזה יותר בקלות. דפוס האלגוריתם הזה תואם גם את דפוס הצפייה של הפעוטות, שאוהבים להיחשף למוכר. אסור להעלות ליוטיוב גרסאות רבות של אותו סרט, אבל כאשר מדובר בסרט דומה ולא זהה, הוא מתקבל בברכה ומקודם. וברגע שאפשר להכניס לתמונה אלגוריתמי יצירת תוכן, שמשתלבים או מחליפים עובדים אנושיים, העסק הופך למשתלם.

ככל שקל יותר להפיק את הסרטים הללו, כך יוטיוב מוצף בהם יותר, וההכנסות מהתחום גדולות יותר. זהו ההסבר לכך שסרטונים לפעוטות המבוססים אך ורק על פתיחת ביצי הפתעה זוכים לפופולריות כה גבוהה.

עד כאן הכל רדוד, אבל בסך הכל תקין. ג'וני ג'וני יס פאפא אמנם גורם לאי-נוחות, אולי בגלל ההבדל התרבותי בין ישראל להודו, אבל הוא לא פוגעני, אלים או מפחיד. לצערנו, יש גם תכנים כאלה.

תיכף נדבר על התוכן הפוגעני ממש, אבל באמצע הדרך בין רדוד אך סביר לפוגעני ממש, נמצא התוכן המוזר, שיוצר תחושת אי-נוחות כבדה. למשל סרטונים מסדרת Wrong heads, שבהם מופיעות דמויות מצוירות או בובות שהראשים שלהן מוחלפים זה עם זה, עד שמושג שוב הסדר הנכון בין ראש לגוף. זה לא מחריד כמו שזה נשמע, הראשים אינם נכרתים באלימות אלא פשוט מרחפים להם מעל הדמויות, ובכל זאת הורים יחושו שמשהו כאן פשוט לא בסדר, לא נעים לצפייה. הפעוטות, לעומת זאת, יושבים מרותקים.

למה לחתוך ראשים באמצע סרטון ילדים? ובכן, נראה כי פעם, לפני כמה שנים, עלה ליוטיוב סרטון החלפת ראשים בין בובות, שבו ההחלפה בוצעה בצורה חמודה, בטעם טוב ובהומור. כשהסרטון הזה צבר פופולאריות ו-"Wrong heads" תפס כמילת חיפוש שהאלגוריתם של יוטיוב מזהה כמתאימה לקישור לסרטונים פעוטות אחרים, חברות האנימציה המעדיפות את שיטת ההצפה, רצו לייצר במהירות המוני סרטי החלפת ראשים. הן נטלו כל דמות אהובה על הילדים שקיימת, כל סרטון אנימציה שכבר הפך פופולרי בעבר, הוסיפו את תבלין חיתוך הראשים ההכרחי, והרי לכם זרם הכנסות.

האם בני אדם מבצעים את הערבוב? האם מכונות עושות זאת? אולי שילוב בין השניים? אין לדעת. אם מדובר באנימטורים בשר ודם, האם הם הונחו לעבוד כמו מכונות? האם הם אינם מוטרדים מן התוצאה הסופית והשפעתה על ילדים ברחבי העולם? כנראה לא משלמים להם מספיק כדי שהעניין יטריד אותם. אם אלה אלגוריתמים - האם אף אחד לא מפקח על התוצאה הסופית?

ה"מוזרות" שאנחנו מרגישים כשאנחנו צופים בסרטים הללו, נובעת מכך שאנחנו חשים שהם לא בדיוק תוצאה של מחשבה אנושית מכוונת, אלא משהו שמגיע מאזור הדמדומים בין האדם למכונה. נהוג לכנות זאת "עמק המוזרות" (Uncanny Valley) - תופעה פסיכולוגית ולפיה משהו שהוא כמעט אנושי, אבל לא בדיוק, מעורר בנו תחושות של חשש ודחייה. יד תותבת שנראית כמעט אמיתית או רובוט שמתנהג כמעט כמו אדם.

כשאנחנו צופים בסרטונים ביוטיוב, אפילו לילדים, אנחנו מצפים לתקשורת אנושית. אם היינו מקבלים אוסף של צבעים רנדומליים ושמות, היינו מבינים שהם נוצרו בידי אלגוריתם. אולם הסרטונים הללו הם איפשהו באמצע: מכונות שמנסות לחקות בני אדם, או אנשים שמנסים לחקות מכונות. הציפיה להיגיון של בני אדם, ששוב ושוב לא מתממשת, יוצרת בהורים את התחושה שמשהו פה לא לעניין.

עינויים אצל רופא השיניים

ואז אנחנו מגיעים לסרטונים שכן מושקעת בהם מחשבה, אבל זדונית. ב-2013 יצא לאור הסרט פרוזן, וב-2014 הפכה הדמות הראשית, אלזה, לשם החם בעולם המרצ'נדייזינג. חברות אנימציה הפועלות על פי חוק המספרים הגדולים (שתואר לעיל) גילו כמה קל להגיע לציבור הרחב אם משתמשים בדמות של אלזה, והחלו ליצור סרטים המחקים אותה ודמויות דיסני אחרות.

הדרך הכי פשוטה לעשות זאת היא לתת לשחקנים בשר ודם לשחק את הדמויות פעם אחת, ואז לחתוך ולחבר בין הקטעים הללו (כאלה שאותה חברת הפקה צילמה, או שגנבה מסרטונים של חברות הפקה אחרות). כך נוצר אוסף בלתי נגמר של סרטונים חדשים. בחלק מן הסרטים הללו משאירים את צילום השחקנים כמו שהוא, ובחלקם קודם כל מסבים את הסרט המצולם לאנימציה ממוחשבת. זה יוצר פחות בעיות של זכויות יוצרים.

וכאן נכנסים לתמונה טרולי האינטרנט, שרוצים שילדים ייחשפו למראות מבעיתים ככל האפשר, או לפחות אדישים לאפשרות הזאת. הם נהנים לצלם סרטוני חובבים ובהם קורים לדמויות המצוירות דברים בעיתיים, בלשון המעטה. בסרטון אחד רואים את אלזה נקברת חיה, או את ספיידרמן נופל לתהום. בסרטון אחר, אלזה בהיריון ומקבלת זריקה מפחידה. בסרטון מטריד נוסף דמות הילדים הפופולרית פפה פיג עוברת עינויים אצל רופא השיניים, ויש גם סרטונים שבהם דמויות האנימציה מרביצות זו לזו או לילדים קטנים. ברשת הדיונים 4chan, שידועה בתכניה הקיצוניים, ישנם לפעמים שרשורים שבהם מאותגרים המשתתפים לבצע את הפרודיה הדוחה ביותר על סרטון ילדים.

אלא שהטרולים הם לא הבעיה האמיתית. הבעיה היא שהאלגוריתם, או העובד הפשוט בחברות האנימציה, לא מבדילים במקרים רבים בין תוכן פוגעני לתמים. הם חותכים ומערבבים את כולם יחד. כך סרטון פפה פיג יכול להתחיל בצורה חביבה וההורה הולך לעשות שיחת טלפון דחופה או לחתל את התינוק. אז שמרטף המכונה מציג לפעוט קטע אלים ומדמם, ואחר כך את איירון מן הולך מכות. זו כרגע רק השערה של גורמים מערביים שמנתחים את הסרטונים הללו. חברות התוכן לא סיפרו מעולם על שיטת העבודה שלהן.

האמן ג'יימס ברידל, שפרסם מאמר בנושא בשם There's something wrong with the internet באתר התוכן Medium, מזהיר שזוהי רק טעימה של המקום שהתרבות שלנו תגיע אליו כאשר המכונות יקבלו תפקיד יותר גדול ביצירת תוכן וברירתו. "הילדים חסרי אונים, המערכות מבוססות האלגוריתם מועדות למניפולציה שהקפיטליזם מתמרץ. העובדה שהכל עובר דרך המכונה מקשה עלינו להסביר את המערכות הללו ולהגן מפניהן. זה קורה לא בעתיד הרחוק של הרובוטים הרצחניים, אלא כאן ועכשיו בסלון שלכם". לדבריו, "האלימות של המערכות הללו היא חלק בלתי נפרד מהן, ואנחנו עדיין נאבקים כדי להבין מה קורה ולתת לזה שם".

מרוץ להסרת התוכן הפוגעני

מה אומרים על זה ביוטיוב? החברה נמצאת במרוץ להסיר חלק מן התוכן הפוגעני, ולאחרונה הוסרו והוגבלה הגישה לסרטונים רבים שאליהם הופנו טענות במפורש - כולל חלק מהסרטונים המוזכרים בכתבה זו. ואולם, הצפת התוכן הופכת מניעה מוחלטת לבלתי אפשרית. לפני כמה חודשים, דן אולסון מ-Folding Ideas ניסה להעלות מחדש ליוטיוב סרטון השייך לערוץ שמפיץ תכנים מטרידים עד אלימים.

מיד עם ההעלאה הוא קיבל דרישה להסיר את הסרטון - אבל לא בגלל התוכן, אלא מטעמי זכויות יוצרים. התביעות, לדבריו, מגיעות ממספר קטן של גורמים, שכנראה מפעילים מגוון רחב של ערוצים ומעלים אלפי סרטונים, ובכך עוברים לכאורה על חוק הספאם של יוטיוב. אולסון חושד כי העובדה שהחברות הללו יוצרות כמויות של תוכן המאפשר להדביק פעוטות למסך למשך שעות רבות, ולהציף אותם בפרסומות - זה משהו שגוגל דווקא שמחה בו. ואם מדי פעם מסתנן תוכן פחות מראוי או אפילו נוראי ממש, צריך להילחם בזה, אבל זה חלק מן המשחק.

ביוטיוב דוחים טענות מהסוג הזה. "תוכן מטעה או כזה המסכן ילדים הוא מתועב ובלתי מקובל עלינו בכלל. יש לנו כללים ברורים נגד סרטים ותגובות אשר מנצלות ילדים או מציגות אותם באופן מיני, ואנחנו אוכפים אותם באגרסיביות ברגע שתשומת ליבנו מופנית לסרטון כזה. לאחרונה גם החמרנו את הגישה שלנו לסרטים בכיכוב ילדים, שאינם בלתי חוקיים אך הם מעוררים חשש. בחודש האחרון לבדו הסרנו 150 אלף סרטונים שמקומם אינו ביוטיוב, סגרנו את האפשרות להגיב ל-625 אלף סרטונים שזיהינו כמעניינים גורמים תוקפניים וסגרנו מאות חשבונות שזוהו ככאלה שהגיעו מהם הערות בעייתיות. בנוסף, הסרנו פרסומות מכ-2 מיליון סרטונים וכ-50 אלף ערוצים שהתחפשו לידידותיים למשפחה, כדי להפחית את התמריץ ליצור תוכן כזה. אנחנו נחושים להצליח במשימה הזו".