האו"ם נגד העוזרות האישיות: מנציחות סטריאוטיפים מיושנים

מחקר חדש של ארגון אונסק"ו של האו"ם מדגיש את ההשפעות החברתיות השליליות שנובעות מכך שרוב העוזרות הקוליות הדיגיטליות הקיימות היום בשוק הן בעלות קול, שם ומאפיינים נשיים. לפי המחקר, עובדה זו שולחת מסר בעייתי, כיוון שהיא מציירת נשים כצייתניות, אדיבות תמיד ומעוניינות לספק את הרצון של המשתמשים - ללא תלות בטון בו הפקודה נאמרה. כמו כן, הן זמינות בלחיצת כפתור או אמירת פקודה פשוטה כמו "היי" או "אוקיי". נשיותן של העוזרות הדיגיטליות עשויה לחזק סטריאוטיפים קיימים כלפי נשים, והחוקרים הביעו חשש כי התפשטות הטכנולוגיה תביא להפצת סטריאוטיפים אלה גם בקהילות בהן הם אינם קיימים.

ארבע העוזרות הקוליות המובילות בעולם, שלוקחות חלק ב-90% מהאינטראקציות בין אדם למכונה במדינות מסוימות, הן אלכסה של חברת אמזון, הקרויה על שם הספרייה העתיקה באלכסנדריה; קורטנה של חברת מיקרוסופט, הקרויה על שם דמות ממשחק הוידיאו Halo; סירי של חברת אפל, שמשמעות שמה בנורבגית הוא "אישה יפיפייה שמובילה אותך לניצחון"; והעוזר/ת של חברת גוגל, שהיא אומנם היחידה בעלת השם הניטרלי - גוגל אסיסטנט - אך קולה הוא נשי בפירוש. רק שנתיים לאחר השקתה של סירי הוסיפה אפל גם גרסה שלה בקול גברי, בעוד שבמקרה של העוזר/ת של גוגל לקח שנה להשיק גרסה גברית. ואולם, ברירת המחדל עבור שתיהן היא עדיין נשית, ולקורטנה ואלכסה אין כלל אופציה כזו - למרות שהן קיימות בשוק מעל ארבע שנים.

 גיוון מגדרי בקולות

מדובר במגמה חוצת יבשות

בהסתכלות רחבה יותר, מחקר שערך האו"ם ב-2019 ובחן 70 עוזרות דיגיטליות מצא כי מעל שני שלישים מתוכן היו בעלות קולות נשיים בלבד. גם בסין - שוק בו נמכרים היום 30% מהרמקולים החכמים - רוב העוזרות הקוליות מיוצגות כנשים, וכך גם בשווקים נוספים באסיה. השוק הסיני נשלט על ידי העוזרות הקוליות שפיתחו החברות הסיניות עליבאבא, ביידו ושיאומי, כאשר העוזרות של שיאומי וביידו הן בעלות קולות נשיים באופן בלעדי או כברירת מחדל. מנגד, AliGenie, העוזרת הקולית של עליבאבא, היא דווקא יוצאת דופן ומדברת בקול שמזכיר דמות מסרט מצויר - ואינה גברית או נשית באופן מובהק.

למרות המגמה, במחקר מציינים כי חברות שונות עדיין עושות שימוש בקולות גבריים כשיש צורך למסור מידע רציני וסמכותי ולא רק לסייע למשתמש. כך למשל ווטסון, מחשב מבוסס בינה מלאכותית שפיתחה חברת IBM, שהיה בעל קול גברי כשניצח את משחק הטריוויה המפורסם "ג'פרדי" ב-2011.

המחקר מדגיש את חשיבות הנושא, מאחר שהתקשורת הקולית תופסת מקום הולך וגדל. לפי חברת המחקר גרטנר, עד 2020 אנשים רבים יקיימו יותר שיחות עם עוזרות קוליות, צ'אטבוטים וסייעניים דיגיטליים אחרים - מאשר עם האיש או האישה להם נישאו. עד 2021 צפויות להיות יותר עוזרות דיגיטליות בעולם מאנשים, וכבר היום קורטנה, אלכסה, סירי והעוזר/ת של גוגל מותקנות על מעל שני מיליארד מכשירים בעולם. בין 2008 ל-2018 תדירות השימוש בחיפוש קולי עלתה פי 35, והיא מהווה היום כחמישית מהחיפושים באינטרנט. חלקה מתוך כלל החיפושים צפוי לגדול ב-50% נוספים עד 2020.

"אנשים מעדיפים לשמוע קול נשי" 

המחקר מצא כי ההתרפסות של העוזרות הדיגיטליות - שמוצגות כנשים צעירות - מהווה אילוסטרציה חזקה של הטיות מגדריות שמוטמעות לתוך מוצרים טכנולוגיים. זאת מאחר שזהו סקטור בעל רוב גברי: בעמק הסיליקון, מגייסים מעריכים כי פחות מאחוז מהמועמדים למשרות טכניות בתחום הבינה המלאכותית הן נשים.

במחקר מצביעים על כך שעל מנת ליצור עוזרות קוליות, מעבר לעניין הטכני, מעסיקים בחברות הטכנולוגיה גם צוותי קריאייטיב - בהם עובדים בעיקר תסריטאים - כדי לסייע לעוזרת הקולית לבטא את עצמה ולפתח סיפור רקע לדמות. כך למשל ג'יימס גיאנגולה, המעצב הראשי של השיחה והאישיות של העוזר/ת של גוגל אמר לאתר The Atlantic שהצוות דמיין אותה כאישה צעירה מקולורדו, בעלת תואר ראשון בהיסטוריה מאוניברסיטת נורת'איסטרן המובילה, שנהגה לעבוד כעוזרת אישית של מנחה תכנית ערב סאטירית.

חברות כמו אפל ואמזון מצדיקות את ההחלטה להעניק לעוזרות הדיגיטליות מאפיינים נשיים בכך שהן מתייחסות למחקרים אקדמיים, לפיהם אנשים מעדיפים לשמוע קול נשי מגברי. זאת למרות שבמחקר מצביעים על כך שקיימים גם מחקרים לפיהם רוב האנשים דווקא מעדיפים להאזין לדיבור נמוך וגברי, או שהם מעדיפים קול גברי כשמדובר בהצהרות סמכותיות ואילו קול נשי כשמדובר במתן עזרה, וכן מחקרים לפיהם לרוב אנשים מעדיפים להאזין לקול של המין השני. החוקרים אף מצאו עדויות של נשים רבות ששינו את קול ברירת המחדל של האישה לקול גברי כשניתנת להן האפשרות, אך לא מצאו עדות של גבר ששינה את קול ברירת המחדל הנשי. עובדה מעניינת היא שאפל מגדירה את סירי דווקא כברירת מחדל גברית במקרים בהם השפה שבוחר המשתמש היא ערבית, אנגלית בריטית, הולנדית או צרפתית. לפי החוקרים, ניתן להסיק מכך כי יש כוונה נוספת מאחורי הבחירה במגדר - מעבר להנחה כללית לפיה אנשים מעדיפים קול נשי.

הנצחת נשים ככנועות וטיפשות יותר

החוקרים הביעו חשש מהאופן שבו העוזרות הדיגיטליות הנשיות מלמדות אנשים - וילדים בפרט - על תפקידן של הנשים בחברה. זאת משום שנוצרת שאסוציאציה חזקה בין העוזרות הדיגיטליות לתפקיד הנשים בחברה, בעיקר ככל שהטכנולוגיה מתפשטת. חששות אלה מתחזקים לאור בדיקה של אתר קוורץ מ-2017, שמצאה כי העוזרות הדיגיטליות מגיבות בסלחנות ואף באופן חיובי או שובב להטרדות מיניות מילוליות שמופנות כלפיהן, דבר שמעביר מסר בעייתי. באותה בדיקה נמצא גם כי התגובות של סירי כלפי אמירות בעלות אופי מיני, שנאמרו על ידי גברים, היו חיוביות ומעודדות יותר לעומת הדרך בה הגיבה לאותם ביטויים כשנאמרו על ידי נשים. גם כשאותן עוזרות קוליות מבצעות טעויות, הן נתפסות כטעויות נשיות בעיניי המשתמשים, מה שמחזק את הסטריאוטיפ של נשים כטיפשות יותר. זאת למרות שהמקור של אותן טעויות הוא במי שתכנת אותן - צוותים בעלי רוב גברי כאמור. לפי המחקר, גם העובדה שהתשובות שעוזרות נשיות עונות לשאלות הן מופשטות, לעומת מנוע חיפוש שמציב מגוון מקורות למשל, מחזקת את הסטריאוטיפ על נשים בחברה.

החוקרים הצביעו על סיכון נוסף במגמה של ייצוג העוזרות הדיגיטליות כנשיות, הנוגע למגמה הגוברת לטשטוש ההבדלים בין האדם והמכונה. חברות טכנולוגיה שונות מנסות להעניק לעוזרות קוליות יותר ויותר מאפיינים אנושיים: בבחירת המילים, בטונים ואף ביכולת שלהן לזהות את הרגש של המשתמש - ולהגיב בהתאם. יכולתן לנהל שיחות עם מודעות רגשית, ולהוות מעין חברות ולא רק עוזרות, תשלח לדברי החוקרים מסר חזק באשר לאופן שבו מצופה מנשים להגיב ולהתנהג מבחינה רגשית. אם העוזרות הדיגיטליות יתנהגו כסבלניות, כנועות וחומלות, הדבר עשוי להביא לנורמות מגדריות לפיהן נשים וילדות חייבות להיות בעלות יכולת הכלה אינסופית, הבנה רגשית וסבלנות תמידית, ומנגד - שלא יהיו להן צרכים רגשיים משלהן.

למרות עובדות אלו והמאפיינים הנשיים הברורים של העוזרות הקוליות, לרוב כשמשתמשים שואלים אותן ישירות למגדרן, התשובה מתחמקת - ככל הנראה מתוך ניסיון של החברות להימנע מביקורת. כך למשל לשאלה "האם את אישה?" עונה סירי "אין לי מגדר, כמו לקקטוס ולמינים מסוימים של דגים". גוגל אסיסטנט אומרת כי "אני כוללנית לגמרי" (All-inclusive), וקורטנה משיבה כי "טכנית, אני ענן שמכיל דאטה". רק אלכסה משיבה שהיא "מאופיינת כנקבה".

עדיין לא מאוחר להפוך את הגלגל

החוקרים הדגישו כי הטכנולוגיה של העוזרות הקוליות היא חדשה יחסית, ולכן עדיין ניתן לשנות את הציפיות של לקוחות ממנה - מה שמייצר הזדמנות להתמודד עם הבעיות שעלו מהמחקר. בשלב הזה, אם משתמשים ישמעו פתאום את מערכות הבינה המלאכותית הללו מתבטאות באמצעות קול גברי, קול לא ממוגדר, או קול לא אנושי, הם ככל הנראה יקבלו זאת. אך אם הם יתרגלו במשך שנים לשמיעת קולות שנשמעים אך ורק כמו נשים צעירות ועליזות מצפון אמריקה, הם עשויים לראות זאת כסטנדרט, ויהיה קשה יותר לשנות את המצב מאחר שהדבר יגרום להם אי נוחות. באופן דומה, אם אותן עוזרות לא יתעמתו ישירות עם דיבור שמביע אלימות או הטרדה מילולית כלפיהן - כמו היום - המשתמשים כנראה ילמדו שגם זה הסטנדרט.

החוקרים קראו לכך שלנשים יהיה תפקיד מרכזי ואקטיבי יותר בעיצוב אותן נורמות דיגיטליות, אך הצביעו על כך שאחת הסיבות שזה לא המצב כיום היא הפער בכישורים הדיגיטליים בין גברים לנשים. היום יש סיכוי קטן ב-25% שנשים יצליחו להשתמש בטכנולוגיה למטרות בסיסיות במדינות מסוימות, וסיכוי קטן פי 4 שידעו לתכנת, על אף הצורך הגובר בכישורים טכנולוגיים. נשים מגישות רק 7% מהבקשות לפטנטים במדינות ה-G20, ו-2% מהפטנטים בעולם בכלל. לכן, יש צורך לדאוג לכך שנשים ירכשו יותר מיומנויות דיגיטליות, על מנת שלא ימשיכו להיות בעלות ייצוג נמוך כל כך בתחומי ההנדסה, ניהול המוצר ובתפקידי הנהגה בתעשייה הטכנולוגית.