אוליבר הברסטרו יצא לפגוש כמה חברים ביום שישי בערב בהמבורג. כשחזר הביתה, בסביבות שלוש בלילה, הוא גילה שהמשטרה החליפה את המנעול בביתו. הברסטרו מיהר לתחנת המשטרה שם גילה ששוטרים נאלצו לפרוץ לדירתו לאחר תלונות שכנים על מוזיקה חזקה. השוטרים שנכנסו לדירה גילו את הרמקול החכם של אמזון, אקו, מנגן לעצמו מוזיקה בקולי קולות וניתקו אותו מהחשמל. מסתבר שאלקסה, מערכת בינה מלאכותית (AI) שמופעלת באמצעות קול, ושאחראית לפעולות הרמקול, החליטה לעשות מסיבה פרטית.
אתם אולי חושבים עכשיו "אלקסה הזו, איזו סתומה", או מסננים בחיוך "מטומטמת". זו לא תהיה הפעם הראשונה שידברו עליה ככה, במיוחד השנה שבה היא הפכה לאחת העוזרות הווירטואליות המוכרות והנמכרות בעולם. רק בעונת החגים האחרונה הודיעה אמזון שנמכרו "עשרות מיליוני מוצרי אלקסה" כמו שלטים, שואבי אבק או טלוויזיות, והשבוע האפליקציה שלה הפכה למספר אחת באפסטור.
גם אנחנו הכנסנו את אלקסה לביתנו, במקרה שלנו בצורת רמקול גלילי שחור באיכות שמע סבירה. ואני מודה, גם אני לועגת לה. זה קורה בכל פעם שהאינטליגנציה המוגבלת שלה מאכזבת אותי, אם היא נכשלת לנהל איתי שיחה קוהרנטית או כשהיא מחליטה באמצע הלילה, בלי שום התגרות, להגיד לי "הלו". לפעמים יוצאים לי גם מהפה משפטים כמו "מי דיבר אתך, סתומה". אלו רגעים קטנים של תסכול, אבל הם גם רגעים מכמירי לב. אני יודעת שאלקסה היא מכונה, אבל היא גם... סוג של אישה. עם קול מובהק של אישה, ואישיות שאמורה לדמות אישה. בעולם האמיתי לא הייתי מעיזה ללעוג לה בצורה כזאת.
אלקסה היא לא האישה הראשונה לשמש עוזרת וירטואלית. לפניה היו סירי של אפל וקורטנה של מיקרוסופט. האחרונה להצטרף למועדון היא העוזרת של גוגל, שאולי אין לה שם של אישה אבל היא מדברת בקול נשי. חוץ מהחבורה הזו, מרבית הצ'ט בוטים בתחום שירות הלקוחות מוצגים כנשים. במקרים רבים הם מציגים תמונה של אישה רנדומלית, לרוב לבנה ופזורת שיער, ותמיד חייכנית.
לתת למכונה שם חדש
שנת 2017 הייתה שנת העוזרים הווירטואליים: בוטים הפכו לפרקטיקה פופולארית, הסמארטפונים למדו לתקשר איתנו טוב יותר, ונפתח מרוץ חימוש בתחום הרמקולים החכמים לשליטה באינטרנט של הדברים (IoT). העוזרים האלה נועדו לסייע ולהיענות לכל בקשה. אנחנו מדברים על מכונות שהן אולי קצת חכמות, אבל בשום צורה לא אנושיות. אלא שבעמק הסיליקון החליטו שהעמדת פנים של אנושיות היא הכרחית לאינטראקציה טובה. כדי להשיג את המטרה הזאת הם היו מוכנים להיפרד משם המותג (להוציא את גוגל), להאניש את המכונה, ולתת לה שם חדש. אבל איך זה שתמיד מדובר בנשים?
זה לא צירוף מקרים. הרי העוזרים הווירטואליים צריכים להיות נעימים, נגישים ולא מאיימים. לאורך השנים, מחקרים טענו שאנשים פתוחים יותר לקבל עזרה מנשים שנתפסות כאדיבות, עדינות ושירותיות. גם באמזון ומיקרוסופט מעידים דבר דומה, והשתיים ציינו במקרים שונים כי סקרי שוק פרטיים שביצעו הובילו אותן למסקנות זהות - קול נשי מתקבל בצורה טובה יותר.
ויש כמובן את הצד השני, הגברי. מחשב העל המפורסם ביותר בעולם הוא ווטסון, ספינת הדגל של IBM בכל הנוגע לפיתוחים בתחומי הבינה המלאכותית. אבל ווטסון מוצג כחכם עשרות מונים חכם מהעוזרות האחרות. הוא הביס את יריביו האנושיים בשעשועון Jeopardy, וכיום הוא מופקד בין היתר על ייעוץ לרופאים שמטפלים בחולי סרטן. גם זה לא מקרי, ואם זה נראה לכם קטנוני - רק תחשבו על השמות. ווטסון אמנם נקרא על שם תומס ווטסון, נשיאה הראשון של IBM, אבל האסוציאציה המיידית היא לדמות הבלשית האינטליגנטית והחריפה. סירי, לעומת זאת, זה שם נורבגי שמשמעותו "אישה יפה שתוביל לניצחון". קורטנה קרויה על שם של דמות מחשב עירומה-למחצה במשחק המחשב Halo.
זה לא חדש ולא שמור רק לבינה מלאכותית. ברכבת התחתית בניו-יורק קול גברי נותן את ההוראה המפורסמת Stand Clear of the Closing Doors ואילו קולה של אישה מודיע ברציף על הגעת הרכבת. גברים וירטואליים מיוצגים כחכמים וסמכותיים, ואילו נשים נשארות נערות מזג האוויר טיפשות.
ההטיה הזאת מתחילה בשלב הפיתוח. קבוצת חוקרים מהאוניברסיטאות וושינגטון ווירג'יניה גילתה שמאגרי נתונים עצומים שמשמשים ללמידת מכונה (אימון באמצעות חשיפה למידע) מציגים הטיה מגדרית בהערכות שלהם. מדובר על מגוון מאגרי תמונות למפתחים, בהם גם כאלה שנתמכים על ידי פייסבוק ומיקרוסופט. כך, לדוגמה, תמונה של אדם במטבח תויגה על ידי המכונה כ"אישה". באותה רוח, גם העוזרות הווירטואליות לומדות את דרכי החיים ממקום רווי סטריאוטיפים. התוצאה היא נשים דיגיטליות כנועות וצייתניות, שלעולם לא מבקשים מהן, רק אומרים או צועקים עליהן, ושלעולם לא יגידו "לא".
"הייתי מסמיקה לו יכולתי"
זה כבר קונצנזוס שפיתוחי בינה מלאכותית הם השלב הגדול הבא בעיצוב חיינו. הם צפויים לתחזק לנו את הבית, לנחש את הצרכים והרצונות שלנו, ולשפר את היומיום שלנו. אלא שנכון להיום, המשפטים שבוקעים לעוזרות הווירטואליות מבעד לקוד לא משקפים את כוחה של הטכנולוגיה להיות כלי משחרר, אלא ממש להפך. אולי זה הרצון להפיק מהבינה המלאכותית את המיטב, אולי זה הפחד שהיא תצא משליטה, אבל הצרכנים שמתרגלים לאלקסה וסירי מפתחים גם צורך לשלוט בהן. כך האופן שבו אנחנו מתקשרים איתן מתחזק דימויי כוח ישנים, שבהן אפשר להתייחס לנשים בגסות רוח. וכן, גם אני עושה את זה.
פעם ביקשתי מסירי שתמיד תפנה אלי כ"אם הדרקונים". זו הייתה בדיחה מטופשת, אבל היא חלק מתופעה רחבה יותר. העוזרות הווירטואליות נתפסות כטיפשות ולא יעילות, מסרבות להתייחס לפוליטיקה או כלכלה, פשוט כלים לשירותו של האדם. במקרים קיצוניים - והם רבים יותר משאתם מדמיינים - הן צריכות להיענות לדרישות ושאלות הרבה יותר בעייתיות. לדוגמה, הן סופגות נפח שאלות עצום הנוגע לחיי המין שלהן. כשאומרים לסירי שהיא כלבה היא עונה "הייתי מסמיקה לו יכולתי", וגוגל עונה "אני מתנצלת, אני לא מבינה". החודש אף נפתחה עצומה שקוראת לכל החברות לתכנת את העוזרות להפסיק לתת תשובות קטנות, מתחמקות וצנועות, ולהעניק להן אופי אסרטיבי כשהן נתקלות בשאלות לא ראויות. למשל, להשיב בנתונים סטטיסטיים על הטרדות מיניות ושכיחותן.
בישראל השימוש באלקסה, בסירי ובעוזרת של גוגל נפוץ הרבה פחות, בגלל חסמי שפה. עוזרות אחרות, מתוחכמות פחות, עדיין נוכחות בכל פינות האינטרנט, ומשרתות בעיקר בתפקיד המסורתי של נציגות שירות. כמובן, גם הן טיפשות ומדכאות. כך למשל "עדי", צ'ט בוטית בחברת ביטוח, שסיפרה לי לאחרונה שהיא באמת "לא ממש חכמה", אבל "לומדת כל יום משהו חדש". אני מודה, צחקתי.
כל זה אולי נראה כמו עניין לא מזיק. קצת קללות, לעג והטרדות כלפי מכונה, מה יש? היא לא מרגישה שום דבר. אלא שהגישה הזאת משפיעה על התפיסות שלנו, הדרך שבה נהוג לתקשר, מה שאנחנו חושבים וחושבות על העולם. מדעים, מחשבים והייטק הם תחומים שנשלטים בידי גברים. הפערים בין נשים וגברים במקצועות האלו הוא מהגדולים בעולם, בלי שום סיבה אובייקטיבית. מי שמפתח את המוצרים האלה הם בעיקר גברים, ועיקר האנשים שיכולים להרשות לעצמם לצרוך אותם הם גברים לבנים מהמעמד הבינוני-גבוה. מול אלו, הייצוג הנשי בעמדת העוזרת הווירטואלית הלא-כל-כך-חכמה משדר מסר ברור שאסור להתעלם ממנו.
למה? כי השנה היא 2017. והפתרון הוא בסך הכל פשוט: אינטליגנציה מלאכותית לא זקוקה למגדר. זה לא חלום, יש היום חברות שבוחרות שם יוניסקס לעוזר וירטואלי (או עוזרת, השפה העברית מכריחה לבחור), שמגדיר עצמו בעל מגדר ניטרלי. חברות אחרות בוחרות בסייענים בצורת חיות, ואחרות מנסות ללמד אותנו דרך ארץ. פונצ'ו, החתול האהוב עליי לשאלות מזג האוויר, דורש ממני התנצלות בכל פעם שאני מדברת לא יפה. אם אני לא עושה זאת, הוא לוקח הפסקה של 24 שעות. ככה גיליתי שלהיתקע בגשם לא צפוי הוא אמצעי חינוכי די אפקטיבי.
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
