החוקרת שהולכת נגד הזרם: "שימו לב מי האנשים שמזהירים מסכנות ה-AI - אילון מאסק וסם אלטמן"

"ההתמודדות עם סיכון ההכחדה מבינה מלאכותית (AI) צריכה לקבל עדיפות גלובלית, יחד עם סיכונים אחרים ברמת החברה כולה, כמו מגפות ומלחמה גרעינית" - כך נאמר בהצהרה קצרה ומכת גלים שהתפרסמה בחודש שעבר, ועליה חתומים כמה מהאורים והתומים של התחום, כמו המדען ג'פרי הינטון שפרש באפריל מגוגל ומייסד ומנכ"ל דיפמיינד דמיס הסאביס. לצדם אפשר היה למצוא בין החותמים את מייסד מיקרוסופט ביל גייטס, העתידן ריי קורצווייל, ממציא מטבע האתריום ויטאליק בוטרין, ועוד שורה של הוגים, אנשי עסקים ופוליטיקאים. המסר שלהם ברור: האנושות צריכה להתעורר.

● יותר רחוק, יותר גבוה: תיירות האקסטרים של האולטרה-עשירים 
● המאבקים שתוקעים את הקמת בית החולים החדש בנגב 
● בית ההשקעות אופנהיימר מסמן את המניות המומלצות בתחום הבינה המלאכותית

אבל פרופ' אורלי ליבל לא משתכנעת. "לדבר על AI כמו על נשק גרעיני זה מאוד מאוד מטעה", אומרת ליבל, שמלמדת משפטים באוניברסיטת סן דייגו ומתמחה ביחסים שבין משפט, טכנולוגיה ועבודה. קודם כל, היא מזכירה, תחת הכותרת 'בינה מלאכותית' מסתתרות בעצם הרבה טכנולוגיות שונות, ולא ברור בכלל שצריך להתייחס אליהן כאל דבר אחד.

חשוב מכך: המיקוד בחזונות האימה, של בינה מלאכותית שתקום על יוצריה, באה על חשבון הכאן ועכשיו. ליבל קוראת לזה 'כשל הטרמינייטור', על שם הרובוט הרצחני שמגיע מהעתיד בסרטי שליחות קטלנית. "כולם מסכימים שזה בעתיד הרחוק, שזה בכלל לא כאן, שזה משהו מאוד מופשט וערטילאי, ולא ברור גם המנגנון שדרכו זה אמור לקרות ואיך הם 'יהרגו אותנו'. שימו לב שהאזהרות על המקרה הגרוע ביותר, עם הטרמינייטור האובר-עוצמתי, מושמעות על ידי מיליארדרים מובילים מתחום הטכנולוגיה, כמו אילון מאסק וסם אלטמן.

 ארנולד שוורצנגר כטרמינייטור ב'שליחות קטלנית', 1984. ''לא ברור איך יעבוד המנגנון שבאמצעותו הם 'יהרגו אותנו''' / צילום: באדיבות YES

"אנחנו צריכים לחשוב מה האינטרסים הפיננסיים מאחורי מיקוד כזה בלא נודע, שיש בו האדרה עצמית, והוא גם מסיח את הדעת במכוון מאתגרים קטנים יותר של הטכנולוגיה הנוכחית, שאפשר לתקן אותם באמצעות רגולציה והגבלים עסקיים".

אפשר בהחלט לדבר על החששות הקיומיים ארוכי הטווח וגם לפעול על מנת למנוע מהם להתגשם, מבהירה ליבל. הבעיה היא שהמיקוד בהם בא על חשבון "השיח על מה שכן יש, הטכנולוגיה שיש כאן ועכשיו ואם להשתמש בה או לא, בהמון תחומים מהחיים שלנו, מבריאות, דרך עבודה וחינוך, ועד לאפליקציות דייטינג".

האם להשתמש בטכנולוגיה או לא? ליבל משוכנעת שברעש על סכנות ה-AI, אנחנו שוכחים שיש מחיר גם להחלטה לשמר את המצב הקיים, ולא להשתמש בטכנולוגיה. "נניח שיש כיום רובוט שמבצע ניתוחים אורטופדיים יותר טוב מבני אדם, מחשב שמבצע איזון אינסולין יותר טוב, או מכונית אוטונומית בטיחותית יותר מנהג אנושי. לא חייבים להסכים אם זה נכון עכשיו או שזה יהיה נכון בעוד שלוש שנים או בעוד שבע שנים. אבל כשהטכנולוגיה קיימת, לא לאמץ אותה זה סוג של היבריס. זו יכולה להיות הזנחה של חיים ובריאות".

ליבל הייתה רוצה לראות "שיח מאוזן ומדויק יותר על היתרונות והחסרונות, הסיכונים והיעילויות, על הטוב שבא מהטכנולוגיה הדיגיטלית בכלל וספציפית מבינה מלאכותית. כרגע אנחנו בסוג של תיקון יתר: אם בעבר הייתה אופטימיות יתר, עכשיו יש פסימיות יתר, ומסתכלים רק על הסיכונים והכשלים. ובאופן פרדוקסלי, בגלל זה אנחנו גם לא מקדמים את הדברים היותר טובים". ובנוסף להכל, כמעט אין רגולציה של התחום, כשבמקום זאת רק "מדברים כל הזמן באופן מאוד מופשט על 'רגולציה רגולציה', ועל המקרה הגרוע ביותר".

המסר הזה עומד בליבו של 'מכונת השוויון', ספרה של ליבל שיצא לאור בנובמבר האחרון (בינתיים רק באנגלית, תחת הכותרת The Equality Machine), ונבחר לאחד מספרי השנה של 2022 על ידי ה'אקונומיסט'. המסר של הספר, ושל ליבל, עומד בניגוד לשורה ארוכה של ספרים אחרים שמזהירים מפני סכנות והטיות הבינה המלאכותית. כך שדווקא מי שמגיע עם מסר חיובי כמוה, ורואה בטכנולוגיה כוח שעשוי להוביל ליותר שוויון, הוא זה שמוציא את עצמו מהכלל. "הכי קל להיות ביקורתי", היא אומרת, ומספרת שבאקדמיה אפשר לזהות את אותם מהלכים ביקורתיים שחוזרים על עצמם, "אותם סיפורים של כישלון ואותן שאלות של מי ירוויח מזה".

ליבל מכנה את הגישה שלה 'לעומתית באופן בונה' (constructive contrarian, בלעז). המטרה שלה, היא מסבירה, היא בין היתר למנוע מצב שבו "דווקא האנשים שהיינו רוצים שיעזרו לבנות את הטכנולוגיות יישארו בחוץ. עם השיח שיש כיום אנחנו מרתיעים אנשים, וספציפית נשים. כל הזמן מדברים על 'הטיות בינה מלאכותית', ואז למה שמישהו שחשוב לו שוויון יילך בכלל לעבוד בתעשייה הזאת? ועובדתית, המחקר שלי מראה שזה לא נכון: לפעמים בינה מלאכותית היא אכן מוטה, אבל לפעמים היא הרבה יותר הוגנת ושוויונית בהשוואה להטיות האנושיות. וזה מה שאני רוצה שנשאל".

"גברים לבנים שמשחקים לקרוס וקוראים להם ג'ארד"

אורלי ליבל, במקור מתל אביב, היא בת לזוג אקדמאים, תלמה ודוד ליבל, פרופ' לפסיכולוגיה מאוניברסיטת תל אביב ורופא עיניים. בצבא היא שירתה במודיעין, ואחרי התמחות בבית המשפט העליון (אצל השופט יצחק זמיר), היא המשיכה לדוקטורט במשפטים בהרווארד. בסופו של דבר, אחרי שלימדה בייל וגם בהרווארד, היא המשיכה מערבה עם בעלה, פרופ' און אמיר, שמלמד כיום בבית הספר למנהל עסקים באוניברסיטת קליפורניה סן דייגו.

במעבר לקליפורניה, אומרת ליבל, היה משהו 'משחרר' מבחינתה, והיא מספרת שבחוף המזרחי אותו עזבו אפשר למצוא דגש (מוגזם לדעתה) על מהלכים ביקורתיים וחשיפת מנגנוני כוח, בהשוואה לחשיבה הפרגמטית יותר של עמק הסיליקון, למשל.

ליבל עצמה עומדת בראש המכון למדיניות תעסוקה ועבודה באוניברסיטה, פרסמה שלושה ספרים ועשרות מאמרים, הציגה את המחקרים שלה בבית הלבן וברחבי העולם, העידה בבתי המשפט כמומחית, ובין היתר היא גם משמשת כ"יועצת מדיניות אקדמית" בנושא בטיחות ואמון לחברת Fiverr הישראלית. הספר הקודם שלה, You Don't Own Me, עסק במאבק הקניין הרוחני בין יצרנית בובות הבארבי ליצרנית בראץ, והוא נמצא בתהליכים להפיכה למיני סדרה על ידי רשת CBS.

המחקר שלה, מסבירה ליבל, עוסק ב"מפגש בין חוקי קניין רוחני, חוקי תעסוקה, וחוקי רגולציה ותחרות", בשאלה איך אפשר להגיע ל'שוק אידיאלי', "שאם הוא באמת תחרותי הוא גם יותר שוויוני".

הראיון עם ליבל התקיים במהלך שני ביקורים שלה בתל אביב - החודש, ולפני כחצי שנה. הרבה קרה בחודשים האלה, גם בתחום הטכנולוגיה. אבל יש גם דברים שלא השתנו. "מאוד מתסכל שאנחנו מתקבעים על אותו סיפור של כישלון, וחוזרים עליו שוב ושוב", אומרת ליבל, ומספרת על קטע שראתה לפני מספר חודשים בתוכנית של הקומיקאי ג'ון אוליבר, ועסק בבינה מלאכותית.

 ג'ון אוליבר. ''מתסכל שחוזרים שוב ושוב על אותו סיפור לא רלוונטי'' / צילום: Associated Press, Chris Pizzello

"רואים שם ממש את מה שאני אומרת שאסור לעשות - שוב הוא מספר את אותו סיפור". אוליבר, היא מספרת, הציג בין היתר את הדוגמה הידועה לשמצה של האלגוריתם למיון מועמדים לעבודה שפותח באמזון. ממש במקרה, האלגוריתם בחר "גברים לבנים שמשחקים לקרוס וקוראים להם ג'ארד". הבעיה, אומרת ליבל, היא שהדוגמה הזאת היא מלפני 7 שנים, וכבר לא רלוונטית לאור ההתפתחויות בתחום מדעי המחשב. יותר מזה, היא מוסיפה: אמזון לא השתמשה באלגוריתם בפועל. "בניגוד למצב שבו למישהו שעובד במשאבי אנוש ואי אפשר לגלות את ההטיות שלו, הם בדקו את זה לפני שהם בכלל הכניסו את (האלגוריתם) לשימוש".

"זו דוגמה לכך שאנחנו מבלבלים בין פחדים. אנחנו מבלבלים בין הפחד ש-AI הוא לא מספיק טוב, ואז בוא נדבר על איך לשפר אותו, לבין הפחד שהוא יותר מדי טוב, שיש לו יכולות חזקות מדי. אנחנו צריכים להבין בצורה ברורה יותר מה הבעיה שאחנו מנסים לתקן, מה הסיכונים שאנחנו מנסים למנוע".

אחרי שיצא הספר שלך הושק ChatGPT, ובהמשך יצא GPT4, מודל השפה הגדול של חברת OpenAI. כמה ההייפ והדרמה סביב ההתפתחויות האלה מוצדקים?

"זה אכן גיים צ'יינג'ר להרבה דברים. אין ספק שיש כאן קפיצה ביכולות: GPT4 עובר את מבחני הלשכה, את המבחנים לתואר שני במנהל עסקים, את המבחנים לרפואה, וזו רק ההתחלה - הוא (או היא, או הם, צוחקת ליבל) הולך להשתפר". אם בשנים קודמות שיפורים טכנולוגיים בביצוע פעולות מכניות שינו את שוק העבודה, כלומר החליפו למשל פועלי ייצור, "אז כאן מדובר באמת בעבודות כל הדרך לצמרת. ושוב: אנחנו צריכים להביא לכך שזה יהיה דווקא יתרון".

איך למשל? ליבל, שאמורה הייתה להרצות בפקולטה לרפואה בתל אביב ביום שלאחר שיחתנו, נותנת דוגמאות מהתחום. "בכל העולם יש בעיה של מחסור, של רופאים ספציפית, ושל אנשים בתחום הבריאות באופן כללי. ויש שחיקה נוראית מטיפול בניירת. אני בקשר עם רופאים מובילים בתחום, והם חושבים על איך GPT יפנה מרחב ויחזיר אותנו לליבה, של הרופא והרופאה שהם הילרים, ונמצאים בקשר אנושי עם המטופלים. זה גם ייתן להם גב, ביטחון שהם לא עושים טעויות חישוב - ולא בשביל זה הם הלכו לרפואה".

 הרובוט היפני פפר. נועד לסייע בעבודות הבית ובטיפול בקשישים / צילום: Associated Press, Debiopharm International SA

אבל יש עוד דרך, חשובה לא פחות, לחשוב על הטכנולוגיה בהקשרים של מחסור, אומרת ליבל. בדרך כלל, אנחנו מתעסקים בשאלה האם הטכנולוגיה טובה יותר "מרדיולוג, או מטייס או או מעורך דין. אבל מה אם לרוב האנשים אין גישה לשירותים האלה, ופשוט לא ריאלי שתהיה להם?".

למה הכוונה?
"זו פשוט עובדה. בתור משפטנית אני חושבת על זה כבר שנים - הרוב המכריע של אנשים לא יכולים להרשות לעצמם עורך דין לדברים הכי בסיסיים של החיים. כשהם חותמים חוזה עבודה או חוזה שכירות, או מתגרשים. אנחנו מדברים על האליטה שיש להם את הנגישות הזאת: נגישות לצדק, נגישות לבריאות, נגישות ללימודים, להשכלה. בכל המישורים האלה אנחנו צריכים לחשוב על היכולת להשתמש בטכנולוגיה בהיקף נרחב (scaling) בהשוואה ליכולת לעשות את זה עם בני אדם. האלגוריתמים והאפליקציות הם בעלות נמוכה, הם יכולים להיות בכל העולם - וזאת החשיבה שאני רוצה".

"בקפיטליזם, מי שמאבד את מקום העבודה מאבד הכל"

לפעמים, גישה לשירות רפואי או משפטי דיגיטלי עדיפה על כלום. ובספר שלה, ליבל מזכירה עוד תובנה: הטכנולוגיה לא חייבת להיות מושלמת. "לא צריך שזה יהיה מושלם, לא מבחינת החלטה הכי מדויקת או אפס טעויות או אפס תאונות. צריך שהביצועים יהיו יותר טובים משל בני אדם".

ויש לה עוד דגש. באופן כללי, "צריך להבין שאי אפשר להימנע מטרייד-אופים. לכל דבר יש מחיר מסוים. למשל, לאחרונה אני מתבטאת יותר בכתיבה שלי על כך שלא צריך להיות מעמד מועדף לפרטיות".

למה הכוונה? כשאנחנו מחליטים להכניס יותר אלגוריתמים למערכת החינוך או הבריאות, לשוק העבודה, מסבירה ליבל, בדרך כלל ניצבות בפנינו כמה מטרות: "אנחנו רוצים שהדברים יהיו הוגנים, אנחנו רוצים שזה יהיה יעיל, שזה יהיה בעלות נמוכה. ככה זה תמיד. ובשנים האחרונות, בגלל שבהכרח AI מאפשר לדעת יותר, יש הרבה פחד מהשינוי של החוזה החברתי שלנו בנוגע לפרטיות. יש הרבה יותר יכולת לצפות בנו, לעקוב אחרינו. זה הכל נכון. אבל ממגוון סיבות (ואחת מהן היא שמשפטנים שעוסקים בפרטיות נכנסו לתחום יותר מאחרים), זה נעשה מאוד לא מאוזן, כאילו פרטיות גוברת על הכל, ואנחנו רואים את זה ברגולציה".

ברקע הדגש על פרטיות מסתתר משהו עמוק יותר, ממשיכה ליבל. "יש בזה משהו מאוד אמריקאי, שהגיע גם לישראל" - דגש על האינדיבידואל. "כשחושבים למשל על תקופת הקורונה, למדינות שונות היו איזונים שונים. בארה"ב, העיקר היה לא להפר פרטיות. אבל ברגעים מסוימים גם במדינות סוציאל דמוקרטיות צריך להבין שהמידע שלך הוא חלק מטובת הכלל. ולאורך השנים, פרטיות הייתה גם חרב וגם מגן. פרטיות כעוולה נזיקית התחילה בכלל מגברים לבנים שלא רצו שיידעו על הפיננסים שלהם ועל ההטרדות שלהם.

"אני לא אומרת שאנחנו לא צריכים פרטיות, אבל אנחנו צריכים לשים את זה באותה רמה כמו הרבה ערכים אחרים, למשל שוויון, ובריאות, ורווחה, וקדמה במדע".

דיברת על המיקוד באינדיבידואל. תוכלי להרחיב?
"דיברנו קודם על השינויים שיגיעו עם הבינה המלאכותית ו-ChatGPT. השוק האמריקאי נתן לנו את המודל לפיו כל מדינת הרווחה והסעד תלויה בקשר של מקום העבודה למעביד אחד. ובאופן כללי, המודל האמריקאי הוא שהכל דרך הכלכלה הקפיטליסטית, האינדיבידואל צריך להסתדר לבדו, ואז יש הרבה פחד מהשינויים האלה. כי אם אתה מאבד את מקום העבודה אתה מאבד את הכל".

"תמיד היה בעייתי שמקשרים הכל לעבודה, והיה גם מאוד בעייתי ומאוד פוליטי שבארה"ב, ובעולם כולו במובנים מסוימים, המיסוי על עבודה כבד יותר מאשר המיסוי על ההון. זו שיטת מיסוי נוראית: אנחנו נותנים כל כך הרבה מקלטי מס לחברות - וממסים את העובדים".

"כיום", ממשיכה ליבל, "דפוסי העבודה שלנו משתנים, והארעיות של אנשים גוברת". אחד המאמרים שלה מהשנים האחרונות קובע ש'כולנו עובדי כלכלת החלטורה כיום'. "בקורונה ראינו שבפעם הראשונה אי פעם, בממשל הפדרלי האמריקאי נתנו מענקים בסגנון מענקי אבטלה גם לעצמאים, ולעובדי קבלן. היה ביטוח אבטלה שלא הבחין בין עצמאים לשכירים. וזה צעד נכון, כי כל שוק העבודה משתנה כל הזמן, והמחשבה שנצליח להלביש על הדפוסים הנוכחיים את התבניות שהיו לנו פעם וההגדרות שהיו לנו פעם, ונחייה איכשהו את תנועות העבודה עם זכויות קיבוציות - בארה"ב זה בטח לא יקרה".

"אז צריך להכיר בדברים החיוביים שמגיעים מצורות שונות של עבודה. ומצד שני צריך לחשוב על מה רשת הביטחון החברתי שמדינות רווחה דמוקרטיות צריכות להעניק". שוק העבודה עובר שינויים טקטוניים, ויש נבואות על כך שהבינה המלאכותית תביא לעוד שינויים דרמטיים, ממשיכה ליבל. "אבל הפתרון הוא לא לחסום את הקדמה הטכנולוגית אלא להביא לידי ביטוי את האנושיות שלנו באמצעות חוזה חברתי חדש שמספק כבוד וקיימות לכולם, בלי קשר לסטטוס התעסוקה שלהם". כשהמודל שעליו חושבת ליבל הוא זה של מדינת הרווחה הסקנדינבית.

"זה לא טריוויאלי, וזה פוליטי", מדגישה ליבל. "ראינו את זה בארה"ב עם ה-ACA (רפורמת הבריאות שהעביר ממשל אובמה, א"פ) - וגם אובמה עצמו תיאר את זה בתור אחד המנועים הגדולים של העידן הדיגיטלי". ברגע שהביטוח הרפואי, למשל, מתנתק מהמעביד, אנשים יכולים לעבור מהר יותר בין עבודות או לקחת פסק זמן. "זה סוג הדברים שאנחנו צריכים לעשות, בצורה הרבה יותר נרחבת".

כשמסתכלים על הדברים ככה, יכול להיות שמאבקים חברתיים כדוגמת הקמפיין לגרום לסיווג נהגי חברת 'אובר' בתור מועסקים של החברה, הם בעצם בכיוון הלא נכון. במקום זאת, אומרת לובל, אפשר היה לחשוב "מה אנחנו מנסים להשיג, מה ייצא מזה שהם 'עובדים': תהיה להם יותר גישה להטבות, לביטוח בריאות, לביטוח לאומי. אז בואו ניפטר מההגדרות, ונדאג שלכולם יהיו את הדברים האלה, גם אם הם כרגע לא בשוק העבודה, גם אם יש ערעור של היציבות".

"הרגולטורים עסוקים בלעצור, במקום להצטרף למרוץ"

יותר מזה. לובל הייתה רוצה שנחשוב באופן רדיקלי יותר על חלוקת פירות הטכנולוגיה, ולדבריה יש משהו "מאוד אמריקאי" בכך שהדיון הזה לא מתקיים. "יש דוחות של מקינזי ואחרים לפיהם הטכנולוגיה יכולה להעשיר את הכלכלה שלנו במיליארדים על מיליארדים. אם זה נכון, אנחנו צריכים שכולם ייהנו מזה. זה מנגנון אחר מאשר זה שישמר את מקומות העבודה. צריך לחשוב בצורה אחרת לגמרי על מה הרכוש כאן. אני רוצה אופציות ציבוריות. כרגע קצת מדאיג ש-OpenAI ואחרים נמצאים במרוץ לשליטה על השוק, ובכלל לא ברור שזה צריך להיות משהו פרטי. אנחנו צריכים מרוץ אחר".

מה זה אומר משהו לא פרטי?
"הנתונים שנכנסים לChatGPT הם נתונים ציבוריים. תחשוב על זה כמו על פרויקט הגנום. בזמנו, היה צריך ללכת לבית המשפט: האיגוד האמריקאי לחירויות אזרחיות תבע כמה חברות ביוטק שפשוט רשמו פטנטים על ריצוף גן ה-BRCA, של הסיכון לסרטן השד, ואמר 'רגע, נתוני הגנום זה נתונים של כולנו. זה משהו אנושי שאתם לקחתם. למה שאפשר יהיה לקבל על זה פטנט?' ובית המשפט הכריע שאי אפשר. אני חושבת שיש כאן אנלוגיה. אם הטכנולוגיות האלה ניזונות מכל נתוני העבר האנושי שלנו, ומתחזקות, אז צריך שתהיה גם אופציה ציבורית. זה חלק מהבעייה: הרגולטורים כל כך מתמקדים בלעצור, במקום להיות במרוץ בעצמם ולבנות את הטכנולוגיות האלה".

"הפיתרון", מדגישה ליבל, "הוא לא למנוע מהחברות האלה להשתמש באינפוטים האלה". היא גם לא מצטרפת לעמיתיה שטוענים שצריך לאסור על החברות האלה להשתמש בחומרים שמוגנים בזכויות יוצרים. במקום זאת, היא בעד "מיקוד במיסוי החברות האלה - והוא צריך להיות בינלאומי - ובחלוקת העושר. קל יותר להגיד מאשר לעשות את זה. מיסוי יתר של עבודה ומיסוי חסר של ההון הוא תוצאה של הכוח והלובי של האינטרסים העשירים".

אפרופו רגולציה. סם אלטמן, מנכ"ל OpenAI, שהגיע לאחרונה לביקור בישראל, נוהג לדבר על כך שחייבים רגולציה. מה המהלך כאן?
"ראינו את המהלכים האלה בעבר עם פלטפורמות שיש להן דומיננטיות בשוק ואומרות 'תעשו רגולציה' - קודם כל, לא אומרים מה. וספציפית עם OpenAI, מתמקדים בדברים הכי רחוקים, שיהיה כפתור כיבוי אם הבינה המלאכותית תהפוך לתבונית - ואנחנו לא קרובים לשם".

 סם אלטמן, מנכ''ל OpenAI בביקור בישראל / צילום: כדיה לוי

מעבר לכך, מזכירה ליבל, דרישות רגולציה - מבקרת תכנים ועד שמירה על פרטיות - עשויות בחלק מהמקרים לעזור לשחקנים הקיימים לבצר את כוחם (למשל בגלל ששחקנים חדשים לא יוכלו לעמוד בעלויות שכרוכות בעמידה בתנאי הרגולציה). ובכל מקרה, בהרבה מקרים הרגולציה נוגעת בשוליים, ולא בליבה.

"אני בהחלט חושבת שצריך רגולציה", אומרת ליבל. אבל הרגולציה שהיא מדברת עליה היא בכיוון אחר. למשל, לחייב חברה כמו OpenAI לציין מתי ChatGPT 'הוזה' וממציא דברים, ואיך ניתן לתקן את זה. "באופן כללי, גם על הטכנולוגיות האלה אבל גם על כל מיני אלגוריתמים שיש בשוק, הייתי רוצה לראות את הרשויות הרלוונטיות נותנות לנו דירוג של האלגוריתמים. נגיד, אלגוריתמים לשכירת עובדים. שיגידו לאיזה אלגוריתם יש ביצועים יותר טובים. כמו שבארה"ב ה-FDA מאשר תרופות. שיעשו מבחינים קליניים. כרגע הם בכלל לא מתעסקים בזה".

"גם מכונת הכביסה עזרה לקדם שוויון מגדרי"

הטכנולוגיה נכנסת לכל תחום בחיים שלנו, וליבל מזהה טרייד-אופים, וגם יתרונות, גם באזורים האינטימיים ביותר. כניסת האפליקציות לעולם הדייטינג, למשל, הגדילה במובן מסוים את השוויון. אם מסתכלים על 'שוק הנישואים', בדומה ל'שוק העבודה', היא מסבירה, הרי שהאפליקציות הביאו להרחבת השוק, "ויש ממש סטטיסטיקה על כך שיש יותר נישואים בין גזעיים, ובין קהילות שהיו יותר מבודדות".

ליבל נותנת עוד דוגמה על האופן שבו טכנולוגיה יכולה לשנות את המסגרות האינטימיות שלנו, שמגיעה מיפן, בה ביקרה לאחרונה. "ביפן, מסיבות תרבותיות, נשים פחות רוצות להתחתן בשנים האחרונות. ובצורה פרדוקסלית, ולא בלתי בעייתית, חושבים שם על איך להחזיר את המשפחה המסורתית. זו מחשבה שמרנית, שמשתמשת בחדשנות כדי לשמר: הם חושבים על גבר, אישה, שני ילדים ורובוט, כדי לפתור את אי השוויון שנשים מנסות להתרחק ממנו. כדי שהנשים לא יצטרכו לעבוד ב'משמרת כפולה', הרובוט יחליף חיתולים, יקפל כביסה ויהיה חלק מהמשפחה. זה לא לגמרי מופרך - גם מכונת הכביסה עזרה לשוויון מגדרי".

זה, אם כן, המסר של ליבל. "מראשית הזמן התמודדנו עם זה שיש לנו המון מטרות, יש המון דברים אינדיבידואלים וקולקטיביים, יש המון הגדרות של מה זה שוויון ומה זה חופש, על מה אנחנו מוכנים לוותר בשביל בריאות, ובריאות הציבור, לעומת מה יעשו לנו לפרטיות. בכל הדברים האלה, במדינות דמוקרטיות שונות, הגיעו להחלטות שונות, או לנקודות איזון שונות. אנחנו רואים את זה כל הזמן. ואני חושבת שטכנולוגיה יכולה לעזור לנו לחשוב על הדברים האלה, ויכולה למזער בנקודות מסוימות את המתחים עצמם. ולפעמים, היא יכולה לתת לנו גם וגם. וזה הפוטנציאל הכי גדול".