"האינטרנט הוא ניסוי כלל עולמי בבני אדם, עשינו עסקה עם השטן"

וונדי הול הוטסה לישראל במיוחד כדי לדבר במשך 12 דקות על בינה מלאכותית. המארחים, המרכז למחקר הסייבר באוניברסיטת תל-אביב ומערך הסייבר הלאומי, אמנם לא חסכו במאמצים לארח אותה, אך למרות זאת, נשלחנו, הול ואני, לחדר לא נקי בקצה אולם, שכלל גם שירותי גברים. ישבנו שם נבוכים כמה דקות ארוכות, צופים בלית ברירה ברכבת של פועלי במה ואורחי כנס שמיהרו לשירותים, והתפלאו לראות שני אנשים לא צעירים יושבים זה מול זה ומדברים, שולחן מאובק וטייפ מנהלים ביניהם.

"אתה יודע", אמרה הול פתאום, "אני ממש שונאת שמכניסים אותי למגירה הנשית. אני מתרגזת בכל פעם שמציגים אותי כאחת הנשים החשובות והמשפיעות ביותר בתחום מדעי המחשב, אז אל תעשה את זה גם. לא, באמת: אני אחד האנשים הכי משפיעים בתחום הזה. כמה נשים כבר יש במדעי המחשב?".

היא צודקת, כמובן. לא כל יום מוטס לישראל מישהו שהיה שם ממש ברגע הלידה של הווב, אותו מרחב אינסופי של מסמכי הייפרטקסט מקושרים, שכולנו גולשים בו כבר שנים כאילו היה הדבר הכי מובן בעולם. לא בכל יום רואים כאן גם מישהו שנחשב מוביל עולמי בכל מה שנוגע לבינה מלאכותית. ומתי רואים כאן מישהי שהיא גם וגם?

"חשוב מאוד שנלמד את הלקח ממה שהשתבש בווב, בהתמודדות שלנו עם התפתחות הבינה המלאכותית", אומרת הול בראיון ל'ליידי גלובס', "קריטי שנוודא שאנחנו בונים מערכות טובות לאנושות שיקשו מאוד על כל מי שירצה להשתמש בהן לרעה. אין ספק ש'הרעים' בעולמנו - הפושעים, הנוכלים, הבריונים, המדינות התוקפניות - כולם ינסו להשתמש בבינה מלאכותית כדי לעשות מעשים זדוניים לאנשים אחרים. אנחנו חייבים למנוע את זה, או לפחות לצמצם את זה, באמצעות רגולציה בינלאומית".

למה את מתכוונת?

"אם גנבת ממני כסף ונתפסת, ברוב המדינות יש חוקים שלפיהם אתה תישפט ותשב בכלא. אם תציק לי ותאיים עליי ברשת, ממש לא בטוח שיקרה לך משהו. קשה מאוד להוכיח את זה, ויותר מזה, הנורמות החברתיות שונות בכל מדינה ומדינה. לכן, אחד האתגרים הגדולים שעומדים היום בפני העוסקים בבינה מלאכותית הוא האם לאפשר ייצור כלי נשק שמסוגלים לקבל החלטות אוטונומיות, כמו את מי להרוג ואת מי לא, ומתי".

 רובוט סיני מחקה תנועה של אדם הלבוש בחליפה חושית / צילום: Gettyimages ישראל

לא מחליפים רופאים

הול, פרופסור למחשבים, מדברת על השינויים שנראה בשוק העבודה בעקבות חדירת הבינה המלאכותית. "אם העבודה שלך חוזרת על עצמה, רוב הסיכויים שתוחלף על ידי מכונה. עם זאת, התהליך, לדעתי, יהיה יותר איטי ממה שחושבים. בגלל ההייפ כולם בטוחים שכל החברות יתחילו להשתמש בבינה מלאכותית מחר או מחרתיים, אבל זה לא בדיוק ככה".

נראה מורים רובוטיים?

"לא כל-כך מהר".

פסיכולוגים?

"גם לא".

רופאים?

"רובוטים מבוססי בינה מלאכותית בהחלט יכולים לסייע לצוות הרפואי, אבל לא נראה בקרוב דחיקה של בני האדם ממערכת הרפואה. אי-אפשר ללמד עדיין את המכונות איך להיות רופא מומחה.

"יהיה אובדן של מקומות עבודה, אבל זה קרה גם בכל המהפכות הטכנולוגיות שידענו עד היום. המהפכה התעשייתית הגדולה הביאה לעולם, בין השאר, שבוע עבודה של חמישה ימים. אולי נקבל שבוע עבודה של ארבעה ימים, אם נשחק נכון בקלפים של הבינה המלאכותית. המדינות חייבות להשקיע גם בלימודי בינה מלאכותית, כולל ההזדמנויות והאתגרים שהיא תביא לשוק העבודה. ההחלטות הללו צריכות להתחיל להתקבל מגיל צעיר. בבריטניה אנשים מחליטים בערך בגיל 14 אם יהיו מדענים".

מה דעתך על הרעיון של שכר מינימום שישולם לכל האנשים, בלי קשר לשאלה אם הם עובדים או מובטלים?

"יש יתרונות ברעיון כזה, אם נדע ליישם אותו נכון. חדירת הבינה המלאכותית לחיינו והשינויים שהיא עומדת לחולל יציבו בפנינו מגוון רחב של אפשרויות חדשות, של חיים שבהם המכונות עושות בשבילנו יותר ויותר פעולות ושירותים. נצטרך לחשוב מה עושים עם האנשים שיאבדו את עבודתם, ונצטרך גם לוודא שלא נהפוך מתישהו לעבדים של המכונות".

את צופה שהצ'טבוטים מבוססי הבינה המלאכותית יחליפו את נציגי השירות האנושיים?

"כיום עדיין קל מדי לשטות בהם".

סין יכולה, לדעתך, להפוך למעצמה בתחום הבינה המלאכותית?

"הם כבר במעמד הזה. יש כיום שתי מעצמות בינה מלאכותית בעולם: ארה"ב וסין. הסינים משקיעים בתחום המון כסף וכן, יש בזה סיכון, משום שלממשלה הסינית יש ראייה שונה לחלוטין משלנו על פרטיות ועל פרטיות הנתונים. עולה השאלה איך ממשיכים להתנהל מול גורם שלא מאמין בזכויות הפרט ושאין לו שום בעיה לנצל לשם כך את היכולות המדהימות שמביא תחום הבינה המלאכותית.

"בדבר אחד הסינים בטוח מצליחים: האזרחים שלהם אכן מתנהגים יפה יותר ברשת. כמובן, הבעיה היא שהממשלה היא זו שמחליטה מי בסדר ומי לא. בתחום האינטרנט הם מיישמים שם את רעיונות דירוג האשראי, שאנחנו מיישמים בתחום הכלכלי. זה בעצם אומר שאם תתנהג יפה בגלישה שלך באינטרנט, תצבור יותר נקודות ותקבל מהממשלה הסינית דירוג גבוה יותר".

נשמע רע מאוד.

"כן, אבל סין הולכת ומחזקת את מעמדה כמעצמה של בינה מלאכותית, וזה לא הולך להשתנות. לכן אני חושבת שאנחנו לא יכולים כל הזמן לבוא ולהגיד שמה שהם עושים רע רק בגלל שאנחנו לא מסכימים עם ראיית העולם שלהם. הם חייבים להיות סביב השולחן שבו ייקבעו הסטנדרטים לגבי עתיד הבינה המלאכותית".

איך נוכל להבטיח שהבינה המלאכותית והרובוטים לא יהיו נחלתם של העשירים והמשכילים בלבד?

"זה כמעט כמו לשאול איך נבטיח שלא יהיו עניים ושכולם יקבלו טיפול רפואי נאות. צריך ליצור מערכת שתאפשר את זה. בארה"ב, למשל, אין מערכת כזו, ולנו הבריטים יש. רובוטים יהיו יקרים בהתחלה, כפי שקורה עם כל טכנולוגיה חדשה. אבל לכולנו, אפילו לעניים ביותר, יש סמארטפונים. וזו התחלה".

 קנצלרית גרמניה, אנגלה מרקל, ורובוט 'אכפתיות' במינכן / צילום: Gettyimages ישראל

לעבוד עם האיש ששינה את העולם לחלוטין

בתחילת דרכה עבדה הול, 66, עם טים ברנרס לי, שחתום על המצאת הווב (World Wide Web) באוניברסיטת סאותהמפטון, על מחשבים של IBM. "אלו היו הימים הראשונים של ‘חלונות' של מיקרוסופט", היא מספרת, "טים המציא את פרוטוקול HTTP ואת ה-HTML, שאפשרו, למעשה, שימוש בלינקים באינטרנט ואת לידת הווב, אותו מרחב אינסופי של מסמכי היפרטקסט מקושרים.

"אני עבדתי אז על פיתוח מערכת הייפר מדיה, שהייתה מערכת ממוחשבת עם לינקים שאפשרו לעבור באופן ממוחשב ממסמך למסמך, ולא רק מטקסט לטקסט, אלא גם מטקסט לתמונה ומתמונה לווידאו.

"פגשתי אותו לראשונה בוועידה ב-1990, וכבר היו לו אז רעיונות רבים, אבל הוא עדיין לא העלה לווב את אתר האינטרנט הראשון שלו (והראשון בכלל, ד"א). הדבר הכי גדול שטים עשה היה לייסד סטנדרטים, ולפתוח לכולם אפשרות להשתמש בחינם בווב. הוא אפשר לאנשים להקים אתר אינטרנט משלהם, ולגלוש ברשת באמצעות דפדפן. בכך הוא שינה את העולם לחלוטין. התזה שלו הייתה ‘או שכולם ישתמשו בזה - או שאף אחד לא'. לכן, בעוד שחוקרים אחרים התמקדו בפיתוח מוצרים שיוכלו למכור לאנשים, טים התעקש על החינם ועל שימוש פתוח לכולם".

אותו ברנרס לי חשף לאחרונה את Solid - פרויקט שאפתני שהקים בשיתוף עם חוקרים מ-MIT במטרה לשים סוף לפריצות, זיופים וגניבת מידע אישי ברשת. זהו פרויקט קוד פתוח, ששואף להחזיר לגולשים את השליטה על המידע האישי שלהם, היישר מידיהן של ענקיות הרשת השולטות במידע כיום. "באיזשהו שלב כולנו מסרנו את השליטה על הנתונים שלנו במסגרת איזושהי עסקה עם השטן. צריך לשנות את זה", אומרת הול. "הרשת היא, למעשה, ניסוי כלל-עולמי בבני אדם. כבר היו ניסויים דומים, למשל, המצאת המכונית, אבל זה אף פעם לא קרה בכל-כך מעט זמן. הרי פייסבוק הומצאה רק לפני 15 שנה. זה מדהים".

בתחילת הדרך הרשת הייתה איטית באופן מחריד, שקשה לתאר לאנשים צעירים שלא חוו את הניינטיז.

"זה נכון, בהתחלה קראנו לה The World Wide Wait. צריך לזכור שלא היו תקשורת בפס רחב או ווי פיי בתחילת שנות ה-90, ולמעט מאוד אנשים היו מחשבים אישיים בבתים. הבום הגדול של חברות הדוט.קום הגיע מאוחר יותר, החל מאמצע שנות ה-90. צריך לזכור שגם גוגל לא הייתה בסביבה עד בערך שנת 2000, והאייפון הראשון של אפל פותח רק בסביבות 2006. אני זוכרת שעוד אפשר היה לספור את האתרים בווב במאות בודדות. היום יש מיליארדים".

במבט לאחור, הצלחת לצפות כמה גדולה תהיה הרשת?

"לא. נדמה לי שכולם נכשלו בזה, פשוט בהתחלה התקשורת הייתה כל-כך איטית ומסורבלת. היינו צריכים רשת עם תקשורת מהירה כדי להבין לגמרי מה קורה כאן - ולאף אחד עוד לא הייתה ממש רשת מהירה. אתה זוכר מה אמרו על הטלפונים הניידים הראשונים, שאף אחד לא ירצה אותם? עכשיו כמעט לכל אחד יש שניים או שלושה מכשירים. כשהם יצאו לשוק, הטלפונים הניידים שימשו אך ורק לשיחות טלפון, כיום הם הסיבה מס' אחת להתפתחות המהירה והמטורפת של הווב. לא הערכנו נכון מה אנשים ירצו לעשות באינטרנט, כמה זמן הם ירצו לשהות ברשת וגם - וזה לא פחות חשוב - מה הדברים הרעים שהם יעשו שם".

מה היו ההערכות הראשוניות שלכם?

"זה נשמע קצת משונה להגיד את זה כיום, ואני לא רוצה להישמע כמו איזו ילדת פרחים מהסיקסטיז, אבל בימים הראשונים עדיין האמנו שכולם יתנהגו בנימוס ובג'נטלמניות ברשת. לא הצלחנו לדמיין מצב שבו כל החברה האנושית, כולל הכיעור והחולי שבה, נמצאים באינטרנט. לא הצלחנו לדמיין מצב שבו הרשת מאפשרת לאנשים לקחת את הדברים האיומים והנוראיים שהם עושים בחיים האמיתיים, ולהעלות אותם מדרגה ברשת".

90% מהמתכנתים - נשים

אחת הסוגיות הבוערות ביותר בתחום הבינה המלאכותית כיום היא שאלת הגיוון (diversity). כל מבט שתעיפו בחבורה העולמית של החוקרים, המפתחים ואנשי הקוד, שיוצרים את הטכנולוגיות של הדור הבא, יבהיר לכם מיד מה כמעט אין בה: נשים (וגם מיעוטים אתניים, אבל במידה פחותה). מספרן של הנשים בעייתי בכל תחום מדעי המחשב, אך נמוך בצורה מבהילה במחקר הנוגע בבינה מלאכותית.

איך כל זה משפיע על הטכנולוגיה שמייצרת אותה חבורה, שמורכבת ברובה מגברים לבנים צעירים?

"הם למעשה כופים את ראיית העולם שלהם על התחום. כל-כך הרבה דברים עוברים ללא עין נשית, ומתגבשים כמשהו שנשים היו רואות אחרת לגמרי. גם בנתוני המחקרים, שמתבססים בעיקר על גברים, יש בעיה. למשל, השאלות שמעלות הסייעניות הווירטואליות מבוססות הבינה המלאכותית, ‘סירי' של אפל ו'אלקסה' של אמזון, שלא מעט אנשים טוענים כי הן מגיבות שונה לגברים ולנשים. אנחנו, כולנו, מוטים לחלוטין, ואם לא דואגים לגיוון, ההטיה עוברת גם לפיתוחי הבינה המלאכותית.

"כיום, בינה מלאכותית עוסקת יותר בלמידת מכונה, מה שמשייך את כל התחום למדעי המחשב, שבעולם המערבי נשלט במידה רבה מאוד על ידי גברים.

"היו ניסיונות רבים לשנות את המגמה הזו, אבל כולם נכשלו. ההנחה היא שזה תחום מאוד טכני, מאוד ‘גיקי', ושנשים פשוט לא נמשכות לכתיבת קוד. הבעיה היא שאם אין כמעט נשים בצוותים שחוקרים את הבינה המלאכותית, זה אומר שהפיתוחים בתחום זה עשויים להתאים פחות לנשים, או לא לייצג אותן כראוי. לכן חוסר הגיוון הוא בעיה גדולה".

אנחנו לא מדברים רק על גברים־נשים.

"נכון, אבל היעדרן של הנשים הוא בעיה עצומה משום שהן 50% מהאוכלוסייה. עם זאת, כמובן שהכוונה היא גם לגיוון מבחינת דת, גזע, גיל ועוד. אגב, בהודו, במלזיה ואפילו במזרח התיכון, אפשר למצוא הרבה יותר נשים מתכנתות. באחד מביקוריי בקטאר נכנסתי לכיתה של מדעי המחשב באחת האוניברסיטאות ונדהמתי לראות ש-90% ממנה היו נשים. כששאלתי איפה הגברים, אמרו לי: ‘הם נסעו ללמוד בארה"ב, לנו לא מרשים'. בהודו יש הרבה יותר מ-50% נשים במדעי המחשב, השאלה הגדולה יותר היא כמה מהן גם מוצאות אחר-כך עבודה במקצוע".

איך אפשר לפתור את בעיית הגיוון?

"גיוון יהיה חלק מהאחריות החברתית שנצטרך לכפות על התחום הזה".