בכיר באמזון: הרובוטים לא יחליפו את בני האדם בקרוב

זה זמן רב שאני משתוקק לערוך את הניסוי הבא: ליצור באינטרנט שתי דמויות מזויפות - האחת של מעריץ-היטלר והשנייה של אוהד-סטאלין - כדי לראות אילו מוצרים יציעו להן העוזרים הווירטואליים של פייסבוק, אמזון ודומיהם.

האמת היא שאני מעריך את הצעותיהן של חברות האינטרנט לדברים שימצאו חן בעיניי על בסיס היסטוריית הגלישה שלי. זה כאילו שעומד לרשותי איזה אידיוט-חכם ידידותי שסוקר את האופק באמצעות גרסה בינארית מדי של העדפותיי האישיות, אך בכל זאת מצליח לקלוע למטרה לעתים תכופות.

אני מעוניין לדעת כיצד פועלים הרובוטים האלה, אך מתנגד לתיאורם כ"חכמים". אין ספק שתיאור מתאים יותר יהיה "טיפשים בעלי מסוגלות ונכונות". לעומת זאת, תוכנה חכמה באמת תהיה מבעיתה.

אנשי הטכנולוגיה מבטיחים כי השנים 2020-2030 יהיו התקופה שתבשר את הסינגולריות - נקודת הזמן שבה יהפכו המחשבים לחכמים יותר מבני האדם.

אז כשצצה לי ההזדמנות לפגוש את ראלף הרבריך, מנהל הלמידה החישובית של אמזון, התלהבתי מכך שאוכל לשמוע מאחד האנשים המוסמכים בעולם את התשובה לשאלה אם קיומם של מחשבים על-אנושיים ובעלי מודעות הוא אפשרות סבירה - וגם סכנת מוות לאנושות, כפי שטוענים סטיבן הוקינג, ביל גייטס ואלון מאסק.

כדי לעודד אותנו לקנות עוד ועוד מוצרים, לא משתמשת אמזון רק בלמידה חישובית, אלא גם מספקת את שירותי הבינה המלאכותית, שמפתח צוותו של הרבריך, ללקוחות Web Services - יחידת אמזון שמספקת שירותים לא-ממותגים ומפעילה מספר רב של אתרי אינטרנט גדולים.

מתנגדי אמזון ישמחו לדעת כי לולא פיתול של ההיסטוריה, קרוב לוודאי שהרבריך היה עובד כעת עבוד השטאזי - המשטרה החשאית של גרמניה המזרחית. בגיל 16, שובץ הרבריך - שהיה אז נער מרדני ומורעל מחשבים בגרמניה המזרחית - לתפקיד חשמלאי במפעל.

הוא מספר כי ייתכן שבסופו של דבר הוא היה נכנע ללחץ שהופעל עליו לסייע למשטרה החשאית באמצעות המיומנויות שרכש הודות למחשב מקולקל מדגם Sinclair ZX81 ששלח לו קרוב משפחה מגרמניה המערבית, אך שישה שבועות לאחר שהחלה תקופת חניכותו קרסה חומת ברלין.

מאז הפך הרבריך לעמית בקיימברידג', ועבד בתחום הלמידה החישובית עבור מיקרוסופט ופייסבוק.

"יש צורך בהתערבות אנושית"

הודות לצירוף מקרים ממוזל, זכיתי להיות עד לבעיית למידה חישובית בזמן אמת במהלך הסיור שנערך לי במשרד. תרגום אוטומטי מגרמנית לאנגלית באתר אמזון הפך "כבל USB" ל"חבל USB". הרבריך ציין כי "תמיד יש צורך בהתערבות אנושית".

אין לו שום רצון או ציפיה שהרובוטים ישתלטו על העולם. הניסוח שבו הוא השתמש היה "רסיס של בר-הישגיות".

"הסינגולריות? זה לא קרה", הצהיר הרבריך, והסביר מדוע זה גם לא יקרה.

"אנשים מאוד טובים בלראות, לטעום, להריח, לשמוע. מכונות אינן טובות בזה. אנחנו כמעט הגענו לנקודה שבה אלגוריתמים יכולים לזהות צילומים דוממים של חתולים ועכברים. אבל המוח עושה את זה הרבה יותר טוב".

להפתעתי, הסכים הרבריך עם הקביעה כי המחשבים הם בעצם מכונות חישוב בגרסה זוהרת. "כן, והמוח הוא מכונה גולמית למדי לעיבוד מידע. מחשבים יכולים לחקות התנהגות אינטליגנטית. אנחנו רואים את זה הרבה וזה מרשים שכשאנחנו שמים את זה בענן, אנחנו מסוגלים לבצע משימות מורכבות מאוד. אבל כל מה שקורה זה שהם משלבים דפוסים. מכונות לומדות בדרך הקשה. הן אינן יכולות לשכפל יצירתיות; ביצוע קומבינציה של מושגים ברמת מופשטות גבוהה יותר ורקימה של סוגי עתיד שונים על בסיס מידע זעום מאוד, למשל. לא יכולה להיות להן תחושת בטן, כמו שיש אפילו למדענים. האלגוריתמים שאנחנו חוקרים היום הם חיקויים גולמיים בלבד, מכיוון שהם אינם מתבססים על אותם העקרונות כמו המוח האנושי".

אז מה עם הרעיון שמחשבים על-אנושיים יתחילו לחיות חיים משלהם באופן עצמאי? "לא. מחשב הוא כלי, ורק אנשים יכולים לבנות מחשבים. אנשים כותבים תוכנות. מחשב אינו יכול לכתוב תוכנה. לא יהיה מחשב שיפעיל את עצמו".

הודות לצירוף מקרים ממוזל נוסף - או שאולי ההוצאה לאור של אוניברסיטת אוקספורד עוקבת אחר היסטוריית החיפושים שלי? - כשחזרתי הביתה גיליתי שהמו"ל שלח לי ספר על בינה מלאכותית בשם AI מאת פרופסור מרגרט בודן.

חשבתי שמדובר בעוד מסמך על הרובוטים שהולכים להשתלט על העולם, אך במקום זאת גיליתי שהספר מפריך באלגנטיות את רעיון המחשב העל-אנושי. מסקנתה של פרופסור בודן היא כי "החזונות דמויי-אפוקליפסה על עתיד הבינה האנושית אינם אלא אשליות". טיעונים כאלה הם בבחינת משב רוח מרענן. נראה שבני האנוש - ההגיוניים מביניהם, בכל אופן - משיבים מלחמה שערה.