צוקרברג באמת לא מבין?

האם אנחנו מתקרבים ליום שבו רובוטים מבוססי אינטליגנציה מלאכותית ינסו להשתלט על העולם? האם יש סימנים ברורים לכך שאנחנו קרובים מאוד ליום הזה?

אחד הדיונים הפומביים המרתקים ביותר שמתקיימים ממש בימים אלה ברחבי הבלוגוספירה מטפל בדיוק בנושא הזה, שנראה כאילו נלקח מספרי המדע הבדיוני הרבים כל-כך שחזו את קץ תולדות העולם כמו שהיכרנו אותו עד להגעתם של הרובוטים הממוחשבים.

לאלה מכם שבילו את החודש האחרון על חופי הים בסנטוריני או באילת, הנה תקציר הדברים. אילון מאסק, היזם הסדרתי הכריזמטי והכל-כך מצליח מנהל כבר שנים מאבק ציבורי כדי לקדם רגולציה בתחום הבינה המלאכותית. הוא משמש שופר למי שחוששים שבסופו של דבר, בטווח זמן לא רחוק מהיום, מחשבים ייפתחו לעצמם יכולות חשיבה עצמאית ולאחר חציית נקודת האל-חזור כל תרחיש הוא אפשרי, כולל כמובן מלחמה של רובוטים במין האנושי, שהמציא אותם והעניק להם את יכולותיהם הרבות, לפחות עד לאותה נקודה. בכנס עם מושלי מדינות ופוליטיקאים שהתקיים בחודש שעבר הרצה מאסק על הנושא הזה וקרא למאזיניו, רבים מהם מחוקקים וקובעי מדיניות במקומותיהם, לקחת יוזמה ולטפל באיום המתפתח, לפני שיהיה מאוחר מדי.

"אני מפעיל את פעמון האזעקה שוב ושוב, אבל עד שאנשים לא ייראו רובוטים צועדים ברחוב והורגים בני אדם הם לא יידעו כיצד צריך להתנהג, כי כל זה נראה כרגע כל-כך הזוי", אמר מאסק לקהל שלו בתקווה לעורר את המנהיגים לפעולה.

מספר שבועות מאוחר יותר, במהלך אירוע ציבורי בו ענה מייסד ומנכ"ל פייסבוק, מארק צוקרברג, על שאלות מהקהל, הוא נשאל לגבי חזון אחרית הימים האפוקליפטי של מאסק.

צוקרברג ענה בכנות, המשקפת מן הסתם גם את השקפותיו לגבי אחריותן של ענקיות הטכנולוגיה להבטיח עולם טוב יותר לבני האנוש החיים בו: "בנושא הזה יש לי דעות מוצקות. אני אופטימי. ואני חושב שאומרי ה'לא' מנסים להעצים את תרחישי האימה, אני פשוט לא מבין אותם. זו תופעה שלילית ולמעשה אני חושב שהיא גם לא אחראית".

לדברים האלה של צוקרברג, שבעבר העז להתלונן בפומבי על כך שמשגר הלוויינים של מאסק השמיד את הלוויין שהיה אמור להמריא לחלל בעזרתו בתאונה מצערת לקראת השיגור (תאונה שהשמידה גם הלוויין הישראלי עמוס 6), אילון מאסק לא נשאר חייב והגיב מיד. לא בשיחת טלפון או במייל חלילה אלא בציוץ קבל עם ועדה על גבי טוויטר: "דיברתי על זה עם מארק. ההבנה שלו בנושא הזה היא מוגבלת".

ובעוד שני היזמים הענקיים האלה מתגוששים ביניהם על עתיד האנושות, על מה צריך לעשות כדי לוודא שאינטליגנציה מלאכותית מנוצלת אך ורק למטרות חיוביות ולא הופכת לכלי נשק אסטרטגי בידי רובוטים הרוצים להשמיד את העולם, וכמובן גם על מי מהם חכם יותר, מבין יותר ותורם יותר לאנושות, פשטה לה בימים האחרונים הידיעה בדבר רובוטים של תוכנה ('בוטים') שפותחו בפייסבוק כדי לשאת ולתת בעולם המסחר האלקטרוני (וזה כבר לא מדע בדיוני) ושנצפו מחליפים את שפת ה"שיחה" ביניהם לשפה שפיתחו בעצמם, ללא הכוונה מראש על ידי מפתחיהם.

הרובוטים האלה עשו זאת על ידי שימוש בבינה מלאכותית שסייעה בידיהם ללמוד באופן עצמאי את מה שנדרשו לו בכדי לייעל את הקשר ביניהם, על פי שיקול דעתם האלקטרונית, לצורך השלמת המשימה אליה תוכנתו. למותר לציין שבני האנוש שצפו בשפה החדשה לא הבינו אותה (הרובוטים לא טרחו לספק תרגום סימולטני לדבריהם) ורק מסוגלים להעריך על מה באמת "שוחחו" הרובוטים ביניהם.

ועכשיו, חזרה לשאלה שבה פתחנו: מי צודק, אילון מאסק או מארק צוקרברג? עד כמה אנחנו קרובים, אם בכלל, ליום שבו רובוטים ממוחשבים ישתלטו על העולם? האם יש צורך בקביעת רגולציה על מה מותר ומה אסור לפתח בתחום האינטליגנציה המלאכותית, אלו תכונות מותר או אסור להעניק רובוטים מבוססי תוכנה ועד כמה לאפשר להם להיות עצמאיים? התשובות לשאלות האלו אינן פשוטות והן רב ממדיות. אבל חשוב שכל תשובה שתינתן תתבסס על הערכה והבנה של היכולות הקיימות כבר היום בעולם הבינה המלאכותית והמגמות שיובילו את היכולות האלו כבר בשנים הקרובות.

אלפי מדענים, חוקרים ומפתחים עוסקים בימים אלה במוצרים מלהיבים מבוססי בינה מלאכותית. רובוטים מתוכנתים יודעים כבר היום להמליץ לנו על מאכלים בהתאם להעדפותינו האישיות, לזהות תנועות חשודות בסרטוני וידאו, להבדיל בין מי שמתכופף לשרוך את נעליו לבין מי שמתכופף להטמין חפץ חשוד, לסחור במניות על פי מגמות בשווקים, לטפל בתקלות במכשירים שונים, לסייע בקבלת החלטות מקצועיות, לאתר גידולים סרטניים ולסייע בדיאגנוסטיקה רפואית, להשמיע לנו את המוזיקה שאנחנו אוהבים, וכל אלו רק דוגמאות ספורות מתוך אינסוף יכולות ואפשרויות הקיימות כאן ועכשיו.

כעת תחשבו על העולם בעוד 1,000 שנים. כוח מיחשוב אינסופי, משאבי זיכרון בלתי מוגבלים ותקשורת נתונים מהירה, וכל אלה גדולים בסדרי גודל יחסית למה שאנחנו מכירים היום ויתווספו להם יכולות שפותחו במהירות הולכת וגדלה ותופסת תאוצה בלתי נתפסת. ומה יהיו תכונות הרובוטים הממוחשבים אז? האם יש לנו ספק שיהיו מסוגלים לחשיבה עצמאית בתחומים רבים, שלא לדבר על האיום שיהוו עבור כל-כך הרבה סוגי עבודות ועל פרנסתם של כל-כך הרבה אנשים, הרבה לפני שייצאו למלחמת חורמה נגד המין האנושי? ואם אתם מוכנים לחשוב שכך ייראה העולם עוד 1,000 שנים, איך ייראה בעוד 500 שנים? 100 שנים? 50?

אז אולי באמת לא מוקדם מדי להתחיל לחשוב על אמנה בינלאומית, על רגולציה, על מגבלות וחוקים שימנעו את הבלתי צפוי והבלתי נתפס כיום, אבל מה שיכול להוות איום ממשי על קיומנו בעתיד הלא כל-כך רחוק?