העולם שייך לבוטים

א. בשבועות האחרונים מצאתי את עצמי תחת מתקפה, ולא מהסיבות המוכרות. זה לא היה בגלל שאני שמאלני, אשכנזי, תל-אביבי או עיתונאי ממושקף. כל אלה כבר מחליקות מעליי כמו טיפות מים מנוצות ברווז. הפעם תקפו אותי רובוטים - או "בוטים", כפי שהם מכונים בחיבה לא מוצדקת.

זה קרה ברשתות החברתיות. חשבונותיי נפרצו ומיני תוכנות התחילו לבצע מיני פעילויות בשמי: לחבב (מילה יפה יותר מהלייק המעצבן) רשומות וחשבונות של אחרים, לשתף מאמרים, לצייץ מחדש, לשלוח הודעות ואפילו להירשם בשמי לכל מיני אתרים ואפליקציות קיקיוניות ולפתוח בהם חשבונות חדשים. שום דבר קריטי, זה נכון - לא היו נפגעים בגוף או בנפש ולא נרשם נזק כלכלי - אבל זה היה ניג'וס לא קטן, הרי מה כבר רוצה הבנאדם יותר מאשר שיעזבוהו בשקט לנפשו.

לא יודע איך אתם, אבל כשקורה לי משהו, הדבר הראשון שאני עושה זה לוודא שזה לא קורה רק לי. לא בגלל שצרת רבים היא חצי נחמה, היא לא. אני פשוט לא אוהב להרגיש מיוחד. אחת הבעיות הגדולות של הזמן הזה היא שכולם מסתובבים כאילו הם יחידים במינם, בעוד האמת היפהפייה היא שכולנו (למעט כאלה שהם באמת יחידי סגולה) רגילים לגמרי. וזה, חברות וחברים, הייחוד שלנו.

ב. זה כבר מזמן לא סוד שהרשת מלאה בבוטים. למעשה, הבוטים - תוכנות מחשב - הם אלה שאחראים לרוב הגדול של התנועה באינטרנט. חלקם הגדול עושה את זה מסיבות טובות, או לפחות לא רעות, של כרייה, חיפוש וקיטלוג מידע. אבל לאחרונה, מתברר לנו שנזקם הולך ועולה על תועלתם, ושהתפקיד שהם ממלאים הוא גדול הרבה יותר מסתם ניג'וס.

יש כמובן את הבוטים שנשלחו למטרות פשיעה נטו, אבל לא רק: לפני כשבוע נחשף שבמהלך מערכת הבחירות בארצות-הברית, שוחררו לרשתות החברתיות מיליוני בוטים שמשימתם היחידה הייתה לעודד את טראמפ ולהשמיץ את מתנגדיו. אני לא אומר שזה מה שניצח את הבחירות, אבל אני כן אומר שהשפעתם של יצורים לא אנושיים חורגת מגבולות הרשת אל העולם שפעם קראנו לו אמיתי, והיום הוא רק מה שאנחנו מצלמים כדי להעלות לרשת.

השבוע גם התפרסם מחקר שנעשה באוקספורד והראה שכבר למעלה מעשר שנים מתנהלת מאחורי הקלעים של ויקיפדיה - האנציקלופדיה הגדולה והחשובה בעולם - מלחמת בוטים בלתי פוסקת. האמת שזה סיפור נהדר שיכול ללמד אותנו הרבה, ולא רק על הבוטים - אלא בעיקר על עצמנו: מאז נוסדה ויקיפדיה ב-2001, מסתובבים בה המון בוטים שנכתבו למטרה טובה: תיקון שגיאות איות, ניפוי לינקים שגויים וניפוק לינקים נכונים, חסימת משתמשים שניצלו את כוחם לרעה ועוד. הבוטים הנ"ל אוטומטיים ואוטונומיים לגמרי.

בשנים הראשונות, לא היו הרבה מאלה, והם הסתובבו להם ברחבי ויקיפדיה ועשו את עבודתם נאמנה. בשנים האחרונות, התנפחה ויקיפדיה ובמקביל עלה מספר הבוטים בצורה משמעותית. ואז התחיל הקטע המעניין: התוכנות התחילו להילחם זו בזו. אחת מתקנת איות, באה אחרת ומשנה לה. זו משנה מילה פוגענית, באה ההיא ומחזירה אותה, וכך הלאה. התוכנות שנכתבו כדי למנוע ניצול לרעה של הרשת, התחילו לנצל אותה לרעה בעצמם.

ג. איפה זה נהיה מעניין, אתם שואלים? אז הנה: הבוטים נכתבו כדי לבצע את הפעולות הטובות שפורטו לעיל, ואין בהם ולו שורת קוד אחת שאמורה לגרום להם לריב אחד עם השני. להפך, הם היו אמורים לעבוד בהרמוניה. אבל הם פשוט התחילו לריב על דעת עצמם. לפעמים זה ממש נראה כאילו מדובר בסכסוך אישי.

שני בוטים, אחד שמו Xqbot והשני שמו Darknessbot, רבו ביניהם אלפי מריבות מקוונות לאורך השנים. הדרך היחידה לעצור אותם הייתה פשוט להרוג אחד מהם. החוקרים הופתעו. גם מעצם המלחמה, גם מעוצמתה וגם ממשך הזמן שלה. אנשים נרגעים אחרי כמה ימים, כתב אחד מהם, אבל הרובוטים האלה יכולים להמשיך שנים באותה מריבה מבלי לאבד שבב של עקשנות והתמדה.

וזה לא רק בוויקיפדיה, מתברר. בתחילת החודש התבצע במעבדות הבינה המלאכותית של גוגל ניסוי מעניין: שני בוטים זהים (מבחינת קוד, שלא כלל שום הוראה או הכנה לעימות) הוכנסו לתוך משחק שמטרתו לאסוף כמה שיותר תפוחים. בהתחלה הם שיתפו פעולה ועבדו יחד יפה מאוד, אבל כשמספר התפוחים החל לקטון - הם התחילו להילחם זה בזה בכל הכוח על כל תפוח. 

במקום אחר, נתנו חוקרים לשני תוכנות שיחה (צ'אט-בוטים) לדבר ביניהן. לא עברו 4 דקות והשתיים התחילו לריב ולקלל אחת את השנייה במילים שהנייר אינו סובל. אז כנראה שבכל זאת הורשנו משהו לבוטים האלה.

ואתם רוצים לדעת איפה זה נהיה באמת פסיכי? אף שכל התוכנות הנ"ל נכתבו, כאמור, באותן שורות קוד - וקוד אמור להיות ניטרלי לחלוטין - התגלה שהבוט היפני (שנכתב ביפן) מתנהג בצורה שונה לחלוטין מהבוט הרוסי, ושהבוט הגרמני שונה במזגו - מילה לא מתאימה פה, אבל בעצם הכי מתאימה - מהבוט הפורטוגזי. לדבר כזה איש לא ציפה. "הממצאים שלנו מראים", נכתב בסיכום המחקר על ויקיפדיה, "שאפילו האלגוריתם הפשוט ביותר מתנהג בצורה לחלוטין לא צפויה ברגע שהוא משוחרר לרשת ונתקל באלגוריתמים אחרים. אין לנו שליטה עליהם כשהם יוצאים מהמעבדה".

לא יודע מה איתכם, אותי זה מרעיש. כחובב מדע בדיוני, גדלתי על השאלה, שמכילה את הציפייה ואת החשש, מה הרובוטים יעשו לנו ברגע שיעמדו על דעתם. שלושת חוקי הרובוטיקה של אסימוב, מעמודי התווך של עולמי, עסקו בדיוק בזה. אבל בפרפרזה על הפתגם האידישאי: האדם מתכנן והרובוט צוחק. נכון להיום, הבעיה המרכזית היא מה יעשו הרובוטים זה לזה. ולפחות על-פי התקדימים שהראיתי כאן, זה לא נראה מבטיח.

ד. אחד מהתחומים הכי לוהטים היום הוא המכונית האוטונומית. תארו לכם את מלחמות הרובוטים הנ"ל כשהן באות לידי ביטוי בכביש ולא באינטרנט. אללה יוסטור ולהקתו. רק דמיינו מכוניות אוטונומיות גרמנית ואיטלקית מנסות להשתלב יחד בתנועה.

רק דמיינו - אבל תחזיקו חזק קודם, טוב? - את המכונית האוטונומית הישראלית הראשונה עולה על הכביש.

שר התחבורה הגרמני (האחראי גם לתשתית הדיגיטלית) כנראה פחד מאותם הדברים וניסח הצעת חוק, מעין קוד אתי למכוניות על בסיס החוקים של אסימוב: האוטו-נומי (תחדיש שלי, לא הכי מוצלח) תמיד יעדיף לפגוע בעצמים דוממים על פני פגיעה בבני אדם; האוטו-נומי יעדיף להיפגע בעצמו על פני לפגוע באדם; האוטו-נומי לא יבחין בין בני אדם לפי קטגוריות כמו גזע או גיל.

הכל טוב ויפה, אבל הרגע ראינו שלרובוטים - בדיוק כמו ליוצריהם האנושיים - יש נטייה ברורה לא לעשות בדיוק את מה שאמרו להם לעשות. לי בכלל לא נראה מופרך שברגע האמת יעדיף הרובוט לפגוע באדם ולא ברובוט אחר, בטח לא בעצמו. ולמה לא? הרי כולנו היינו עושים אותו דבר, וגם בקוד התכנות שלנו מופיעים ציוויים לאהבה, הגינות וצדק.

"האמת היא", נכתב בדברי הסיכום של המחקרים, "שאנחנו יודעים מעט מאוד על החיים וההתפתחות האבולוציונית של המשרתים הדיגיטליים שלנו (כך במקור)". אני מקווה שהבוטים לא קוראים את זה, כי אף אחד לא אוהב שקוראים לו משרת, בטח לא משרת דיגיטלי.

האבולוציה מתרחשת ממש מול עינינו, וזה מרגש וקצת מפחיד. מה שחשבנו שיקרה, קורה - אבל אחרת. מה שלא דמיינו שיכול להתרחש, הוא היום עניין יומיומי. ואני מקווה שאתם יודעים שכל זה הוא אפילו לא ההתחלה.

בשבוע שעבר נתגלו במערה במקסיקו יצורים חיים בני 50 אלף שנה, מין מיקרואורגניזמים ששהו רדומים בקרח. 50 אלף שנה זה לא הרבה במונחים מדעיים, אבל מבחינת בן האדם זה נצח. 50 אלף שנה זה עמוק בפרה-היסטוריה, וזה בדיוק המצב שבו אנחנו נמצאים עכשיו: אנחנו עמוק בפרה-היסטוריה, אבל לא בפרה-היסטוריה שלנו. זו הפרה-היסטוריה שלהם.