אמ;לק
אחד הזרמים הרעיוניים המשפיעים שצמחו בלב תעשיית ההייטק שבאזור סן פרנסיסקו הוא הרציונליסטים, שסבורים שבעזרת היגיון טהור ו"תיקון" תהליכי המחשבה שלנו ניתן להגיע לפתרונות הנכונים והמוחלטים לכל הבעיות של האנושות, היום ובעתיד. ה"זיזיאנים" הם קבוצה קטנה, המורכבת בעיקר מטרנסג'נדרים, שהתפצלה מהתנועה לפני כמה שנים. ככל הנראה כי לא היו רדיקליים מספיק לטעמם. בחודש האחרון נקשרו הזיזיאנים לארבעה מקרי רצח, ושניים מחבריה בכלא. המנהיגה, "זיז", עדיין חופשיה.
בסדרת האימה המוגזמת שנראה שחיינו הפכו להיות היה חסר דבר אחד: כת של רוצחים סדרתיים גיקים טרנסג'נדרים טבעונים שסוגדים לבינה מלאכותית. והנה, הם הגיעו - הזיזיאנים. בחודש האחרון נקשרו לקבוצה/כת הזאת ארבעה מקרי רצח. שניים מחבריה בכלא. אחת מהם מסתובבת חופשית - המנהיגה שלהם, "זיז", אישה טרנסג'נדרית שמבחינה רשמית שמה הוא עדיין ג'ק לה־סוטה.
● המפץ הגדול? האם ביג גלילות ישנה את מפת המסחר, ומהי נקודת התורפה
● יוזמת הנדל"ן של טראמפ: מה יישאר ביום שאחרי חוץ מהריסות
● שריפת בתי כנסת והפגנות אלימות: סופו של גן העדן האוסטרלי
הזיזיאנים התפצלו מתנועה אחרת, הרציונלים (לא אלה מהנאורות), שאולי שמעתם עליה, בזכות אחד הספרים המכוננים שלה, "הארי פוטר והשיטה הרציונלית". מחבר הספר ומי שנחשב ל"גורו" של התנועה הרציונלית, אליעזר יודקובסקי, מתנער מן הקבוצה הזיזיאנית ומן המעשים שהיא עשתה. עם זאת, הפרשה חושפת את הקרביים של התנועה הרציונלית, קבוצה המאמינה ביכולת של אדם "לדבג" (מלשון באג, לחפש ולתקן שגיאות בתוכנה) את עצמו מהטיות קוגניטיביות וגם מנסה לנחש ולהשפיע על כיוון ההתפתחות של הבינה המלאכותית, כדי שזו לא תשתלט לרעה על העולם.
הגישה של הרציונלים הולכת ומשפיעה יותר ויותר על אמריקה. כמה משפיעה? איש הון הסיכון, פיטר ת'יל, אחד המיליארדרים הבולטים התומכים בממשל טראמפ וספציפית בסגן הנשיא הצעיר שלו ג'יי.די ואנס, הוא תורם ותיק למכון המחקר שהקים יודקובסקי ולגורמים אחרים המקיפים אותו. אילון מאסק אינו מזוהה עם הרציונליסטים ישירות, אך חזונו יונק מאותם עולמות.
![סגן הנשיא ג'יי.די ואנס. מייצג מובהק של מערכת האמונות בעמק הסיליקון / צילום: ap, Alex Brandon סגן הנשיא ג'יי.די ואנס. מייצג מובהק של מערכת האמונות בעמק הסיליקון / צילום: ap, Alex Brandon](https://res.cloudinary.com/globes/image/upload/t_550X400/v1739351945/direct/AP25030604636093_sxqluv.jpg)
סגן הנשיא ג'יי.די ואנס. מייצג מובהק של מערכת האמונות בעמק הסיליקון / צילום: ap, Alex Brandon
הרציונליסטים והמיליארדרים המשפיעים על טראמפ הם בעלי שפה משותפת ושואלים את עצמם שאלות דומות לגבי העתיד. בגלל המרכזיות של צורת החשיבה הזו לחייהם של המיליארדרים של עמק הסיליקון המקורבים לממשל טראמפ, היא בסופו של דבר עשויה להשפיע על כולנו.
פרק 1: הזיזיאנים
ב־20 בינואר נעצרו טרזה יאנגבלוט ואופליה באוקהולט במחסום בוורמונט, על ידי שוטר משמר הגבול דיוויד מלנד. הוא בדק את מסמכיה של באוקהולט וגילה כי היא אזרחית גרמניה שתוקף האשרה שלה מוטל בספק. לפי הדוח המשטרתי, באוקהולט ויאנגבלוט ניסו לירות בשוטר ובקרב היריות נהרגו מלנד ובאוקהולט, ואילו יאנגבלוט נפצעה ונעצרה.
השתיים כבר היו תחת מעקב משטרתי כשבוע לפני האירוע, משום שנצפו נושאות נשק ולבושות בגדי צבא שחורים. אחרי המעצר נמצאו ברכבן תחמושת, אמצעי ראיית לילה, מכשירי קשר וטלפונים ניידים עטופים בנייר אלומיניום, מה שהיה אמור למנוע מעקב.
בהדרגה הרצח נקשר לשני פשעים קודמים: הרצח של קרטיס לינד (82), בוולג'ו, קליפורניה, והרצח הכפול של ריטה וריצ'רד זג'קו בפנסילבניה. הרוצחים היו כולם חברים באותה כת קליפורנית הידועה כ"זיזיאנים", על שם זיז.
באוקהולט (26), אישה טרנסית שנולדה בגרמניה בשם פליקס, תוארה על ידי חבריה כגאונת מתמטיקה וכמרכז החברתי של קבוצת נשים טרנסיות איתן התרועעה בניו ג'רזי עד 2024. היא עבדה במשרה מכניסה מאוד בחברה פיננסית בניו יורק, שם עסקה באלגוריתמיקה של מסחר במניות, ונראה היה כי החיים מחייכים אליה. אך חברותיה מספרות שפתאום החלה לנהל שיחות טלפון ארוכות, לטוס ליעדים סודיים ובסופו של דבר ניתקה קשר.
יאנגבלוט (21), אישה שהזדהתה כטרנס והשתמשה בכינויי הגוף הלא בינאריים xe/xem/xyrs, הייתה סטודנטית למחשבים באוניברסיטת וושינגטון בסיאטל. ב-2024 הוריה דיווחו עליה כנעדרת, לאחר שניתקה קשר איתם ועם חבריה. אלה מצאו יומן שכתבה בקוד סתרים, בו סיפרה בין היתר כי נטלה LSD.
![זיז (שנייה משמאל למעלה) וחשודים כחברים בכת. מבוקשת בכמה מדינות בשל אי-התייצבות למשפט / צילום: צילום מסך זיז (שנייה משמאל למעלה) וחשודים כחברים בכת. מבוקשת בכמה מדינות בשל אי-התייצבות למשפט / צילום: צילום מסך](https://res.cloudinary.com/globes/image/upload/v1739352257/Digital/digital_daily/%D7%96%D7%99%D7%96%D7%99%D7%90%D7%A0%D7%99%D7%9D-%D7%9E%D7%99%D7%A1%D7%A7_gdf8wj.png)
זיז (שנייה משמאל למעלה) וחשודים כחברים בכת. מבוקשת בכמה מדינות בשל אי-התייצבות למשפט / צילום: צילום מסך
נראה כי זיז גייסה לכת אנשים חכמים, בחלקם הגדול על הרצף האוטיסטי והמגדרי. זיז לפעמים מזדהה כאישה, לפעמים מציגה את עצמה ברצינות תהומית כסית' (המסדר האפל ממלחמת הכוכבים) ונוהגת ללבוש גלימות (למרות העמימות המגדרית וקשת הזהויות, לשם הפשטות נתייחס אליה בלשון נקבה) ב-2014 הגיעה לקליפורניה לעבוד בהייטק אחרי שסיימה את לימודיה בהצלחה רבה באוניברסיטת אלסקה. אז החלה להיות פעילה בפורום האינטרנטי LessWrong שהקים יודקובסקי והצטרפה לארגון הרציונליסטי CFAR (עוד נגיע אליהם).
זיז היא טבעונית אדוקה, שמאמינה שכל ישות בעלת תודעה ותחושה היא אדם ומגיעות לה זכויות אדם. בנוסף, היא גורסת כי לבני אדם יש שני מוחות, ההמיספירה הימנית והשמאלית, וכי כל אחת מהן יכולה להיות טובה או רעה, חוץ ממעט מאוד אנשים (כולל היא בעצמה) שנולדו עם שתי המיספירות טובות. "להגיע לאיזון בין ההמיספרות עם אינטרסים שונים זהו תהליך שדורש מסגרות של תורת המשחקים ותורת ההחלטות", אמרה בעבר. אישה אחת בסביבתה שכינתה את שתי ההמיספרות שלה בשמות שונים וניסתה לגרום לאחת מהן להירדם כשהשניה ערה, סיימה את חייה בהתאבדות.
סביב 2017 החלה זיז לאגד סביבה קבוצה של צעירים. הם רכשו סירה והתגוררו בה, אך לא ממש ידעו לשלוט בסירה ועשו תאונות שונות. ב־2021 נטשו הזיזיאנים את הסירה, וב-2022 היא טבעה במרינה ליד סן פרנסיסקו.
ומכאן דברים החלו באמת להסתבך. בתקופת הקורונה זיז וקבוצתה שכרו קרוואן בפארק בקליפורניה, אך בשלב כלשהו הפסיקו לשלם שכירות וניסו להשתלט על קרוואנים נוספים. בעל הקרוואנים, קרטיס לינד, תבע ובבית המשפט איים עליו אחד מחברי הקבוצה בסכין. ב־2022 לינד, אז בן 80, הוזמן לתקן דליפה באחד הקרוואנים. הוא הוכה בראשו, נדקר בחזהו וגם בעינו, כך שנשאר עיוור אך הצליח לירות בתוקפים, להרוג אחד ולפצוע אחרת. הפצועה הייתה מוכרת למשטרה כזיזיאנית.
ב-2022 דווח על מותה של זיז בטביעה, אך ב־2023 היא נמצאה חיה בפילדלפיה.
לפני כחודש, בעוד לינד מחכה להעיד נגד תוקפיו, הוא הותקף שוב וגרונו שוסף. הפעם הוא מת. הנאשם ברצח של לינד קשור גם הוא לקבוצה: זהו מקסימיליאן סניידר, שלמד בבית הספר התיכון בסיאטל עם יאנגבלוט (הפצועה מהאירוע בו נהרג שוטר משמר הגבול). השניים היו ככל הנראה זוג והגישו בעבר בקשה להינשא.
אירוע נוסף שנקשר לקבוצה הוא רצח ריצ'רד וריטה זג'קו, בשנות ה־70 לחייהם, בביתם בפנסילבניה. שניהם נורו באקדח. בתם, חוקרת ביואינפורמטיקה צעירה בשם מישל זג'קו, גם היא קשורה לזיזיאנים. נראה כי היא גם רכשה את אחד האקדחים שנמצאו בזירת הירי בשוטר.
כרגע לא יודעים היכן נמצאת זיז. היא מבוקשת בכמה מדינות בשל אי־התייצבות למשפט באישומים קודמים.
פרק 2: הרציונליסטים
מהכלא כתב הזיזיאן מקסימיליאן סניידר, המואשם ברצח לינד, מכתב ארוך אותו מיען לאליעזר יודקובסקי, אותו הוא רואה כאביו הרוחני. יודקובסקי כאמור אינו זיזיאן, אך הוא אחד הדוברים הבולטים של הזרם הפילוסופי הרציונליסטי, ממנו התפצלה כת הזיזיאנים.
סניידר הציג את עצמו כתלמיד של יודקובסקי. "אליעזר", כתב, "חשוב שיהיה לך משבר אמון לגבי השאלה האם בעלי חיים הם אנשים. זה קריטי להצלת העולם... אני מנסה לגרום לך להשתמש באמנות שלך עצמך, ולקחת את הבעיה ברצינות, ולעשות מאמץ אמיתי לדמיין עולם שבו אתה טועה. אתה צריך להפסיק להתייחס לזה כתרגיל, אלא להשקיע בעניין את כל הקוגניציה הרגשית שלך, להבין מה עומד על הכף".
יודקובסקי סירב להגיב למכתב או אפילו לאשר כי קרא אותו. "אין לתמרץ פשעים בתשומת לב", אמר ל"סן פרנסיסקו כרוניקל".
![אליעזר יודקובסקי. מתנער מן הקבוצה הזיזיאנית ומן המעשים / צילום: ויקיפדיה - Nikita Sokolsky אליעזר יודקובסקי. מתנער מן הקבוצה הזיזיאנית ומן המעשים / צילום: ויקיפדיה - Nikita Sokolsky](https://res.cloudinary.com/globes/image/upload/t_550X400/v1739352358/direct/Eliezer_debating_destiny_manifest_ofrcfr.png)
אליעזר יודקובסקי. מתנער מן הקבוצה הזיזיאנית ומן המעשים / צילום: ויקיפדיה - Nikita Sokolsky
מדוע כתב סניידר דווקא ליודקובסקי? יודקובסקי הקים ומוביל את הפורום LessWrong, אתר ההתכנסות הווירטואלי המוביל של הרציונליסטים. הרציונליסטים של המאה ה-21 (לעומת השימוש בעבר לתאר אנשים שאינם דתיים), הם אוסף של קבוצות שונות עם רעיונות חופפים חלקית, ובעיקרם הרעיון כי בני אדם מחוייבים לפתח את יכולות החשיבה שלהם כדי להגיע לתוצאה טובה יותר עבור האנושות.
לרוב ניתן למצוא אותם מתנסים ב'האקים קוגניטבייים' ותהליכי 'דיבוג' שנועדו לשחרר את החשיבה שלהם מהטיות לטובת חשיבה רציונלית יותר. רבים מהם מתעניינים מאוד בסוגיות הקשורות לבינה מלאכותית, ומחזיקים במגוון דעות מאוד נלהבות לגביה - חלקם מאמינים כי עלינו, בני האדם, להציל את עצמנו מהשתלטותה של הבינה המלאכותית על העולם. אחרים חושבים כי עלינו להשקיע את חיינו בהפיכת הבינה לידידותית לאדם ככל שאפשר. אחרים חושבים שהכול כבר אבוד, ועל בני אדם פשוט להיכנע ולקבל את סופם הבלתי נמנע בידי המכונות.
יודקובסקי, שנבחר בעבר לאחד מ-100 האנשים המשפיעים של מגזין טיים, לא למד באוניברסיטה ואף לא סיים תיכון. הוא גדל במשפחה יהודית, ודעתו על היהדות יכולה ללמד משהו על דפוסי חשיבתו: "היהדות לא דומה לשום דת אחרת", כתב בעבר. "מעודדים את התלמידים להטיל ספק ולהצביע על סתירות בכתובים, כמו למשל הסתירה בין שבעה ימי הבריאה לבין העדויות הקיימות לגילו של העולם. אך היהודים מחויבים גם למצוא לסתירות הללו הסברים מורכבים וארכניים על בסיס התנ"ך, המדרש ועוד מאמר שלא הבינו עד הסוף בסיינטיפיק אמריקן. מותר לנסות לפקפק, אבל אסור להצליח בכך". למאמרים של יודקובסקי עצמו יש לא מעט במשותף עם התרגילים היהודיים הללו.
באותו המאמר ניתן לראות דוגמה לאופן שבו מציע יודקובסקי לחסידיו לעשות 'האקינג' להטיות שלהם. "כשאתם מטילים ספק באמונותיכם החשובות לכם ביותר, תעצמו עיניים, תנקו את הראש, ותחפשו את הטיעון הכי כואב נגד דעתכם, והביאו אותו למרכז תודעתכם. אל תעלו מיד את טיעוני הנגד שאתם נוטים להתנחם בהם בדרך כלל. תכניסו את הסכין של טיעון הנגד החזק ביותר ותסובבו אותו עד הסוף, ואמרו לעצמכם: מה שנכון כבר נכון, אם אכיר בזה, המצב לא יחמיר ואם אסתיר את זה מעצמי, זה לא ייעלם. וכיוון שזה נכון, עליי להתמודד עם זה. אני יכול להתמודד עם זה, כי אני כבר מתמודד עם זה, כי זה נכון".
הרציונליזם ממוקד מאוד בסוגיות הקשורות לבינה מלאכותית. יודקובסקי ציין בעבר כי משימת חייו היא לדאוג כי בינה מלאכותית, כאשר תגיע, תהיה בטוחה לאנושות. לכן הקים את ה-Machine Intelligence Research Institute (או MIRI, ובעבר Singularity Institute for Artificial Intelligence. אין לו קשר רשמי לאוניברסיטת הסינגולריות של ריי קורצוייל, אם כי השניים מחליפים דעות מעת לעת). אחד התורמים שאפשרו את הקמת המכון היה כאמור משקיע ההייטק פיטר ת'יל.
![המיליאדרד פיטר ת'יל. מימן אלמנטים בתנועה הרציונלית / צילום: ap, Rebecca Blackwell המיליאדרד פיטר ת'יל. מימן אלמנטים בתנועה הרציונלית / צילום: ap, Rebecca Blackwell](https://res.cloudinary.com/globes/image/upload/t_550X400/v1739351847/direct/AP22117800586157_imecni.jpg)
המיליאדרד פיטר ת'יל. מימן אלמנטים בתנועה הרציונלית / צילום: ap, Rebecca Blackwell
הקבוצה יצאה מן האינטרנט אל העולם הגשמי ב-2012, כשכמה כותבים בקהילת LessWrong ייסדו בקליפורניה את CFAR, המרכז לרציונליזם יישומי, שהציע גם סדנאות וכנסים ו"ריטריטים אימרסיביים". בראיון ל-NBC שעסק בזיזיאנים סיפרה אנה סלמון, אחת המייסדות, כי "ראינו את הבינה המלאכותית כחשובה ביותר, הבנו שצריך לדייק ביותר ביישום הטכנולוגיה למטרות טובות, אחרת יקרו דברים רעים מאוד מאוד. ולא ידענו שאנחנו מספקים את התנאים להיווצרות של כת".
***
זיז כתבה לא מעט ב-LessWrong והצטרפה למרכז CFAR ב-2014. בהתחלה השתלבה מצויין, אבל בהדרגה, האינטנסיביות שלו בלטה כפי שאמרה סלמון ל-NBC, "בסוף ממש פחדתי ממנו".
זיז סיפרה בעבר בפוסט באינטרנט כי הייתה מעורבת מאוד ב-CFAR וכי התייעצה עם סלמון רבות לגבי הדרך בה עליה ללכת בחייה. אך בשלב כלשהו מישהו בארגון, אולי סלמון עצמה, אמרה לה שהיא "נטו שלילית". זהו התיוג של קהילת הרציונליסטים לאנשים שתרומתם לעתיד האנושות צפויה להיות יותר מזיקה ממועילה. התיוג המעליב שקיבלה ממקום בו הרגישה שייכת הוביל את זיז לפרוש מהארגון, וב-2019 אף הפגינה עם עוד זיזיאנים בכניסה לכנס של CFAR, באירוע שהסתיים בהתערבות המשטרה.
כבר כמה שנים שבקהילה הרציונלית מדברים על כך שמשהו לא תקין אצל הזיזיאנים. ג'סיקה טיילור, בעבר סטודנטית לתואר שני בסטנפורד ואחר כך חוקרת ב-MIRI, המכון שהקים יודקובסקי, טענה כבר ב-2021 כי זיז מוליכה קבוצה של צעירים בדרך מסוכנת. אולם טיילור טענה כי הבעיות בחשיפת אנשים צעירים ופגיעים לרעיונות הרציונליזם לא מתחילות ונגמרות בזיז.
היא תיארה בפוסט ב-LessWrong כי כחוקרת במכון MIRI נחשפה לצורות מחשבה מסוכנות שהובילו אותה בסופו של דבר להתקף פסיכוטי. "שוכנעתי כחוקרת ב-MIRI שאני בעלת כוח אדיר (להכוונת העתיד של הבינה המלאכותית) ולכן ודאי אעשה נזק עצום באמצעות הכוח הזה, כשאגרום להיווצרות בינה מלאכותית שתהרוג כמויות אסטרונומיות של אנשים. אמרו לי - התרחיש הזה לא סביר, אבל גם עודדו אותי לחשוב עליו כל היום ולתת לו מקום כשיקול המנחה את עבודתי".
טיילור סיפרה כי יודקובסקי עצמו העלה רעיונות כאלה, וחשב שהם מספיק סבירים כדי שיהיה צורך לנקוט אמצעים לגביהם, למשל - להסתיר מהבינה המלאכותית מה אנשים באמת רוצים, כדי שהיא לא תוכל לנצל זאת כדי לפגוע בהם. אולי עבור יודקובסקי זה היה ניסוי מחשבתי מעניין. טיילור החלה לטבוע בחזיונות של הגיהינום שהיא עומדת להביא.
הרשת של LessWrong מלאה ברעיונות דיסטופיים מקריפים. אחד מהם, "קליפי", גורס כי מכונה לומדת לא חייבת להיות סופר מתוחכמת או בעלת כוונות רעות כדי להזיק לבני האדם. למשל, מכונה שבני האדם מלמדים אותה לייצר אטבי נייר. אם מדובר במערכת לומדת, האם היא עלולה להחליט שהיא צריכה להפוך כל דבר לאטב נייר, גם את בני האדם שמולה? טיילור פחדה כי כל טעות, כל השמטה קלה שבקלות בהכוונת המכונות העתידיות לדאוג לרווחתם של בני אדם, יכולה להיות הרת אסון.
יודקובסקי לוקח ברצינות רבה את הרעיון של "InfoHazards", רעיונות מסוכנים שיכולים לערער לחלוטין את מי ששומע אותם, ואולי אף להשפיע על עתיד האנושות. כזה הוא למשל הרעיון Roko’s Basilisk, שהוצע על ידי הכותב רוקו באתר LessWrong. הרעיון של רוקו היה כי הבינה המלאכותית העתידית המרושעת, תדע לקרוא אחורה בהיסטוריה ולדעת מי פעל לגרום לכך שהיא תיווצר ומי עצר זאת, והיא תשמיד את מי שניסה למנוע את היווצרותה. כדי להימלט מגורל זה, בני האדם חייבים להקדיש את חייהם לגרום להיווצרותה של הבינה המלאכותית המרושעת, כדי שהיא לא תעניש אותם בעתיד.
יודקובסקי היה מזועזע מהפוסט וטען: "תקשיב לי טוב, אידיוט! אין לחשוב בפירוט על בינות מלאכותיות שסוחטות אותך כי זה מה שיאפשר להן לסחוט אותך! עלית על מחשבה מאוד מסוכנת ואני מיואש מהמחשבה שאנשים יכולים להיות מספיק חכמים כדי לחשוב על דבר כזה אבל לא מספיק חכמים לשתוק לגבי זה, כי יותר חשוב להם להישמע חכמים בשיחה עם החברים שלהם". עד 2015 היה אסור להתייחס לרעיון של רוקו בפורומים LessWrong, אם כי בהדרגה שינה יודקובסקי את גרסתו, בטענה כי המחשבה עצמה אינה מסוכנת לעתיד האנושות, אבל עלולה לערער אנשים פגיעים ששומעים אותה.
טיילור ציינה בפוסט שלה כי כמה צעירים בסביבתה התאבדו, כולם רציונליסטים, ולאו דווקא קשורים לזיזיאנים. יודקובסקי טען בתגובה כי טיילור הושפעה דווקא מאחד הפורשים מ-MIRI, מייקל ואסר שמו, שניהל את המרכז ב-2012 אך פנה נגדו. בפוסט שעלה ב-LessWrong נאמר כי ואסר, כמו זיז, אוסף גם הוא מעגל של צעירים סביבו, ומרביץ בהם רטוריקה צינית ושלילית לגבי האנושות.
ואסר הוא היום יזם בתחום הרפואי, ועדיין דובר מאוד בולט לעניין הגיהנום שעומדת הבינה המלאכותית להביא על האנושות. הוא הקים את MetaMed, מכון מחקר שנועד ליישם את הרעיונות של תורת הרציונליות לתחום הרפואי. גם החברה הזו קיבלה את כספי ההקמה שלה מלא אחר מאשר פיטר ת'יל.
גורם אחרון שכדאי אולי להציג בהקשר הזה הוא תנועת האלטרואיזם האפקטיבי (Effective altruism), תנועה פילוסופית בעלת חפיפה לרציונליזם, שכן היא גורסת שניתן ורצוי לחשב מתמטית, ללא הטיה, כיצד לפעול בעולם כדי לעשות טוב במידה הרבה ביותר. בסקר שנערך בעבר ב-LessWrong, טענו כשליש מכותבי האתר שהם מעורבים גם בתנועת ה-EA. היום התנועה מוכרת בעיקר "בזכות" סם בנקמן-פריד, יזם הקריפטו והמייסד והמנכ"ל לשעבר של בורסת FTX, שהורשע באחת ההונאות הגדולות בתחום, ולפני כן היה אחד התורמים המובילים לתנועת EA.
פרק 3: המיליארדרים והממשלה
בהרצאה באוניברסיטת סטנפורד ב-2022 אמר ת'יל כי היה מעורב ב-MIRI ובעולם הסינגולריות (הנקודה העתידית בזמן בה מחשבים יעקפו באופן משמעותי את היכולות האינטלקטואליות של בני האדם או איחוד האדם עם המכונה, תלוי בגרסה) משום שחשב שאם בינה מלאכותית היא הטכנולוגיה שתקבע את עתיד האנושות, חשוב מאוד לוודא כי היא מיטיבה איתנו. הוא ציין כי MIRI ריכז סביבו את מובילי הדעה של התחום, אשר השפיעו מאוד על עמק הסיליקון ב-20 השנים האחרונות.
"אך עם הזמן הם עברו שינוי", אומר ת'יל. "הם כבר לא עבדו על להביא את הבינה המלאכותית והיו הרבה יותר פסימיים לגבי המקום שאליו היא הולכת. הם הפכו למין מחנה של ברנינג מן. ולאחרונה ראיתי פוסט שלהם המכריז על אסטרטגיה חדשה. כיוון שהאנושות כבר לא יכולה לנצח את הבינה המלאכותית, אנחנו צריכים פשוט להיכנע לה בכבוד".
ת'יל טוען כי הוא אינו תומך בגישה, אבל שהוא חושב שהבעיה הפילוסופית העמוקה של AI מזיקה היא עדיין אחת הבעיות הגדולות שהאנושות מתמודדת איתן. "וזה לא רק התמוטטות עצבים כללית של תקופת הפוסט קורונה", הוא אומר.
העיתונאי סם פרנק סיכם את תפיסת העולם של המיליארדרים של עמק הסיליקון בכתבה במגזין "הארפרס": "בואו איתנו אם אתם רוצים לחיות", הייתה הכותרת שלה. הרעיון הוא כי המיליארדרים של עמק הסיליקון מציעים חבילה שקשה לשאר הציבור לסרב לה: האקינג של התחום הרפואי כדי להוביל לאלמוות, וטיוב וריסון של הבינה המלאכותית כדי שתפעל בעד האנושות ולא נגדה. כדי שהם יממשו את החזון הזה ויגנו עלינו מפני הגיהנום, עלינו לתת להם כח בלתי מוגבל.
"במשך שנים הם דמיינו עולם שעשוי מקוד כזה שבו פוליטיקה היא בעיה הנדסית", אמר פרנק כבר ב-2015. עולם שבו אילון מאסק הוא ה"מנכ"ל" של הממשלה, כמו היום.
מאסק, אשר הציע השבוע 97 מיליארד דולר כדי לרכוש את השליטה בחברת OpenAI, אינו מזדהה באופן מפורש כרציונליסט או כפעיל בקבוצה הסובבת את LessWrong, אבל הוא עוסק ברעיונות דומים. אנקדוטלית ניתן לספר כי רעיון הבסיליסק של רוקו השפיע משמעותית על חייו: מאסק, שהכיר את הרעיון, חשב על בדיחה בנושא, גיגל אותה כדי לראות אם מישהו חשב עליה קודם, וגילה שבהחלט כן - הזמרת גריימס. ההומור המשותף הספיק כדי להציע דייט, וגריימס הייתה בת זוגו של מאסק ואמם של כמה מילדיו.
מאסק בהחלט פועל כמי שרדוף על ידי רעיונות כמו הבסיליסק של רוקו. הוא סיפר בעבר כי מילדות חשש מבינה מלאכותית, אך טוען כי הדרך היחידה להגן על האנושות מפניה היא להתאחד איתה, להשתלב איתה, וכך להפוך את בני האדם לחזקים יותר מהבינה המלאכותית לבדה.
יודקובסקי ומאסק החליפו דברים בעבר משום שיודקובסקי, שהפך עם השנים להרבה יותר פסימי לגבי העתיד של האנושות תחת שליטתה של הבינה המלאכותית, ניסה לגרום לו לעצור את פיתוח המכונות שלו, אך מאסק סירב.
מאסק עסוק כרגע בקיצוץ מסיבי של תקציבי משרדי הממשלה בארה"ב באופן שירכז יותר כוח בידיו של ממשל טראמפ ובידי בעלי ההון, שיוכלו להגשים את משימות הסינגולריות שהוא חולם עליהן, וגם להפוך אותו לאיש עשיר יותר. הצוות המקיף אותו מורכב משישה מהנדסים צעירים, בני 25-19, מהם שניים בעלי קשרים חזקים גם לפיטר ת'יל.
בסקר שנערך באתר LessWrong לפי מספר שנים, 2.6% מהמשתתפים טענו שהם היו רוצים לארגן מחדש את הדמוקרטיה כאוסף של שווקים בהם בני אדם יוכלו להמר ולשים כסף על המדיניות הציבורית הטובה ביותר. גם אתם מוזמנים להמר על התוצאה של המהלך הנוכחי.