ביקור אלטמן בישראל: "צריך להתייחס לבינה מלאכותית כמו שמתייחסים לאיום הגרעין"

ביום אחד בלבד, סם אלטמן, מנכ"ל OpenAI, דחס לוח זמנים שלבכירים כמוהו היה לוקח שבוע שלם. האיש העומד מאחורי מנוע הדיבור ChatGPT בילה בישראל פחות מיממה, ולמרות שלביקורו הייתה חשיבות מיוחדת, הוא מהווה רק תחנה אחת במסע עולמי: אחרי ישראל ימשיך אלטמן לירדן, לקטאר, לאיחוד האמירויות, להודו ולדרום קוריאה.

● בגיל 37 בלבד, סם אלטמן עומד מאחורי המיזם ששינה את העולם 
● המפגש של שר החינוך עם בכירים ב-OpenAI מבהיר מה חושבים עלינו בעמק הסיליקון | אסף גלעד, פרשנות
● אלה חברות ההייטק הישראליות שעשויות לעניין את מנכ"ל OpenAI
● המנכ"ל הוותיק בעולם הטק עשה השבוע היסטוריה. ואז הגדיל את ההימור בישראל

אלטמן פתח את ביקורו היום (ב') בפגישה סגורה לתקשורת, עם נשיא המדינה הרצוג שנערכה בתל אביב. השניים שוחחו על הנקודה היהודית וחשיבותה של ישראל לזירת הבינה המלאכותית העולמית. 

 איליה סוצקבר, המדען הראשי של חברת OpenAI והמנכ''ל סם אלטמן / צילום: כדיה לוי

במהלך הפגישה אמר נשיא המדינה לאלטמן: "כתבתי לעצמי נקודות לקראת הפגישה שלנו, ולאחר מכן גם שאלתי את-ChatGPT על מה כדאי לי לדבר עם סם אלטמן, והתוכנה המליצה לי לדבר על מוסר, אתיקה ופיתוח השותפות עם ישראל - וזה זהה בדיוק לנקודות שכתבתי. אז אני חושב שהיא בהחלט חכמה ומתוחכמת. בוא נעשה תיקון עולם משותף".

בהמשך דבריו אמר הנשיא הרצוג לאלטמן כי הוא "מברך אותך על המכתב הפתוח בדבר סכנות הבינה המלאכותית שהוצאת עם אנשי התעשייה. לצד ההזדמנויות הנהדרות שבטכנולוגיה ישנם איומים רבים לאנושות, על עצמאות בני האדם. הרפואה תשתפר דרמטית ע"י בינה מלאכותית, אבל שאלות מוסר, חדשות כזב, וערכים יהיו בסכנה ואני מאוד מסכים איתך שזה כמו לפתח נשק גרעיני ולכן צריך להיות איגוד בין לאומי להתמודדות עם האתגר".

 מנכ''ל OpenAI, סם אלטמן ונשיא המדינה יצחק הרצוג בפגישתם / צילום: עמוס בן גרשום-לע''מ

סם אלטמן הודה לנשיא והוסיף: "מיוחד מאד עבורי לבקר בישראל ברמה האישית. קהילת הטכנולוגיה והסטארט־אפ בישראל היא מדהימה. חשוב כמובן לאזן את היתרונות והחסרונות כמו שציינת. אני שמח לעשות את הסיבוב הזה מסביב לעולם ולהיפגש עם מנהיגים עולמיים ולדון בזה. המחשבה, המיקוד והדחיפות בהבנה שצריך לדעת איך מנווטים את הסיכונים הגדולים שבטכנולוגיה לצורך הנאה מהיתרונות שלה, היא המטרה של כולם. אני חושב שמתקיים שיח פורה על הדרכים לעשות זאת. האנרגיה ביצירת הטכנולוגיה וביתרונות שהיא מפיקה מדהימה. אני בטוח שישראל תשחק תפקיד חשוב בכך. קהילת הטכנולוגיה כאן מדהימה, ואני עוקב כבר שנים רבות אחר בניית הטכנולוגיה פה לטובת שיפור האנושות".

למרות שערך פגישות עם ראשי מדינה באירופה, החליט אלטמן שלא להיפגש עם ראש הממשלה נתניהו למרות נסיונות תיווך בין השניים שהגיעו מחוץ ללשכת ראש הממשלה. במשרד ראש הממשלה הסבירו כי הלו"ז הביטחוני הצפוף בעקבות אירועי סוף השבוע, הביאו לכך שהפגישה לא תתקיים.

"השותפות עם מיקרוסופט עובדת באופן יוצא מן הכלל"

לאחר מכן המשיך אלטמן לביקור במרכז המו"פ של מיקרוסופט בהרצליה, שם התארח על ידי מנכ"לית מיקרוסופט ישראל, מיכל ברוורמן־בלומנשטיק וד"ר תומר סיימון, המדען הראשי של המרכז. בשיחה עם אלטמן נכחו מעל 400 עובדים והיא שודרה במעגל פנימי לשאר העובדים. מיקרוסופט היא שותפה ומממנת של OpenAI, ועל פי ההערכה, עסוק המרכז הישראלי בין השאר בפעילויות המסייעות להוזיל את עלות עיבוד הנתונים של ChatGPT - אחד האתגרים הגדולים בפניהם ניצבת החברה האמריקאית.

 סם אלטמן ומנכ''לית מיקרוסופט ישראל מיכל ברוורמן בלומנשטיק / צילום: אמיר ברקול

על אף הקשר החם למיקרוסופט, הביקור מופק ומנוהל כולו על ידי הנהלת OpenAI תחת חשאיות רבה ואבטחה קפדנית שלא הייתה מביישת ראשי מדינות.

במפגש התייחס אלטמן לשותפות של OpenAI עם מיקרוסופט ואמר: "אני חושב שמצאנו את התחומים ששתי החברות טובות בהן, השותפות עובדת באופן יוצא מן הכלל והיא הוכיחה שהיא שווה ומשמעותית יותר מסך חלקיה".

על השפעות הבינה המלאכותית אמר אלטמן: "הפרודוקטיביות עלתה באופן משמעותי בייחוד בכל הנוגע למשרות מבוססות ידע. המשמעות של זה היא שכל מפתח, כבר כיום, הגדיל את הפרודקטיביות שלו פי 3 וזו מהפכה של ממש". בתשובת לשאלה על ההיתכנות לפתיחת סניף של OpenAI בישראל אמר כי החברה מעדיפה לעבוד יחד ובאותו מקום, אבל הם בוחנים אפשרויות שונות להשקעה בישראל.

ביקורו של אלטמן באוניברסיטת תל אביב

בשעה 11:30 הגיע אלטמן לאוניברסיטת ת"א, שם פגש יזמים ומשקיעים, חלקם מקושרים למאיץ החברות של מיקרוסופט בישראל ולתכנית "בינה מלאכותית לטובה" של המרכז. בנוסף, המנכ"ל ביקש לפגוש חברות בתחום הסייבר, שיסייעו להפוך את הבינה המלאכותית היוצרת לטובת מוצרים הנצרכים על ידי ארגונים, כדוגמת בתי חולים או חברות אנרגיה. זאת על מנת לקחת ל"שלב הבא" את הטכנולוגיה המשמשת לעת עתה, בעיקר לצרכי בידור ומידע חובבני.

במהלך ביקורו באוניברסיטת ת"א התארח אלטמן לשיחה פתוחה בהנחייתו של פרופסור נדב כהן. יחד עם אלטמן על הבמה נכח גם איליה סוצקבר, המדען הראשי של OpenAI ואחד המייסדים.

בין השאלות שנשאלו, פרופסור כהן התייחס לסיכונים המדוברים סביב בינה מלאכותית, ״טרם נדבר על ההזדמנויות והמעלות״. כהן מנה מספר רבדים בהם הסיכונים המדוברים עלולים לבוא לידי ביטוי, אם בשוק העבודה, אם ככלי חזק בידיהם של האקרים ואם בסיכון של מערכת שתצא משליטה, גם משליטת האנשים שייצרו אותה.

איליה סוצקבר התייחס לרבדים שציין כהן ואמר: ״ברמה הכלכלית- אנחנו יודעים שיהיו משרות שיושפעו מהבינה המלאכותית. אמנם גם עבודות חדשות יווצרו אבל תהיה תקופה של אי וודאות כלכלית". הוא הוסיף שתצטרך לקום מערכת שתהיה אמונה לרכך את ה״מכה״ שתנחית הבינה המלאכותית על שוק העבודה.

הוא התייחס גם לסיכון הקיים בשימוש בבינה מלאכותית בידי האקרים- סוצקבר אמר שבינה מלאכותית היא אכן כלי עוצמתי ושהיא עלולה להיות כלי הרסני בשימוש בידי ידיים מסוימות. במידה והבינה המלאכותית משולבת עם כלים עוצמתיים אחרים, הסכנה אף גדלה. סוצקבר הדגיש שהוא מתכוון לכלי הבינה המלאכותית העתידיים, אלו שעוד יפותחו ״כשנגיע לשלב הרבה יותר מתקדם אפשר יהיה להשתמש בבינה המלאכותית לעשות דברים הרבה יותר נוראיים ממה שעשו לפני כן. נצטרך שיהיה לנו גוף אחראי שאמון על בקרה סביב תהליכי הפיתוח של הבינה המלאכותית".

לבסוף התייחס גם לחשש ממערכת שתצא משליטה ״אם זה יהיה רע, זה יהיה מאוד רע. זאת תהיה טעות גדולה לפתח בינה מלאכותית אם אנחנו לא יודעים איך לשלוט בה״.

אלטמן בתורו ענה כי כיום הבינה המלאכותית מביאה המון תועלת וכי ישנו ועוד יהיה גידול דרמטי בפרודוקטיביות, למשל מתכנתים יוכלו להיות יעלים פי שתיים ואפילו יותר. בטווח הרחוק, כמה משרות אכן ייכחדו אבל יוולדו משרות חדשות בצורות שעדיין לא ברורות לחלוטין.

עם זאת הוא הסתייג מלהספיד תחומים מסויימים מוקדם מידי. כדוגמה, נתן את משחק השח, אחד ממופעי הבינה המלאכותית הראשונים אשר גרמו לרבים להספיד את המשחק- שהפך כיום לפופולארי יותר מתמיד. אנשים רוצים לשחק עם אנשים אחרים ולאו דווקא עם בינה מלאכותית. בנוסף, ציין, כי אפילו שאפשר לייצר אומנות ואימג'ים בפלטפומות כמו דאלי, אנשים עדיין רוצים לראות את יצירותיהם של אמנים.

אלטמן הוסיף ואמר שיתרחשו שינויים רבים שקשה לחזות אותם אבל כי הרצון האנושי לייחודיות וליצירה לא יילך לשום מקום, גם אם ייראה אחרת. עם זאת הסכים על כך שלא משנה מה יקרה- ישנו צורך באיזשהו חוזה בינלאומי שיהיה אמון על בקרה ופיקוח ככל שהטכנולוגיה ממשיכה להתפתח ולהתקדם.

העולם צריך להכיר בסיכונים הטמונים בבינה המלאכותית

פרופסור כהן שאל את אלטמן, לאור חתימתו על עצומה שמזהירה מפני הסכנה שהבינה המלאכותית תכחיד את המין האנושי, מהם לדעתו הצעדים של חברות בפרט והמין האנושי בכלל לנקוט כדי להתמודד עם איום זה.

אלטמן הדגיש כי הטכנולוגיות עליהן הוא מדבר הן טכנולוגיות עתידיות. על כן אמר שלדעתו תהיה זאת טעות לעשות רגולציה נוקשה סביב הטכנולוגיה שנבנית כיום. עם זאת אמר שהעולם צריך להכיר בסיכונים הטמונים בטכנולוגיה זאת, סיכונים שאיתם נצטרך להתמודד בעשור הבא. על כן יש צורך בהקמת ארגון גלובלי עם שיטת עבודה מוסדרת, כמו למשל הפקת רישיונות לבינה מלאכותית ובקרה בסדר גודל גלובלי, ארגון שעצם קיומו ישמש לבקרה ופיקוח על התפתחות הטכנולוגיה. אלטמן אמר שלדעתו יש להתייחס לבינה המלאכותית כמו שמתייחסים לאיומים חמורים אחרים, למשל בעיית הגרעין.

פרופסור כהן שאל את אלטמן ואת סוצקבר מהן לדעתם ההזדמנויות הטמונות בעבור ישראל מבחינת המשך הפיתוח של הבינה המלאכותית.
סוצקבר ענה שלדעתו ישנו מגוון עצום של הזדמנויות. ״בבינה המלאכותית יש עוד טריטוריות רבות שלא חדרו אליהן, ואני אומר- לכו על זה. פשוט תעשו את זה".

אלטמן אמר שלדעתו ישנם שני דברים שמייחדים את ישראל: הראשון הוא ריבוי וצפיפות הכשרונות. לטענתו צפיפות הכישרונות בישראל היא גבוהה ו״מדהימה״. הדבר השני לדבריו, הוא מוטיבציה ותשוקה גבוהה. השילוב של שני אלו מייצר כאן דברים מופלאים.

הבינה המאלכותית תהיה חזקה מספיק כדי לטפל במשבר האקלים

פרופסור כהן שאל את אלטמן וסוצקבר היכן לדעתם נהיה בעוד מספר שנים מבחינת הפיתוח של הבינה המלאכותית.

אלטמן ענה שזה מה שהכי מרגש אותו. לטענתו יקרו דברים נפלאים וכי בינה מלאכותית תאפשר למין האנושי לעשות דברים שטרם נעשו. ״אני מאמין שקידמה מדעית וטכנולוגית היא הדרך היחידה לשפר את החיים האנושיים". הוא אמר שכבר אפשר לראות את ההתחלה של שיפור זה, אנשים שמשתמשים בכלים של בינה מלאכותית הופכים להיות יעילים יותר ושאנחנו לא רחוקים מעולם חדש ונהדר הודות לבינה המלאכותית.

עוד הוסיף שלדעתו בעתיד תהיה למין האנושי בינה מלאכותית שתהיה חזקה מספיק חזקה לטפל במשבר האקלים.

סוצקבר אף הסביר כיצד לדעתו זה יקרה: אם אפשר להאיץ את ההתקדמות המדעית, נוכל לייצר אנרגיה נקייה וזולה מהר יותר, זה יצמצם משמעותית את הזיהום וכתוצאה מכך את החור באוזון.

אלטמן טען שלדעתו זה משקף עד כמה גדול צריכים המין האנושי והחברה והמין לחלום. הוא חושב על מערכת שאפשר יהיה לשאול אותה על דרך נקייה לייצר אנרגיה בזול והיא תדע איך. סוצקבר הוסיף: ״אתה לא רק שואל את הטכנולוגיה איך לעשות את זה אלא גם אומר לה לעשות את זה״.

הגרסה הבאה של הבינה המלאכותית

סוצקבר התייחס לחששות מבינת על (בינה מלאכותית המתעלה על בינתו של האדם). הוא אמר כי ״יבוא יום בו אפשר יהיה לבנות מחשב חכם יותר מכל אדם, מחשב שיוכל לעשות חישובים ודברים אחרים טוב יותר ומהר יותר מכל אדם. בינת על תוכל לייצר את הגרסה הבאה של הבינה המלאכותית".

עוד אמר כי ״אנחנו מבינים שבינת על יכולה להיות מאוד יעילה אבל גם מאוד מסוכנת״. הוא הסביר שבשל כך הם דורשים את הרגולציה והבקרה. עוד אמר שישנו מחקר רב נוסף שיש לעשות כדי להבין את גודל העוצמה ומגוון היכולות של הבינה המלאכותית, ואיך אלו ישרתו את האדם לטובתו. לטענתו, בינת העל היא אתגר העל של האנושות.