"מפתחי בינה מלאכותית התרחקו מהמוח האנושי כמקור השראה. כדאי שיחזרו אליו"

בגיל 16 החל פרופ' תומאסו פוגיו, מחוקרי הבינה המלאכותית המובילים בעולם כיום, להתעמק בשאלות הגדולות של הפיזיקה. הוא השלים דוקטורט בפיזיקה תיאורטית, אבל לדבריו החוויה הזאת הייתה קצת משתקת מבחינתו. "איך האנושות יכולה בכלל להתמודד מול גודל הבעיות? הגעתי למסקנה שהדבר הכי חשוב הוא לחקור מהי אינטליגנציה אנושית, איך אפשר שכולם יהיו אינשטיין", הוא אומר בראיון בלעדי לגלובס. מאז, הוא מקדיש את הקריירה שלו לשאלה הזאת, אבל ההתחלה הייתה דווקא בפענוח מערכת הראייה של זבוב הבית במכון מקס פלנק הנחשב, בגרמניה.

●  בזמן שכולם מסתכלים על אנבידיה: חברת השבבים הזו משתלטת על השוק 
● המשקיעים נוטשים את תאי הגזע לטובת תרופות למניעת השמנה | ניתוח

"המוח של זבוב, מבחינת גודל ומספר הנוירונים, הוא בערך חצי משל בני אדם בסקאלה לוגריתמית. כלומר, גדול מספיק כדי להיות מעניין, אבל קטן מספיק כדי שניתן יהיה לגשת לחקור אותו".

איך חוקרים את מערכת הראייה של זבוב?
"שמנו זבובים בכל מיני סביבות עם גירויים חזותיים וראינו איך הם זזים. אחרי זה ניסינו לזוז בעצמנו כמו שהזבוב זז, ואז עשינו סימולציה של זבוב במחשב. המטרה הייתה לבנות מודל ממוחשב, שבמפגש עם גירויים חזותיים דומים לאלה שהצגנו לזבוב, יתכנן מסלול תנועה שנראה דומה. הצלחנו לבנות סימולציה של תנועת זבוב שרודף אחרי זבוב אחר, ובמקביל ניתחנו את המוח של הזבוב והבנו אילו נוירונים מפענחים מה בשדה החזותי הוא זבוב נוסף ומה שייך לרקע. זאת הייתה ההתחלה של ההתחלה בחיבור התנהגות של נוירונים להתנהגות של היצור שאלה הנוירונים שלו".

 מחקר בזבובים היה ההתחלה של מערכות לניבוי התנהגות גופים הנעים במרחב / צילום: Shutterstock

המקצוע שהבינה המלאכותית לא תחליף

הקשר בין המחקר הזה משנות ה־70 של המאה הקודמת למערכות שמבחינות היום בין עצמים נעים לנייחים במרחב, ויודעות לנבא את התנועה של גופים נעים, הוא ברור. אבל אחרי עשור של חקר זבובים פוגיו חיפש את הדבר הבא.

"החלטתי באופן יזום לצאת מגן עדן", הוא אומר על החלטתו לעזוב את מכון מקס פלאנק. "חיכתה לי קריירה נוחה במוסד שממומן בנדיבות, ללא מרדף אחרי מענקי מחקר או חובת הוראה, אבל הרגשתי שאני עדיין צעיר מדי לחתום על גן עדן לכל החיים".

הדבר הבא היה MIT. פוגיו עבר לשם ב־1981, וכבר אז דובר על בינה מלאכותית. "חיפשתי את החיבור לחיים האמיתיים, את הסיכוי לפתור באמת בעיות שקשורות למוח אנושי. MIT הייתה המקום המוביל אז לבינה מלאכותית, המקום שבו הכל קורה, ודווקא הצורך להיאבק על מענקי מחקר השאיר אותי ערני ותחרותי, וההוראה השאירה אותי צעיר. אני מאמין שמוסדות אקדמיים הם המוסדות ששורדים הכי הרבה זמן, מאות רבות של שנים, בגלל שכל הזמן נכנסים אליהם אנשים צעירים עם רעיונות צעירים".

ב־MIT חקר פוגיו מוחות של קופים ובני אדם. הוא לא אסף נתונים בעצמו, אלא קיבל נתונים ממעבדות אחרות וערך סימולציות מחשב. "האינטליגנציה האנושית נשארה תחום העניין שלי, אבל המחשב היה אפיק מעניין לחקור אותה. אם את חושבת שאת יודעת איך חלק במוח עובד, ואת מצליחה לעשות לזה סימולציה, זו לא הוכחה שהמוח עובד ככה, אבל זו הוכחת היתכנות שאומרת שאולי הוא יכול.

"כבר בתקופה הזו התחלנו לשחק ברעיונות של AI לאבחון מחלות, לגרפיקה גנרטיבית, ליצירת סרטוני וידיאו שהם פייק. בשנות ה־90 בנינו מערכת שנועדה להבחין בין הולכי רגל למכוניות, והמערכת הזו ידעה משהו, אבל עשתה מספיק טעויות כדי שכל העניין יהיה לא פרקטי".

מהם השינויים הכי גדולים שהתרחשו בתחום הבינה המלאכותית לאורך הקריירה שלך?
"פעם החוג למדעי המחשב העסיק מתכנתים. היום, זה כעשור בערך, יש לנו מקצוע חדש: מאמני מכונות. זה עולם אחר. זה לא בהכרח אומר שהאנשים התחלפו, כי עדיין דרושים כישורים דומים כדי להבין איך מדברים עם המכונה, עדיין צריך מתמטיקה. אבל המשימה שלנו בעבודה השתנתה.

"זו עוד שאלה, לאן ילכו המשרות. יהיו יותר משרות בניטור ובשמירה על בטיחות מערכות הבינה המלאכותית".

איזה מקצוע כדאי ללמוד בעולם שבו AI מתחרה בכל המקצועות?
"שרברב. הוא משלב ניסיון, פתרון בעיות ומוטוריקה גסה ועדינה, וגם ראייה. סריקה של המרחב באמצעות חוש הראייה עדיין נותרה אחד האתגרים הגדולים ביותר עבור מערכות בינה מלאכותית".

המכונה הפכה לקריקטורה של נוירון

כשחוקרים ומהנדסים החלו לבנות את הבינה המלאכותית, הם עשו זאת בהשראת המוח האנושי, אומר פוגיו. אבל את קפיצת הדרך המצמררת שלה, שגורמת לנו להרגיש כאילו היא דומה לנו יותר מתמיד, היא עשתה דווקא בעשור האחרון, כאשר נזנחו מקורות ההשראה האנושיים שלה.

פוגיו עצמו קצת מוטרד וקצת נפעם מהנתק בין הבינה המלאכותית לבינה האנושית היום. "מודלי השפה הגדולים, לדוגמה, שלומדים את כל האינטרנט באופן שמוח אדם אינו מסוגל ללמוד פותחו ללא השראה ישירה מחקר המוח. כלומר, הארכיטקטורה הבסיסית שלהם כן שאבה השראה מהמוח האנושי, אבל בשלב מסוים הם נפרדו ממקור ההשראה הזה והמשיכו להתפתח תוך חתירה ליישום פרקטי.

"כדי לעשות זאת, ממש פישטו את הרעיון של מה הוא נוירון, ובתוך 'רשתות הנוירונים' שלהם נשאר משהו שהוא בקושי קריקטורה של נוירון. אני לא חושב שלחברות כמו גוגל או OpenAI, באמת אכפת אם המערכת נראית או פועלת כמו מוח. הן פשוט רוצות תוצאות.

"אחד המאפיינים של המכונות הללו הוא שמאמנים אותן על רשת האינטרנט, מאגר מידע שבנו בני האדם. אך מה אם היו בונים את המערכת הזו כך שהיא יכולה ללמוד מהעולם האמיתי? האם מערכת כזו תהיה שונה רדיקלית מבני אדם, או דווקא דומה יותר כי כך אנחנו באמת לומדים? האם צריך להעביר גם את המכונה אבולוציה כדי שהיא תפרוץ את החסם שמבדיל בינה לבינינו? ייתכן. אני לא מכיר שום חברה מסחרית שעושה את זה, או שום גורם בכלל, אך אני מנחש שמערכות מסוג זה, אם יגיעו, יפציעו מתוך האוניברסיטאות, כי התעשייה התאהבה במה שעובד".

העובדה שמערכות הבינה המלאכותית היום עושות דברים שאינם בהשראת המוח, זו לא בעיה כשלעצמה, הוא מדגיש. גם מבחינה מחקרית יש לכך תועלת: כששתי אינטליגנציות הן שונות, אפשר להשוות ביניהן ולזהות מהם היתרונות והחסרונות של כל אחת, ואיך הם קשורים למבנה שלה. אולי ניתן ללמוד מכך אפילו יותר מאשר לו היו לנו שתי מערכות דומות מאוד.

אבל כן יש לגישה הזאת גם חסרונות. "המשאבים הוקצו להנדסה ולא למחקר. נוצר מצב שבו אנחנו לא תמיד יודעים עד הסוף מה המערכת עושה", אומר פוגיו. כמו כן, הוא סבור שבהתרחקות של המהנדסים מחוקרי המוח, הם ויתרו על מקור השראה משמעותי. כדי להשיג את פריצות הדרך הבאות, הוא אומר, ייתכן שכדאי להם לחזור אליו ולחפש את נקודות ההשקה בין המוח למודלים שהם בונים.

"קשה לי להאמין שהארכיטקטורה של מערכות הבינה המלאכותית הקיימות היום היא הכי טובה שיש. היא מקובעת מדי לתחושתי".

ישנה עוד סיבה, לדעתו, להמשיך לנסות למדל דווקא את המוח, ולא להסתפק בכל בינה מלאכותית שנותנת תוצאות. "אולי בעוד כמה שנים, או כמה עשרות שנים, נרצה ליצור ממשק בין המוח שלנו לבין הבינה המלאכותית. אם לא נדע איך באמת המוח עובד, מבחינת הארכיטקטורה שלו והתקשורת בתוכו, לא נדע איזה פרוטוקול תקשורת ליצור בין המכונה לבין המוח. לא נדע אפילו איפה לשים את החוט".

מה יקרה כשמחשב יבקש זכויות אזרח

אז סיכמנו שמערכות עיבוד השפה החדשניות הן לא כמו מוח. אך האם הן בעיניך סוג של אינטליגנציה?
"ברמה הפילוסופית, אני חושב שהאינטליגנציה האנושית היא רק אחת האפשרויות לאינטליגנציות בעולם. מאז שנות ה־50 של המאה הקודמת יש מחשבים שעשו דברים מסוימים טוב יותר מבני האדם. חברת דיפ מיינד, שהוקמה על ידי תלמיד שלי, דמיאן סביס, בנתה מחשבים שהצליחו ללמד את עצמם לשחק במשחקים לשני שחקנים, כמו גו ושחמט, טוב יותר מבני אדם. מובילאיי יודעת למעשה לנהוג כמו נהג אנושי, וחלק מהצ'טבוטים כבר עוברים את מבחן טורינג, כלומר אדם שמדבר איתם לא יודע אם הוא מדבר עם מחשב או עם אדם אחר.

"עם זאת, מחשב כזה לא יודע אם הוא בעצמו עולה באש. אז זו אינטליגנציה אבל עד גבול מסוים. אינטליגנציה שפתית היא רק אחד הרכיבים של אינטליגנציה אנושית. לבני אדם יש מוטוריקה, הסקת מסקנות. למערכות עיבוד השפה יש רק עיבוד שפה".

השאלה הבאה המתבקשת היא כמובן אם מחשבים כאלה הם תבוניים או עשויים להיות תבוניים בעתיד.
"שאלות שהיו פעם נחלת פילוסופים בלבד הן היום שאלות בוערות. לדוגמה, אם המחשב פתאום אומר לי, 'אני רוצה לקבל זכויות אזרח, מה עליי לעשות?' אולי הפתרון יהיה בהקמת חבר מושבעים שיעביר את המחשב סדרת מבחני טורינג, ובסופו של דבר יאמר 'הוא נראה לי תבוני או 'הוא עדיין לא נראה לי תבוני' על בסיס ההתנהגות שלו.

"גם את התבוניות של בני אדם אחרים אנחנו שופטים לפי התנהגותם. אני מניח שאת תבונית כי את נראית בערך כמוני ואני יודע שאני תבוני. אנשים חושבים שהכלבים שלהם תבוניים, וזה כנראה נכון, אבל אנחנו מניחים זאת כשהם עושים דברים שנדמה לנו שהם דומים לנו.

"בסופו של דבר, כל מדינה תקבל את ההחלטות שלה, ואולי יהיו מדינות שיאמרו שכדי להיחשב 'חי' צריך להיות בשר ודם. בעיניי זו לא עמדה שתואמת את מה שאנחנו מגדירים 'תבוניות'. אני מאמין שמכונות יוכלו להיות תבוניות בתוך עשרות שנים, לכל היותר מאות שנים, גם אם הן לא יתבססו על חומר אורגני".

דרושה פריצת דרך מהותית כדי שזה יקרה או מספיק שנמשיך לעשות עוד ממה שכבר נעשה?
"אני חושב, באינטואיציה, שעדיין דרושה קפיצת דרך שאנחנו אפילו לא יודעים לאפיין אותה כדי להגיע למכונה שיש לה אינטליגנציה יצירתית אמיתית. מצד שני, עד לפני כמה שנים, אם היית שואלת אותי מתי נראה מכונות כמו ChatGPT, הייתי אומר רק עוד 20־30 שנה. אז אני היום קצת חשדן לגבי האינטואיציות שלי בתחום הזה".

הסכנה האמיתית היא זיהום של התרבות

לאחרונה ניטש ויכוח בשאלה אם כדאי לעצור את הפיתוח של מערכות הבינה המלאכותית, מתוך חשש שאיננו יודעים לצפות את התנהגותן. מהי עמדתך?
"אני אופטימיסט זהיר. אני חושש ש־OpenAI מיהרו לתת גישה חופשית לטכנולוגיה עוצמתית, לפני שהבנו לעומק אילו דברים מסוכנים ניתן לעשות בעזרתה ואיך אפשר לנטר אותה. אבל עכשיו אי אפשר ללכת אחורה. את מערכות הרגולציה עדיף לבנות מאוחר מאשר לעולם לא.

"אני לא מאמין שיש פה סיכון אקזיסטנציאלי לאנושות או למדינות מסוימות, כמו ב'טרמינייטור' או 'המטריקס', הזוועות שאנשים מדמיינים כשהם חושבים על בינה מלאכותית. הסיכון בעיניי הוא לזיהום התרבות שלנו, המידע שלנו, החדשות שלנו. זיהום בפייק. הזיהום הזה כבר קיים, אבל בינה מלאכותית עלולה להחמיר אותו.

"לצערי, אני לא מאמין שאת הבעיה הזאת באמת ניתן למנוע. הייתי שמח אם הפוליטיקאים היו יוזמים תוכנית לניטור המערכות האלה, אבל קודם כול הם צריכים להבין אותן וגם לא לרצות להשתמש בהן בעצמם לרעה".

פוגיו עוסק בכל השאלות האלה בספר שהוא כותב בימים אלה עם קולגה שלו, עיתונאי. "אנחנו כותבים על סוגי האינטליגנציות שקיימות בעולם, מעלים שאלות לגבי הבטיחות של מערכות בינה מלאכותית ומציעים פתרונות לניטור שלהן".

לצד כתיבת הספר, פוגיו אומר שהוא חוקר גם את היסודות הפילוסופיים של הלמידה. "מה זה אומר ללמוד מבחינת מכונה ומבחינת בן אדם, מה באמת מאפשר לנו לשפר את יכולת הניבוי שלנו לגבי העולם. המטרה שלי היא לצאת מהרעיונות הללו לארכיטקטורות חדשות לגמרי של בינה מלאכותית".

"שוק המוליכים למחצה זה מומחיות של מטבח, לא של תעשייה"

פוגיו הגיע לישראל כדי להשתתף בכנס שקיימה האוניברסיטה העברית בתחום הבינה המלאכותית ועמד בסימן תרומתו לתחום של פרופ' אמנון שעשוע, חוקר מהאוניברסיטה ומייסד מובילאיי. פוגיו, שהיה מנחה של שעשוע בדוקטורט, הסכים כמורה הגאה בתלמידו להרצות בכנס ולהתראיין, שני דברים שהוא לא מרבה לעשות.

פוגיו עצמו מעורב בכמה מיזמים מסחריים הקשורים בבינה מלאכותית. "הייתי משקיע קטן ומוקדם בדיפ מיינד", הוא מספר. "פיתחנו יחד חלק מהמודל העסקי של החברה. גוגל רכשה אותה בהמשך, והיום אני לא מעורב בחברה. השקעתי גם באורקם הישראלית (שהקימו מייסדי מובילאיי שעשוע וזיו אבירם - ג"ו), חברה בעלת חזון להנגשת מידע חזותי לעיוורים שאני מאמין שיש בה גם הזדמנות עסקית מצוינת".

בין השאר, פוגיו השקיע גם בחברה בתחום של למידת מכונה לתעשיית המוליכים למחצה. "משעשע לחשוב ששוק המוליכים למחצה הוא ענק ובעצם מניע את ההייטק, אבל הייצור בו עצמו הוא כל כך מיושן ותלוי עדיין במומחים שיודעים איזה כפתור בדיוק לסובב, באיזו טמפרטורה להחזיק את החדר הנקי ואילו חומרים לערבב. זו מומחיות של מטבח יותר משל תעשייה".

כשאמנון שעשוע עבד איתך, באמצע שנות ה־90, התמקדתם בבינה מלאכותית?
"למרבה ההפתעה, לא ממש. למעשה ניסיתי להכניס אותו לתחום הזה אז, אבל הוא לגמרי לא התעניין בבינה מלאכותית, אלא בפענוח מנגנון הראייה במוח. היו לו תוצאות מעולות בשימוש במתמטיקה שאפילו עבורי הייתה מאתגרת. הוא אדם מאוד מוכשר.

"הוא אומר שאני החדרתי בו את העניין לתחום העסקי, אבל אני חושב שמאז ומתמיד היו לו הכישורים להיות איש עסקים".