דיקן בית הספר להנדסה ב-MIT: "נחנך את הסטודנטים לשאול שאלות אתיות על בינה מלאכותית"

ההתפתחות המהירה של טכנולוגיות בינה מלאכותית בשנים האחרונות, והפוטנציאל הרב שלה במגוון תחומים, גוררים דרישה גבוהה לבעלי ידע בתחום בתעשיית ההייטק. כצעד טבעי, גם ההכשרה הופכת ליותר ויותר מבוקשת, ולצד הכשרות פנימיות של חברות הטכנולוגיה עצמן וקורסים אינטרנטיים שמציעים לימוד מואץ של התחום, גם מוסדות ההשכלה הגבוהה המסורתיים בעולם מתאימים את עצמם ומציעים יותר ויותר קורסים ותוכניות לימודים רלוונטיים, כבר משלב התואר הראשון.

נראה שמי שכבר עושה את אחת ההשקעות המשמעותיות עד כה בחינוך ל-AI הוא המכון הטכנולוגי של מסצ'וסטס (MIT), אחד מהמוסדות האקדמיים הטובים בעולם בתחומי הטכנולוגיה. ב-MIT הכריזו בשבוע שעבר על הקמת קולג' חדש, בהשקעה של מיליארד דולר, שיוקדש כולו באופן ייעודי לתחום המחשוב ומדעי המחשב (עד היום מדעי המחשב נלמדו ב-MIT במסגרת המחלקה להנדסת חשמל ומדעי המחשב שבבית הספר להנדסה), כשאחד מהדגשים בקולג' החדש יהיה לימודי בינה מלאכותית. 650 מיליון דולר מתוך הסכום כבר גויסו, כאשר 350 מיליון מתוכם נתרמו על ידי הפילנתרופ ומנכ"ל קרן ההשקעות הפרטיות Blackstone, סטיבן א. שוורצמן, שהקולג' החדש ייקרא על שמו. מדובר בשינוי המבני המשמעותי ב-MIT מאז שנות ה-50, בהן הוקמו בתי הספר לעסקים, מדעי החברה והרוח.

בשיחה עם "גלובס" אמר אננת'ה צ'נדרקסן, דיקן בית הספר להנדסה של MIT ופרופסור להנדסת חשמל ומדעי המחשב: "הקולג' יתמקד במחשוב ובמדעי המחשב באופן נרחב, ובפרספקטיבות של התחום כמו קריפטוגרפיה, אלגוריתמים בסיסיים ואופטימיזציה. AI הוא תחום פופולרי מאוד כרגע ויש לו השפעה פוטנציאלית אדירה. הקולג' יציע תוכניות לימודים מתואר ראשון, ועד פוסט דוקטורט".

ל-MIT יש כבר היום פעילות רבה בתחום ההוראה והמחקר של בינה מלאכותית ומדעי המחשב, למה חשבתם שיש צורך בקולג' ייעודי?
"נכון, 40% מהסטודנטים שלנו בוחרים כבר היום ללמוד מדעי המחשב או שילוב של מדעי המחשב עם חוג נוסף", אומר צ'נדרקסן, אך מסביר כי החזון של הקולג' החדש יהיה בלימודים רב תחומיים, שיוצרים הצטלבויות בין מדעי המחשב לתחומים אחרים.

"הקולג' יספק תארים בתחומי הליבה של מחשוב כמו מדעי המחשב, אבל גם יהווה גשר לכל דיסציפלינה ומחלקה בקמפוס. זה יאפשר לנו ליצור תארים חדשים. היום למשל אנחנו מציעים תארים כמו כלכלה, מדעי המחשב ומדעי נתונים, או תכנון עירוני בשילוב מדעי המחשב. הקולג' החדש יאיץ את התהליך ויקל עלינו ליצור תוכניות כאלה, ואפילו יספק הזדמנות ליצור תחומים אקדמיים חדשים שיצמחו מאותן נקודות מפגש. יווצרו סטודנטים וסגל בעלי ידע במחשוב ובדיסציפלינה נוספת. אני חושב שכל האוניברסיטאות מנסות להבין היום כיצד להתמודד עם העניין הרב סביב מחשוב, ואנחנו מקווים שנוכל לשתף פעולה עם אוניברסיטאות אחרות כדי לחשוב על התחום, לחלוק מהניסיון שלנו וללמוד מהן".

שילוב בין מוזיקה למחשוב

במסגרת הקמת הקולג' ע"ש שוורצמן, ב-MIT מתכננים לגייס 50 חברי סגל חדשים. כחלק מהגישה הבין-תחומית מסביר צ'נדרקסן כי "הם יביאו פרספקטיבות שונות: 25 מתוכם יקדמו את תחום המחשוב, ו-25 יקדמו את המחשוב לתוך מחלקות אחרות. מדובר בסוג חדש של אנשי סגל, שלרוב משתייכים למחלקה או יחידה אחת, והפעם יקדמו שני תחומים".

בנוסף לרב-תחומיות, דגש נוסף של הקולג' החדש יהיה בחקר ההשלכות החברתיות של הפיתוחים הטכנולוגיים בתחומי המחשוב, דאטה, ובינה מלאכותית, התמקדות בשאלות אתיות שעולות מהפיתוחים ובחקר המדיניות שיש לקבוע כדי להתמודד עם אותן ההשלכות. "אנחנו רוצים לאמן את הסטודנטים שלנו לשאול את השאלות הנכונות, כבר כשהם מפתחים מוצרים ואפליקציות - בניגוד לדרך הפעולה שבה מפתחים מוצר, מוציאים אותו לשוק ומחכים לראות מה יהיו המשמעויות. החשיבה על הפן האתי צריכה להיות חלק מפורש מהתהליך.

"למשל במעבדת המדיה של MIT, בה חוקרים את האינטראקציה בין אדם למכונה, נבחנות בין היתר בעיות הנוגעות לכלי רכב אוטונומיים. הם עשויים להתמודד עם שאלות קשות, כמו להיאלץ לעשות בחירה במצב מסוים של תאונה בין להביא לפציעה של הנוסעים לבין של אנשים ברחוב. איך המעצבים שמטמיעים את האלגוריתמים במכונית צריכים לחשוב על בעיות מהסוג הזה? שאלות אתיות אחרות הן איך מתמודדים עם הטיות שקיימות בלמידת מכונה? פן אחר הוא שעבודות מסוימות נמצאות בסיכון בגלל בינה מלאכותית, אז אנחנו רוצים לחשוב גם על הפתרון לבעיה החברתית הזו, ולחשוב אילו עבודות ייווצרו במקומן בעולם הדיגיטלי החדש".

לדברי צ'נדרקסן, בעוד שיש שיפור בחשיבה על שאלות כאלה בקרב מפתחי AI, "אנחנו יכולים להיות טובים יותר וצריכים להמשיך לחנך את הסטודנטים שלנו בנושא. החלק האנושי של מדעי המחשב והנדסה הוא מאוד חשוב". נראה שהדגש הזה משמעותי עבור כל צמרת MIT. נשיא האוניברסיטה, ד"ר לאו רפאל רייף הצהיר כי "בעוד שמחשבים מעצבים מחדש את העולם שלנו, MIT רוצה לוודא שהם עושים זאת לטובת הכלל", בהודעה שהמוסד שחרר לעיתונות על פתיחת הקולג' החדש. צ'נדרקסן גם ציין בשיחתנו כי מליסה נובלס, הדיקנית של בית הספר למדעי החברה והרוח ב-MIT, מחוברת מאוד למאמץ לחקר האספקטים האתיים של AI בקולג' החדש.

במרוץ לצמרת יש מקום למוסר

לפי הצהרה אחרת של MIT, ההשקעה הגדולה בקולג' החדש תעזור למקם את ארה"ב כמובילה עולמית בתחום המחשוב והבינה המלאכותית ולהכין אותה לאבולוציה המהירה של הטכנולוגיות האלו. אך האם המטרה הזו עומדת בקנה אחד עם ההתמקדות של הקולג' בשאלות אתיות? או שאותה התמקדות עשויה דווקא לפגוע בארה"ב מול מדינות כמו סין, שהציבה לעצמה יעד להיות המדינה המובילה בתחום הבינה המלאכותית עד 2030 ולבנות תעשייה בשווי 150 מיליארד דולר, וככל הנראה אינה מגבילה את הטכנולוגיה בעקבות שיקולים מוסריים?

"אני חושב שאנחנו חייבים לאמן את הסטודנטים שלנו לעשות את הדבר הנכון" אומר צ'נדרקסן בתגובה לשאלה זו, "כך שיבינו את כל הצדדים של הסוגיות. בסוף הם יקבלו החלטות בעצמם כשיצאו החוצה וייצרו את הטכנולוגיות האלה".

איך החזון הרב תחומי יעבוד בפועל? האם תלמידי מדעי הרוח והחברה ילמדו לקודד או שהם יתמקדו רק בהשלכות האתיות?
"לדעתי גם וגם. כבר היום 90% מהסטודנטים של המוסד מכל התחומים מסיימים את הלימודים עם קורס אחד לפחות שקשור למחשוב, על אף שאנחנו לא מציבים דרישה כזו. בקורסים של בינה מלאכותית יש יותר נרשמים ומתעניינים ממקומות פנויים, העניין שהתחום מעורר בקמפוס עצום. בנוסף, כבר היום, מחקרים משותפים של חברי סגל מתחומים שונים גם מביאים סטודנטים מתחומים שונים לעבוד יחד. עם הקמת הקולג', בית הספר למדעי החברה והרוח ישתף איתו פעולה ובהחלט יהווה את הגשר לנושא האתיקה והשלכות הטכנולוגיה על החברה".

הקולג' מתוכנן להיפתח בספטמבר 2019 ולפי התכניות, הבניין החדש עבורו יושלם ב-2022, אך צ'נדרקסן מדגיש שפרטי מבנה הלימודים בקולג' ושיתופי הפעולה עם שאר המוסד עדיין נמצאים בתהליך תכנון ובניה. "בחודשים הקרובים תהיה הרבה מעורבות מהקהילה, מהסגל, הסטודנטים, והפוסט דוקטורנטים שלנו כדי שנבין מהי הדרך הטובה ביותר לבנות את הקולג', וכנראה נקים ועדה שתעצב את הפרטים".

איך אתה מדמיין שיראה יום של סטודנט בקולג'?
"אני מצפה שיהיו הרבה יותר אפשרויות בחירה עבור סטודנטים במובן של תכניות לימודים. למשל, נוכל לראות סטודנטים למוזיקה שירצו להתמקד גם במדעי המחשב. החוויה הסטודנטיאלית תתפתח ותקושר לדיסציפלינות רבות, ואני מאמין שנראה יותר הזדמנויות מחקר לתלמידי תואר ראשון שיוכלו לעבוד עם סגל מתחומים שונים. אבל יידרש קצת זמן להגיע לשם. בשלב ראשון נמשיך להפעיל את התוכניות האקדמיות הקיימות בתחום מדעי המחשב, ובהמשך נרחיב אותן. נדרשת כשנה כדי להגדיר כל תוכנית לימודים חדשה, והעסקת 50 חברי הסגל החדשים בדיסציפלינות שונות גם היא תארך מספר שנים".

האם אתם מתכננים לשתף בקולג' החדש פעולה עם חברות מתעשיית ההייטק?
"זה יהיה הכרחי. ב-MIT אנחנו עובדים על מחקרים עקרוניים ובמקביל יש לנו היסטוריה ארוכה של עבודה טובה מאוד עם התעשייה על יישום מחקרים. במעבדת ווטסון של MIT ו-IBM לבינה מלאכותית, שנוצרה בספטמבר 2017, יש לנו שיתוף פעולה ייחודי עם IBM במסגרתו כל פרויקט של המעבדה כולל חוקרים של החברה ושלנו, וזה מודל נהדר שאולי ניישם גם על עבודה עם חברות אחרות. יש לנו גם צורך, בגלל הצמיחה האדירה במחשוב, להגדיל את משאבי המחשוב שלנו, כמו מעבדים גרפיים בהם עושים שימוש בלמידת מכונה, וגם לצורך זה אנחנו מצפים לשיתוף פעולה עם התעשייה".

גם בישראל, אגב, ישנן תוכניות להצעיד את המדינה קדימה בתחום ה-AI: באוגוסט פרסמנו ב"גלובס" כי הפרופסור והאלוף במיל' יצחק בן-ישראל, שתרם להפיכת המדינה למעצמת סייבר, מרכיב מספר ועדות ממשלתיות בנות עשרות מומחים, כדי להזניק את ישראל לצמרת ה-AI העולמית תוך דגש על תחומי הפינטק, הבריאות, התחבורה והתעשייה. במסגרת החזון, קיימת התייחסות גם להשכלה בתחום, והרצון של בן-ישראל הוא להקים מרכזי מחקר לבינה מלאכותית באוניברסיטאות בארץ, כשלדבריו, "כל סטודנט בכל פקולטה יעבור קורס בסיסי בלמידת מכונה" ולימודי התחום יכנסו בנוסף אף לתכנית הלימודים כבר בתיכון.