"בינה מלאכותית מחייבת אותנו לשיחה הרבה יותר אמיתית על הערכים שלנו"

הטכנולוגיה המודרנית שהתפתחה בעשור האחרון שינתה את האופן שבו אנחנו מנהלים את היחסים שלנו עם אנשים אחרים, שינתה את האופן שבו אנחנו מבינים את העולם, אך האם היא יכולה גם להוות מהפכה באופן שבו אנחנו מתייחסים לעצמנו?

פרופ' דיוויד וינברגר הוא פילוסוף של עולם הטכנולוגיה, גורו של חשיבה על טכנולוגיה וחברה, שנוטה לומר דברים כמו "הצפת מידע היא האמת", "הסברים הם כלים", "שווקים הם שיחות", ו"האדם הכי חכם בחדר הוא החדר". כל אמירה כזו שנשמעת תחילה כמו סיסמה שנזרקה לחלל על ידי אלגוריתם ייצור סיסמאות בתחום הפילוסופיה של הידע, מסתברת בשיחה עם וינברגר כנטועה עמוק בחשיבה מבוססת על האופן שבו שינוי הטכנולוגיה משנה לעומק את צורת החשיבה של בני אדם על עצמם. לאחרונה הופיע וינברגר בכנס "מעצבים את העתיד TLV19" בהובלת מטח, המרכז לטכנולוגיה חינוכית, במסגרת שבוע ה־EdTech הבינלאומי של מטח וחממת החדשנות MindCET.

"תחום העיסוק שלי הוא האופן שבו הטכנולוגיה משפיעה על רעיונות היסוד שהחברה שלנו בנויה עליהם. התחלתי לכתוב על רשת האינטרנט לפני שהיא הייתה באמת קיימת, בשנות ה-70 ותחילת ה-80. באותו הזמן מילת הקסם המפחידה הייתה 'עומס מידע'. זה רעיון שהחל אפילו בשנות ה-60. החשש היה, פחות או יותר, שאנשים יחוו בבת אחת יותר מדי אורות, קולות, ריחות, רוקנרול - ויחלו ליפול על הקרקע כשהם מתעוותים ומפרכסים. זה לא באמת קרה".

בסוף שנות ה-90 פרסם העתידן אלווין טופל את הספר "הלם העתיד". היו אלה הימים הראשונים שבהם חדר האינטרנט לחיי האזרח מן השורה, והתהיות כיצד תשנה הרשת את החיים הייתה מסקרנת ומפחידה כאחד. ברור היה כי אנחנו עומדים בפני מהפכה, אך לא היה ברור לגמרי מה טיבה. "טופל כתב ספר מצוין, מאוד מבוסס על מידע, מחקר ולוגיקה בריאה, אבל הרעיון היה דומה לזה של 'עומס הגירויים' של שנות ה-60. טופלר דיבר על 'עומס מידע', שיציף אותנו עד כדי שיתוק ואובדן שפיות".

היום, אומר וינברגר, כבר אין מדברים על הלם עודף המידע. אנחנו אכן מוצפים במידע או יכולים להיות מוצפים במידע בלחיצת כפתור, כפי שטופלר חזה. אולם עבור רובנו, עצם קיומו של המון מידע שם בתוך רשת האינטרנט אינו מצב בלתי נסבל. אלה פשוט החיים.

"נראה כי מנועי חיפוש חזקים ומתוחכמים והנטייה שלנו להתחיל את השיטוט שלנו באינטרנט מנקודה אחת תמיד, למשל מפייסבוק, הובילו לכך שאיננו מרגישים עומס מידע", אומר וינברגר. "אבל יותר מכך שלמדנו לנהל את המידע, התחושה שלנו לגביו השתנתה".

הכוונה היא שאנחנו לא נרתעים עוד מן המחשבה שבחוץ ישנו אוקיינוס של מידע, נטול סדר והיררכיה, שאנחנו יכולים רק לטבול בו אבל לעולם לא לשלוט בו. וינברגר קורא לזה: Overload as truth, כלומר עומס היתר הוא המציאות, וזהו. למשל: "בתחילת ימי האינטרנט חשבו שספאם הולך להיות בעיה גדולה. חשבו שלא ניתן יהיה עוד להשתמש באינטרנט בגלל הספאם, אבל כמה כלים טכנולוגיים מבריקים אך פשוטים ליישום הפכו את הספאם לבעיה זניחה.

"מי שטענו שאנחנו נקרוס בגלל עומס המידע, הם בעיקר אנשים שתפקידם היה לאצור את המידע", אומר וינברגר. "הם הרגישו שבלי שומרי הסף שמסדרים עבור הציבור את המידע ואומרים לו מה עליו לצרוך ובאיזה סדר, הציבור צפוי לקרוס. אף שהעבודה של האנשים הללו היא עדיין משמעותית וחשובה, הרי שסדרי עולם אכן השתנו. ובכל זאת בני האדם לא קרסו ולא מפרפרים על הרצפה. הם לא איבדו את שפיותם".

 מארק צוקרברג / צילום: ג'ושוע רוברטס, רויטרס

"לא כל מורכבות אפשר לפשט"

בני האדם כן, כאמור, שינו את נקודת מבטם. כך למשל, אנחנו כבר מבינים שאנחנו יכולים להכיר כמה סיפורים מן ההיסטוריה. אין לנו עוד יומרה להכיר ""את ההיסטוריה". ילידי שנות ה-2000 אולי לא יזכרו אפילו שאי פעם יצאו לאור ספרונים שתפקידם להעניק לנו את התקציר של כל מה שבן תרבות צריך לדעת על ההיסטוריה האנושית. הרעיון כי ניתן להכיל תחום לימוד שלם, לשלוט בדיסציפלינה, נשמע היום כמעט מופרך. הרי בעודנו מדברים, נוצר בכל רגע תחום ידע חדש.

"בעבר האמנו שהיקום הוא אינסופי ואי אפשר לעשות בו סדר, אבל חשבנו שאולי אנחנו, בני האדם, אולי היצורים האחרים שיכולים אולי בכל זאת להסיק כמה חוקי יסוד, שמהם נוכל לגזור מעין תמונה פשטנית יותר של העולם הזה. אני חושב שעם הזמן אנחנו מבינים, בין היתר בזכות הטכנולוגיה, שלא כל מורכבות אפשר לפשט, ושאי הידיעה הזו היא אולי לא פתירה, לא רק כי עדיין לא פתרנו אותה, אלא כי המורכב כלל אינו ניתן לפישוט. ישנם אוקיינוסים של מידע שמתחברים זה לזה באופן מאוד לא צפוי לצד הצפוי".

איך זה משפיע על החיים הרגשיים שלנו כבני אדם? או על החיים החברתיים שלנו?

"אני מאוד מקווה שנלמד מכך צניעות. כבר היום אנחנו מתקרבים למקום הזה שבו תופסים את מכלול הידע של תחום מסוים כמשהו שנמצא ‘שם בחוץ', ולא בראש של מישהו חכם או של כמה אנשים חכמים. אותם החכמים עצמם, אם הם אמנם חכמים, כבר לא תופסים את הידע התחומי כמשהו שנמצא בראש שלהם".

אולי יש בכך גם מן השלילי? אנשים יפנימו תחושה שאי אפשר לפענח את התמונה, ולא יהיה להם תמריץ כלל ללמוד, להשכיל, לחקור את האמת.

"זה יכול להיות. מאוד תלוי מה עוד יקרה בטכנולוגיה ובתרבות".

היום הדאגה היא לא מעומס מידע אלא ממידע "רע", הפייק ניוז. האם גם זה 'קמפיין געוואלד', שנובע מאובדן השליטה של בעלי כוח מסוימים על השופר הציבורי?

"זה לא בדיוק אותו דבר, משום שפייק ניוז הוא לא יציר לוואי של התפתחות הטכנולוגיה אלא לרוב מעשה מכוון של אדם כלפי יריבו הפוליטי. הטכנולוגיה רק מאפשרת ליצור את זה בקלות רבה יותר. אנחנו כועסים כאן לא רק על שינוי הפרספקטיבה שלנו בגלל הטכנולוגיה אלא על עצם המעשה".

הכלי הבא שבא עלינו לשנותנו הוא הבינה המלאכותית. כיצד היא תשנה את תפיסת עולמנו להערכתך?

"השינוי הוא באותו הכיוון שהזכרתי לעיל בהקשר של עומס המידע. בתחילת עידן המידע, הביטניקים טענו שמחשבים הם כלים של קונפורמיות. כדי לשוחח עם מחשב, כדי לגרום לו לבצע משהו מועיל, אתה חייב לדבר איתו בשפה מאוד חד משמעית, של סיבה ותוצאה, ללא מורכבות. חייבים לחשוב באופן רדוקציוניסטי.

"כאשר אנחנו עובדים עם מכונת בינה מלאכותית, אנחנו בעצם רק מזינים אותה בדאטה ונותנים לה פידבק. אנחנו מזינים אותה בדאטה, אנחנו מעניקים לה את הפידבק, אבל היא מגיעה בעצמה לעולם של כללי הסקה, שהם רבים ומגוונים מאלה שהמוח האנושי יכול להכיל בכל רגע נתון. מדובר במחשב שהוא טיפוס קצת שונה מזה שאליו התרגלנו. הוא כבר לא צריך שידברו אליו בסיבות ותוצאות ברורות. הוא לא חייב שפריטים יחולקו לקטגוריות באופן חד משמעי. ואף שהמחשב של הבינה המלאכותית לא מכיל כללים רדוקציוניסטיים, הוא מנבא לעתים טוב יותר מאיתנו.

"מה יקרה אם אנחנו נחשוב על עצמנו במונחים כאלה? קחי למשל את הילדים הלומדים שפה. עד היום ההערכה הייתה שאנחנו מזינים אותם במידע והם מפיקים ממנו את כללי היסוד של השפה. למשל אנחנו אומרים להם: הנה כלב, הנה כיסא. אחרי כמה זמן המוח מבין שכלב הוא דבר עם ארבע רגליים שנובח וכיסא הוא דבר עם ארבע רגליים שלא נובח. אבל אולי המערכת של לימוד השפה בכלל לא פועלת ככה, וגם באופן סמוי ולא מודע אין למוח כללי שפה כל כך ברורים, אלא פשוט המון המון פרטים מקושרים זה לזה בקשר חלש? אולי אנחנו לומדים פחות 'כללי שפה' ממה שהיה נדמה לנו ויותר 'פרטי שפה'? אולי זה כך גם בתחומים אחרים?

"יכול להיות שאם נתחיל לחשוב שהעולם דומה יותר לטכנולוגיה הזו מאשר לטכנולוגיה הקודמת, נחשוב אינטואיטיבית במונחי סיבה ותוצאה הרבה יותר מורכבים. אם היום מול אירועים היסטוריים או פוליטיים או אפילו אירועים בחיים האישיים שלנו אנחנו חושבים במונחים של סיבה ותוצאה, של הסבר מכונן. אולי אנחנו נפסיק לחשוב ככה, או לפחות לא עד כדי כך. אולי גם זה יוסיף לנו צניעות?

"כשאני הייתי ילד בשנות ה-50, הגישה הייתה: 'אם אתה לא קורא עיתונים אתה לא אזרח אחראי, אבל אם קראת את שני העיתונים של המפלגה הנכונה עכשיו אתה יודע מה קורה בעולם ולכן אתה אזרח אחראי ויכול לקבל החלטות'.

"אולי הגישה החדשה תהיה 'אסוף לך מידע מכל הבא ליד', ואז תהיה לך אינטואיציה לקבל החלטות, אפילו אם אתה לא יודע בדיוק איך להסביר אותה. אם האינטואיציה שלך אכן מנבאת לך היטב דרך מוצלחת בעולם, אתה מכונה טובה וזה מספיק טוב, גם אם אין יודעים בדיוק מדוע".

יכול להיות שהבינה המלאכותית תוכל לתת לנו אפשרות לגשת לדיסציפלינה שכרגע נראית לנו כל כך רחבה ועמוסת מידע שאף פעם לא "נשלוט" בה ותפיק ממנה עבורנו תובנות שייתנו לנו את התחושה שאנחנו בכל זאת שולטים בה? 

"ייתכן שזה יהיה הצעד הבא. זה יהיה, כנראה, פחות מעודד צניעות".

מתי להעדיף חיי אדם על פני מהירות נסיעה?

איך משתלבות הרשתות החברתיות במגמות הללו? 

"קודם כול אני חייב לומר שבתור מי שעוקב אחרי התפתחות האינטרנט מראשית הדרך, ובהתלהבות רבה, אני מאוד מאוכזב מההתפתחות של רשתות חברתיות. אין שום דבר רע ברשת חברתית, כלשעצמה. אימייל הוא רשת חברתית, והוא בסדר. פייסבוק מעורר בי תחושות הרבה פחות נוחות. האינטרנט היה של כולם, לא בבעלות של מישהו, לא פוליטי. לא חזיתי שכל כך הרבה מן הקשר בין בני אדם באינטרנט יעבור דרך חברה אחת, שנשלטת באופן כה דומיננטי על ידי אדם אחד. למעשה, זה אסון. רשת האינטרנט היא עדיין דבר נפלא. אבל הרשת החברתית חונקת אותה. ושוב, תלוי איזו רשת חברתית. למשל מ'רדיט' אני מקבל תחושה אחרת.

"בכל מקרה, הפן החיובי בעיניי הוא שעם הולדת הרשתות החברתיות, אנשים התחילו לדבר על דברים ‘רציניים' בקול האמיתי שלהם - עם טעויות כתיב, עם קלישאות, עם בדיחות גרועות וטובות. זו נראית לי דרך בריאה וחיובית להעביר ידע. עוד דבר די מדהים הוא שאנשים לומדים לחיות עם זה שהם לא מגיעים להסכמה. פשוט נמאס להם לריב. וככה זה גם בחיים. בתחומים מסוימים שתי הגישות יכולות לחיות זו לצד זו".

מלבד "ההצפה היא האמת", אתה מציג היום כלל נוסף: "להבנה יש מחירים".

"נניח שאת עובדת עבור חברה שמייצרת מכוניות אוטומטיות. אז את בטח תעמדי ליד לוח גדול ותכתבי בראשו ‘חיי אדם מעל הכול'. ואז את בודקת אילו ערכים נוספים את צריכה להשיג - זמן נסיעה סביר, מחיר, קיימות, ללא יותר מדי נזק לרכוש. ואת מגלה שאופטימום שמירה על חיי אדם מחייב נהיגה במהירות של 20 קמ"ש. אז מה? פתאום חיי אדם הם לא מעל הכול. אבל בניגוד למה שאמרתי קודם על האופן שבו בינה מלאכותית צוברת ידע, שהוא מעורפל ולא מחייב הגדרות, הרי שכדי להוציא לפועל סדרי עדיפויות, אנחנו חייבים דווקא ללמד את המכונה את הדברים באופן מדויק. מתי עליה להעדיף חיי אדם על פני מהירות נסיעה? מתי עליה להעדיף מחיר על פני מהירות? ייתכן מאוד שהצורך להגדיר ערכים באופן יחסי במספרים יתחיל להשפיע עלינו גם מחוץ לעולם המכונות. כך למשל, אם היום אני יכולה לומר באופן אמורפי 'אני בעד הסכם שלום גם אם יש לזה מחיר'. האדם של העתיד אולי יאמר 'אני שם מקדם 7 על שלום ומקדם 3 על ביטחון', ותיאורטית אפשר לחשב מכך כמה בדיוק הרוגים בפיגוע הוא מוכן לספוג לפני שיתמוך ביציאה למלחמה. היום כולנו יכולים להחזיק בכל מיני ערכים, כל עוד אינם סותרים. בעתיד אולי נידרש לעתים קרובות יותר להציג את הערכים שלנו גם במדרג יחסי. "המכונה מחייבת אותנו לשיחה הרבה יותר אמיתית על הערכים שלנו", אומר וינברגר. "נצטרך כנראה לתמוך בערכים שלנו באמצעות יותר מידע, ונצטרך לעמוד מאחורי המילה שלנו".