"יש מקום לדאגה": ההשלכות המטרידות של הבינה המלאכותית

"אילון מאסק אמר שבינה מלאכותית היא מסוכנת יותר מצפון קוריאה. אז כמה מסוכן זה יכול להיות? מהו התרחיש הכי גרוע?", בשאלה זו פתחה עדי סופר תאני, מנכ"לית פייסבוק ישראל, את הפאנל בנושא בינה מלאכותית במסגרת כנס Journey 2017 של "גלובס" בשיתוף פירמת ארנסט אנד יאנג.

אייל ניב, שותף בפיטנגו, אמר כי "יש מקום לדאגה לגבי תחום הבינה המלאכותית. כי חברות קיימות שאין בהן רכיב בינה מלאכותית - אולי לא יהיו קיימות בעוד עשור. ראינו בעבר שבני אדם יכולים לעשות מניפולציה למערכות בינה מלאכותית, גם אם אין להם הכשרה רשמית לכך, וזאת בניגוד להאקרים שצריכים קצת הכשרה".

ניב הוסיף כי "אין ספק שככל שהבינה המלאכותית הופכת משמעותית לחיינו, כך גם האפשרות כי היא תטעה או תנוצל לרעה, הופכת בעייתית יותר. אם, למשל, חברת אינטנסיקס שבה השקענו תממש את חזונה להפוך למרכז העצבים הניהולי של בתי חולים, הרי שניצול לרעה של המערכת הזו יכול לגרום לכאוס בבית החולים וזה כמובן דבר נורא".

 משתתפי הפאנל. "חברות ללא בינה מלאכותית - אולי לא יהיה קיימות בעוד עשור" / צילום: שאולי לנדנר

יובל בהרב, שותף מנהל בקרן SOMV, ציין כי "בני האדם רוצים לפתח בינה מלאכותית משלוש סיבות - כסף, אגו וסקרנות. המניע של הכסף מכוון אותנו בינתיים לפרי הנמוך של התחום - להחליף בני אדם במשימות שהם מבצעים באותה צורה שוב ושוב, כלומר אוטומציה. מכיוון שמעבירים תחילה את המשימות הפשוטות ביותר של בני האדם למכונות, מי שיפגעו ראשונים הם אלה שממילא אין להם הרבה אפשרויות - העובדים שמבצעים היום את המשימות החזרתיות. החיסכון הכספי שינבע מהאוטומציה לא יילך לכיסן של שכבות אוכלוסיה שהעסקתה צומצמה, אלא לבעלי ההון, בעלי החברות המשתמשות באוטומציה. לכן אי השוויון יוחרף. זה קורה מאחר שמי שדוחף את התהליכים האלה הוא המגזר הפרטי ולא ממשלות, ובמגזר הפרטי אף אחד לא מתייחס ולא יכול להתייחס לאספקטים האלה, זה לא תפקידנו".

בהרב ציין כי "בעיה נוספת היא אחידות - אם כל האלגוריתמים המנהלים את חיי בני האדם יהיו זהים, הרי שכל בני האדם יהיו זהים גם הם".

פרופ' רונן פלדמן, מייסד והמדען הראשי של חברת Amenity Analytics, אמר כי "חלוקת העושר תהיה בעייתית יותר בעתיד גם משום שמי שעשיר יקבל אלגוריתמים טובים, ומי שלא - לא יוכל לקנות את האלגוריתמים הטובים. אם לוקחים בחשבון שהאלגוריתמים ינהלו כל אספקט בחיינו, הרי שאי השוויון יוחרף".

אדי אורטיז, סגן נשיא לחדשנות והאצת פתרונות בבנק המלכותי הקנדי, דיבר על בעיית הקצב: "הרגולציה לא עומדת בקצב. הדוגמה הברורה לכך היא השיפוט בתאונות רכב אוטונומי - עדיין לא ברור מי אשם בהן. כך גם בתחום התעסוקה: תיאורטית, אפשר להכשיר את כל העובדים לקריירה חדשה; בפועל, לא בטוח שזה יקרה מהר מספיק".

בהרב הוסיף כי "הבעיה האתית מתחילה בשאלה - מי התיר דווקא לאנשים מסוימים לפתח את המכוניות האוטונומיות כמו שהן, ומי שאל את תושבי עמק הסיליקון אם נוח להם שיסתובבו מכוניות אטונומיות בסביבתם? אף אחד. וכך זה תמיד כשמדובר בטכנולוגיה - אף אחד לא מתיר אותה. כבר היום גוגל מקבלת החלטות של חיים ומוות כי הטכנולוגיה שלה מותקנת בתוך מוצרים צבאיים".

הדוברים ביקשו להתייחס גם להשלכות החיוביות של הבינה המלאכותית. ריץ' שור, ראש התחום הדיגיטלי בארנסט אנד יאנג, אמר: "בינה מלאכותית יכולה לשמש כדי לתעד תוצאות של תהליכים חברתיים שהיום אנו לא יודעים לנבא לאן הם מובילים אותנו, ואפילו של פרויקטים חברתיים ממוקדים - וכך לדעת מה אפקטיבי ומביא אותנו למקום טוב, ומה לא. כך נדע איזו רגולציה להפעיל, כדי, למשל, למנוע את התהליכים השליליים יותר של הבינה המלאכותית עצמה.

"בעיניי, הניבוי לאובדן של מקומות עבודה אומר שאין לנו ביטחון ברגולטורים. אני מאמין שרגולציה נכונה תוודא שאנשים יישארו מועסקים, ועם זאת יהיה לכולנו הרבה יותר זמן פנוי".

פרופ' אמיר קוניגסברג, מנכ"ל וממייסדי חברת Twiggle, המתמחה במסחר אלקטרוני, אמר: "לגבי מסחר אלקטרוני אין לי דאגות. להיפך, אני מאוד סקרן. אני חש שצרכנים מאוד מצפים לחוויות חדשות שהבינה המלאכותית תעניק להם. כשחנויות כמו אמזון קמו, הן העניקו פתאום חוויה מאוד ייחודית של איתור פריט, לעיתים פריט נישה, רכישתו ללא מאמץ וקבלתו עד הבית. אולם מה שאיבדנו הוא היכולת להתייעץ עם המוכר. היום החוויה הזו חוזרת, כלומר מגיעה גם לאונליין, באמצעות הבוטים. הם לא מחליפים תקשורת אנושית ויעבור זמן רב, אולי כמה עשורים, עד שבני אדם לא יזהו האם הם משוחחים עם אדם או עם רובוט, אולם ביכולת לייעץ ייעוץ אישי השינוי הוא קרוב מאוד.

"חוויה חדשה נוספת שפותחה בזכות מהפיכת המידע האחרונה היא חיפוש לפי תמונה דומה, ועוד יותר מזה - ישנה היום תוכנה שמאפשרת לחפש לפי ציור שאתה אולי בורא מדמיונך, והבוט סורק את כל העולם כדי לראות אם מישהו כבר הוציא לפועל את חלומך".

לדעת פרופ' פלדמן ציין, "התרחיש החיובי של הבינה המלאכותית הוא הדמוקרטיזציה של היכולות הרובוטיות, כך שבני אדם יוכלו לסנן תוכן באופן שמיטיב את מצבם, הכלכלי או האחר". בהרב הוסיף כי "היתרונות יכולים להיות בחיסכון בחיי אדם, באמצעות המכונית האוטונומית והרפואה הניבויית"; וניב הלך לכיוון הסמארטפונים: "הטלפון שלנו היום הוא לא באמת טלפון חכם. כל פתיחת אפליקציה או כל שיחה לאשתי דורשת שלושה קליקים לפחות. כל נסיעה בווייז דורשת שוב פתיחה של האפליקציה, חיפוש מסלול ועוד. אם הטלפון שלי באמת היה חכם - הוא היה שומע את השיחה שלי, מבין אותה, ומנבא מה אני עומד לעשות ומציע לי לעשות את זה בקליק אחד".