נדרשת תבונה עילאית באסדרת הבינה המלאכותית

נאמן הוא משנה למנכ"ל ויועץ משפטי ראשי ואבניאלי היא בכירה באגף הייעוץ המשפטי בהפניקס ביטוח

בסרט החדש מסדרת הסרטים "משימה בלתי אפשרית" תוכנה משוכללת של בינה מלאכותית מפתחת תודעה ומנסה להשתלט על העולם. זהו הפחד האולטימטיבי שלנו מהבינה המלאכותית. נדמה שבנקודת הזמן הזו, החשש עדיין רחוק מהמציאות, אולם אין בכך כדי לבטל את הצורך המיידי בבחינת ההשלכות שעלולות להיות לשימוש בבינה מלאכותית, במיוחד בכל הקשור לפגיעה בזכויות אדם וכיצד עלינו להיערך לכך.

המונח "בינה מלאכותית" הוא רחב מאוד וכולל סט יכולות המאפשר לטכנולוגיה זו לסרוק במהירות רבה מאוד מידע עצום, לנתח אותו, לחבר הקשרים ולהסיק ממנו מסקנות, הרבה מעבר ליכולות של המוח האנושי. אחד מתתי התחומים של ה"בינה המלאכותית" הוא תחום "הלמידה העצמית" שבו המחשב משפר את יכולתו כל הזמן ולומד מטעויותיו.

יש המדמים את הבינה המלאכותית לחשמל. הוא נמצא בכל מקום אולם איננו רואים אותו. כך הבינה המלאכותית מצויה בתחומים רבים ומגוונים והיא חלק בלתי נפרד מחיינו גם אם איננו מודעים לכך. כך למשל, בינה מלאכותית קובעת את סדר הפיד שלנו ברשתות החברתיות; היא קובעת איזה פרסומות יקפצו לנו ברשתות כאשר אנו גולשים ברשת; היא ממליצה לנו על תוכניות טלוויזיה, סרטים, מוסיקה, חופשות, בני זוג באתרי היכרות ועוד. היא משפיעה עלינו הרבה מעבר למה שאנו מעלים על דעתנו.

מעבר לכך, הבינה המלאכותית משולבת בתחומים רבים ועשויה לתרום, לקדם ולייעל אותם מאוד. למשל, באבחון רפואי; בחיתום ביטוחי או בנקאי; במניעת מעילות והונאות; במיון מועמדים למקומות עבודה; במסחר בבורסה ובסחורות; בשימוש ברכב אוטונומי; בפיתוח מודלי שפה באמצעות טקסטים, צלילים ותמונות ועוד ועוד. הערכות של גופים רבים היא ששוק העבודה ישתנה לבלי היכר בשנים הבאות בשל היכולות של הבינה המלאכותית.

סיוע חיובי מאוד

השימוש ביכולות הבינה המלאכותית גם יכול לסייע מאוד במאבק לשמירת הקיימות בכדור הארץ על ידי בנייה וחיזוי של מודלים מורכבים של השפעת פעולות שונות של האנושות ביחס לזיהום ופגיעה במשאבים, והשפעתם על כדור הארץ.

אז אם הכל כל כך טוב. מה הבעיה?

ראשית, החמצן והדם של הבינה המלאכותית הוא מידע. מידע זורם בעורקי הבינה המלאכותית וככל שיש יותר מידע התוצאה תהיה טובה יותר. בינה מלאכותית טובה כמו איכות המידע שיש בידה. השימוש במידע עלול כמובן לפגוע בפרטיות שלנו. שנית, הבינה המלאכותית סובלת מהטיה שמובילה לאפליה. יתר על כן, היא משכפלת את ההטיות, מקבעת ומעצימה אותן. וכך, אוכלוסיות ומיעוטים מוחלשים יונצחו ככאלה, הן ברמת הכלל והן ברמת הפרט. כך למשל, ראש ממשלת הולנד נאלץ להתפטר בשנת 2021 לאחר שנחשף שמערכת בינה מלאכותית של פרופיילינג במערכת הרווחה בהולנד סיווגה בטעות עשרות אלפים כחשודים בפלילים וכחשודים בהונאה של קצבאות ילדים. התוצאה של סכנה זו היא, בין היתר, הגברת פערים חברתיים וחיזוק הגזענות. שלישית, "שקיפות ההחלטה" או בעיית "הקופסה השחורה". המודלים המורכבים של הבינה המלאכותית אינם מאפשרים להתחקות אחר תהליך קבלת ההחלטה והרציונל המדויק שלה. וכך, נפגעת היכולת הבסיסית של מי שנפגע מן ההחלטה (לא אושרה לו הלוואה; לא עברה חיתום ביטוחי; לא התקבל למשרה אליה הגיש מועמדות וכו') לערער ולהשיג עליה.

התועלות של הבינה המלאכותית הן רבות מאוד אולם לצידן קיימות סכנות לפגיעה בזכויות פרט והנצחה וחיזוק של הטיות חברתיות וגזענות. לפיכך, נדרשת אסדרה שתתפתח לצד הטכנולוגיות הללו, אשר מצד אחד תקטין את החשש לפגיעה בזכויות אדם ומאידך תאפשר את המשך פיתוחן ושילובן לטובת האנושות בכללותה. האיחוד האירופי הוא המתקדם ביותר בתחום הרגולציה של הבינה המלאכותית וביוני 2023 פורסמה טיוטת חוק הבינה המלאכותית. בארה"ב, בשלב זה, טרם פורסמה חקיקה מחייבת, אולם במפגש של ראשי שבע חברות הטכנולוגיה המובילות בארה"ב עם הנשיא ביידן, הסכימו אותן חברות להתחייב באופן וולונטרי לפתח מנגנונים להקטנת סיכוני הבינה המלאכותית ולהגברת השקיפות בעת שימוש בה.

רגולציה עצמית

עד להתפתחות רגולציה מחייבת, נכון יהיה לכל חברה לאמץ רגולציה "עצמית", במסגרתה יאומצו הליכים ונהלים מסודרים לפני פיתוח והטמעת מערכות מבוססות בינה מלאכותית בארגון; ייערכו סיקרי סיכונים; בקרות מפצות; תמונה "קבוצת ביקורת" שתמשיך להתנהל במודלים שקדמו למערכת הבינה המלאכותית ועוד. כל אלו יכינו את התאגידים לעיתוי בו הרגולטור יחליט להסדיר את התחום.

הבינה המלאכותית בכלל ויכולת הלמידה העצמית בפרט הן טכנולוגיות פורצות דרך שכבר היום משולבות בכל תחומי חיינו וקצב השפעתן על חיינו ילך ויגבר. כמו כל מכשיר רב עוצמה, ניתן להפעילו ולהשתמש בו באופן פוגע והרסני ומאידך ניתן להשתמש בו למטרות טובות שישפרו את העולם בו אנו חיים - הבחירה בידינו.