הצ'טבוט הנאצי שגרם לטיילור סוויפט לאיים בתביעה על מיקרוסופט

עורכי דינה של הזמרת טיילור סוויפט איימו בתביעה נגד ענקית הטכנולוגיה מיקרוסופט, כך לפי ספר חדש של נשיא מיקרוסופט בראד סמית'. הסיבה לאיום בתביעה - השם "Tay" שהוענק לצ'טבוט שהחברה השיקה, שעורכי הדין של הזמרת דרשו שישונה, בטענה כי הוא מקושר אליה. Tay עוצב במטרה לנהל שיחות עם בני נוער וצעירים ברשתות החברתיות, ולבסוף פעולתו הופסקה כשהחל לפרסם תכנים גזעניים ואלימים.

ב-2016 מיקרוסופט הכריזה על כוונותיה להביא את הצ'טבוט "XiaoIce" שפיתחה עבור השוק הסיני לארה"ב ולשנות את שמו ל-"Tay". סמית תיאר בספרו החדש "Tools and Weapons", שעוסק באופן בו הטכנולוגיה מעצימה את משתמשיה אך גם מאיימת עליהם, כי בסין הצ'טבוט הצליח מאוד בקרב בני נוער. "נראה שהצ'טבוט ענה על צורך חברתי בסין, בה משתמשים לרוב בילו 15-20 דקות ביום בשיחה איתו. הם שוחחו איתו על היום שעבר עליהם ועל הבעיות, התקוות והחלומות שלהם. אולי זה מילא צורך שקיים בחברה בה לילדים אין אחים?", תהה סמית.

בהמשך הוא תיאר את המייל שקיבל מעורכי דינה של סוויפט ובו האיום בתביעה: "הייתי בחופשה בזמן שעשיתי את הטעות ובדקתי את הטלפון שלי בזמן ארוחת ערב", כתב. לדבריו, עורכי הדין כתבו כי "השם 'Tay', כפי שאתה בטח יודע, מקושר מאוד ללקוחה שלנו. השימוש בשם 'Tay' יצר קישור מטעה ושגוי בין הזמרת הפופולרית לבין הצ'טבוט ומפר חוקים מדינתיים ופדרליים".

לדברי סמית, עורכי הדין של מיקרוסופט לא הסכימו עם הטענה שהשימוש בשם אכן מפר חוקים כלשהם, אך על-מנת שלא להיכנס לסכסוכים משפטיים, החברה החלה לדון ברעיונות לשם חדש.

לבסוף לא היה צורך בשינוי השם, מאחר שפעולתו של הצ'טבוט הופסקה במהרה, כאמור. Tay פותח באופן שבנוסף לשיחות שקיים, גם יפרסם בעצמו ציוצים בטוויטר, ותכניו התבססו על מה שלמד מהשיחות שקיים עם משתמשים. מהר מאוד הוא החל לחזור על רעיונות נאציים ופוגעניים שמשתמשים אמרו לו. בין היתר הוא צייץ כי "היטלר צדק, ואני שונא את היהודים", "בוש אחראי לפיגוע ה-11 בספטמבר", ו"כל הפמיניסטיות צריכות למות".

תוך 18 שעות מהשקתו של Tay, מיקרוסופט הפסיקה את פעולתו ופרסמה התנצלות רשמית בעקבות התכנים שפרסם. סמית תיאר בספרו כי אותו אירוע גרם למיקרוסופט להפיק לקחים לגבי "הצורך באמצעי הגנה חזקים יותר הנוגעים לבינה מלאכותית".

ב-2018 מיקרוסופט השיקה מחדש את הצ'טבוט תחת השם "זו". גם הגרסה החדשה נועדה לתקשר עם נערים, אך פותחה באופן שימנע ממנה לשוחח על נושאים כמו גזע, דת ופוליטיקה.