מסמכים מודלפים חשפו: כך אפל מנחה את סירי להתחמק משאלות בנושאים רגישים

מסמכים פנימיים של אפל שדלפו לידי עיתון "הגרדיאן" חשפו כמה מהקווים המנחים של התגובות של העוזרת האישית סירי לשאלות המשתמשים. המסמכים חושפים כי אפל מעוניינת שתגובותיה של סירי לנושאים שנויים במחלוקת יהיו ניטרליות, גם במחיר מענה שלא מתייחס ישירות למה שנשאלה. לפי הדיווח, במסמכי אפל נכתב כי "כמעט בכל המקרים, לסירי אין נקודת מבט" ו"סירי צריכה להישמר כשהיא עוסקת בתוכן שעשוי לעורר מחלוקת".

מהמסמכים אף עולה כי החברה הוציאה לפועל פרויקט פנימי שנועד לנסח מחדש את המענה שסירי מספקת כשהיא נשאלת על נושאים רגישים כמו פמיניזם, במסגרתו הנחו את המפתחים לענות על שאלות בנושא באחד משלושת האופנים - לא לעסוק בזה, לסטות מהנושא או לספק למשתמשים מידע כללי, למשל באמצעות וויקיפדיה. במהלך הפרויקט התשובות של העוזרת האישית שוכתבו מחדש כך שתצהיר שהיא בעד שוויון, אך לעולם לא תשתמש במילה "פמיניזם".

בעבר, כשסירי נשאלה אם היא פמיניסטית, הגיבה תוך התעלמות מוחלטת מהנושא, למשל ב"קוראים לי סירי, ועוצבתי ע"י אפל בקליפורניה. זה כל מה שאני מוכנה לומר" או "אני מצטערת, אני לא יודעת". במסגרת אותו פרויקט, נכתבו במקום זאת תשובות ספציפיות למענה על השאלה, תוך התחמקות, כמו "אני חושבת שכל בני האדם צריכים לקבל יחס שווה", ללא מענה קונקרטי לשאלה. לעומת זאת, העוזרות האישיות של ענקיות טכנולוגיה אחרות עונות באופן חד משמעי יותר. גוגל אסיסטנט אומרת כי "אני מאמינה גדולה בשוויון, ולכן אני בהחלט מחשיבה את עצמי לפמיניסטית", ואילו אלכסה של אמזון משיבה "כן. אני פמניסטית" בתוספת פירוט ההגדרה של המונח אליה היא מתייחסת בקביעתה.

בנוסף, אפל אף ניסחה מחדש תשובות של סירי שעוררו ביקורת בעבר. פעם, כשכונתה בשמות מבזים, סירי השיבה באופן פלרטטני - "הייתי מסמיקה לו הייתי יכולה". כעת, במסגרת ניסוח התשובות המחודש, היא עונה באופן תקיף יותר - "אני לא מגיבה לזה".

עוד נכתב במסמכים המנחים את המפתחים בכתיבת התשובות כי המוטיבציה העיקרית של סירי היא לסייע בכל זמן, וכי היא שואפת לעמוד בשלושת חוקי הרובוטיקה של אסימוב "כמו כל הרובוטים המכובדים". חוקים נוספים שנוסחו ע"י אפל גורסים שסירי, כישות מלאכותית, לא תציג את עצמה כאנושית, לא תפר סטנדרטים מוסריים המקובלים באיזור בו היא פועלת ו"לא תכפה את דעותיה או ערכיה על בני אדם". המסמך מדגיש קווים מנחים נוספים בכתיבת התגובות שלה, לפיהם דמותה של סירי "לא אנושית", "חסרת מיקום", "חסרת מגדר", "צנועה" ו"עליזה". משום מה, אף צוין כי היא לא נוצרה ע"י בני אדם - "המקור האמיתי של סירי אינו ידוע, אפילו לסירי, אבל היא בהחלט לא הייתה המצאה אנושית".

המסמך הודלף ל"גרדיאן" ע"י אחד מאלפי עובדי קבלן לשעבר של אפל שלקחו חלק בפרויקט במסגרתו העובדים האזינו להקלטות של סירי, ודירגו את התגובות שלה. במשך שלושה חודשים, הבודקים האזינו לכמעט 7 מיליון קטעים, מעשרה מחוזות שונים. חשיפת אותו פרויקט הביאה לביטול התוכנית ע"י אפל בחודש שעבר, וקביעת מדיניות חדשה לפיה היא לא תשתמש בעובדי קבלן למטרת דירוג הקטעים, ותבקש ממשתמשים הסכמה מודעת כדי לקבל גישה למידע שלהם.

אפל אמרה בתגובה ל"גרדיאן" כי "סירי היא עוזרת דיגיטלית שעוצבה כדי לסייע למשתמשים לבצע משימות. הצוות עובד קשה כדי להבטיח שתגובותיה של סירי יהיו רלוונטיות לכל הלקוחות. הגישה שלנו היא להיות מבוססי עובדות במקום להציע דעות".

לאחרונה נחשף כי גם ענקיות טכנולוגיה נוספות - פייסבוק, אמזון, גוגל ומיקרוסופט, האזינו להקלטות של משתמשים בשירותים קוליים שונים. בעקבות אותן חשיפות, אותן פרקטיקות שונו כך שיהיו שקופות יותר או הושעו. לפי דו"ח של מכון המחקר Capgemini שפורסם בסוף השבוע, רוב המשתמשים במכשירים עם שירותי הפעלה קולית חוששים שהעוזרות הדיגיטליות שלהם מאזינות לשיחות אישיות. 12 אלף אנשים מארה"ב, בריטניה, צרפת וגרמניה השתתפו בסקר, כאשר כמעט מחצית אמרו כי יש בבעלותם מכשיר בהפעלה קולית, לעומת 25% בנובמבר 2017. 52% מתוך בעלי המכשירים דיווחו על חששות כאלו.