האם האלגוריתם מאחורי כרטיס האשראי של אפל מפלה נשים?

מחלקת השירותים הפיננסיים של ניו יורק פתחה בחקירה נגד בנק גולדמן זאקס, במרכזה נמצא כרטיס האשראי שהבנק הוציא בשיתוף פעולה עם ענקית הטכנולוגיה - אפל קארד. מטרת החקירה היא לבחון האם האופן בו נקבעת מסגרת כרטיס האשראי למשתמשי אפל קארד מפלה נגד נשים, והיא נפתחה בעקבות ציוץ של היזם דיוויד היינמייר הנסון, מייסד חברת הטכנולוגיה Basecamp, מסוף השבוע. לדברי הנסון, הוענקה לו מסגרת אשראי גבוהה פי 20 לעומת אשתו באפל קארד, למרות שדירוג האשראי שלה גבוה יותר.

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.

- DHH (@dhh) 7 בנובמבר 2019

הציוץ זכה למעל 4,300 ציוצים מחדש, ואחת התגובות הגיעה גם מהמייסד השותף של אפל, סטיב ווזניאק, שסיפר על חוויה דומה. "קרה לנו אותו דבר", כתב ווזניאק, והוסיף כי קיבל מסגרת אשראי "גבוהה פי עשר" משל אשתו, למרות שלזוג "אין חשבון בנק נפרד, חשבונות אשראי או נכסים נפרדים".

מחלקת השירותים הפיננסיים של ניו יורק מסרה ל"בלומברג" כי החקירה תוודא שכל לקוחות אפל קארד מקבלים טיפול שווה, והאם קיימות הפרות חוק כלשהן, מאחר שהטיות שנגרמות כתוצאה מאופן פעולה של אלגוריתם מפרות את החוק בניו יורק. מגולדמן זאקס נמסר לבלומברג כי החלטות הנוגעות לאשראי הן ענייניות ולא מתבססות על גורמים כמו "מגדר, גזע, גיל, אוריינטציה מינית או כל מאפיין אחר שאסור בחוק".

אפל קארד הוא חלק מההרחבה של תחום השירותים באפל, וכרטיס האשראי הראשון של גולדמן זאקס. לפני התקרית, שתי החברות הצהירו כי השקת אפל קארד הייתה ההשקה המוצלחת ביותר אי פעם של כרטיס אשראי בארה"ב.