ארגוני זכויות אדם לאמזון: תפסיקי לפתח מערכות זיהוי פנים

מעל 30 ארגוני זכויות אדם דורשים מענקית הטכנולוגיה אמזון להפסיק לפתח מערכות זיהוי פנים עבור רשויות חוק ולהפסיק לסייע להן להשתמש בהן. המכתב פורסם לאחר שארגון ACLU (האיגוד האמריקאי לחירויות אזרחיות) השתמש בחוק חופש המידע וחשף התכתבויות פנימיות על המערכת, שנקראת Rekognition ופועלת כיום באורלנדו ובמחוז וושינגטון שבאורגון.

המערכת, שמשתמשת בשירותי הענן של אמזון (AWS), יכולה לזהות עד 100 אנשים בכל תמונה ולהשוות את האינפורמציה שסרקה עם מאגרי מידע שבהם עשרות מיליוני פרצופים. היא יכולה להתאים לזיהוי אינדיבידואלים בתמונות קבוצתיות, אירועים מרובי משתתפים, ומקומות ציבוריים כגון שדות תעופה. לפי ACLU, מחוז וושינגטון בנה מאגר של 300 אלף תמונות מעצר כדי להשתמש בהן במערכת. במחוז בנו גם אפליקציה לסלולרי דרכה עובדיה יוכלו להשתמש במערכת. המחוז אף יכול לספק לאמזון פידבק שיסייע לה לשנות את המוצר. באימייל פנימי נכתב כי במחוז וושינגטון משתמשים במערכת כדי לחפש ולזהות חשודים לא ידועים במעשי גניבה, אנשים שנפטרו או שאיבדו הכרה ועוד.

ACLU מזהיר מפני מוצר בו ניתן להשתמש להפרת זכויות אדם. בארגון הביעו חשש בין היתר מהיכולת של המשטרה לזהות מפגינים, לנטר מהגרים ולעקוב אחרי אוכלוסיות מיעוטים. הארגון ציין גם כי במחוז וושינגטון החלו להשתמש במערכת למרות שעובדים העלו חששות לגביה. עוד כתבו כי רשויות החוק בקליפורניה ואריזונה יצרו קשר עם מחוז וושינגטון והתעניינו במערכת.

"אנשים צריכים להיות חופשיים ללכת ברחוב מבלי שהמשטר יצפה בהם. אוטומציה של בילוש ומערכות זיהוי פנים כאלה מאימות על החירות הזו, ומאיימות במיוחד על קהילות שכבר מהוות יעד עבור המשטרה באקלים הפוליטי הנוכחי. נזק של מערכות כאלה יהיה קשה מאוד לביטול", נכתב באתר הארגון.

במכתב שנשלח לאמזון כתבו הארגונים כי "המוצר הזה מאיים על הכבוד שאמזון עבדה קשה כדי לבנות". הארגונים פנו לאמזון בצורה נחרצת - "אנחנו דורשים שאמזון תפסיק להניע תשתיות בילוש ממשלתיות שמהוות איום ללקוחות וקהילות ברחבי המדינה".

ג'ף טלבוט, קצין המידע הציבורי במשטרת מחוז וושינגטון אמר ל-CNN כי "התאמה במערכת זיהוי הפנים לבדה לא מהווה עילה לעצור חשוד" והוסיף כי התמונות בהן המערכת משתמשת הושגו בצורה חוקית.

אמזון פרסמה הצהרה בתגובה למכתב שבה נכתב כי "איכות החיים שלנו תהיה גרועה בהרבה אם היינו מוציאים מחוץ לחוק טכנולוגיות חדשות מכיוון שחלק מהאנשים היו מנצלים אותה לרעה. אם אנחנו מוצאים לקוח שניצל לרעה את שירותי AWS אנחנו משעים אותו משימוש בשירותים שלנו". בנוסף, נמסר מאמזון כי ניתן להשתמש בטכנולוגיה שלהם למטרות מגוונות. בין היתר בעבר נעשה בה שימוש כדי למצוא ילדים שהלכו לאיבוד, ובסוף השבוע השתמשו בה כדי לזהות אורחים בחתונה המלכותית. עוד צוין כי יש לטכנולוגיה פוטנציאל אדיר למלחמה בפשע בעתיד.