הדרך לשיפור הרמקולים החכמים רצופה פגיעות בפרטיות המשתמשים

בשנה-שנתיים האחרונות הולכת וגוברת המודעות לפגיעה בפרטיות של משתמשים בפלטפורמות שמפתחות חברות טכנולוגיה - מרשתות חברתיות ועד מנועי חיפוש. רק בסוף השבוע האחרון פורסם כי פייסבוק נקנסה ב-5 מיליארד דולר בגין פרשת קיימברידג' אנליטיקה, שכללה שימוש של חברת ייעוץ פוליטי במידע של 87 מיליון משתמשים.

דרך ההתמודדות עם פגיעה בפרטיות של מידע טקסטואלי עדיין לא ברורה, והעולם הטכנולוגי מתמודד עם אתגרים נוספים בנושא - הפעם בנוגע למידע קולי. בסוף השבוע הודתה חברת גוגל בפוסט בבלוג הרשמי שלה כי עובדי קבלן שהועסקו עבור החברה מסביב לעולם מאזינים להקלטות של משתמשים בעוזר הווירטואלי של החברה, גוגל אסיסטנט. ההודאה פורסמה בעקבות דיווח של רשת הטלוויזיה הבלגית הציבורית VRT NWS, שחשף את הסיפור. הפרקטיקה אותה מבצעת גוגל מציפה שוב את המתח המובנה בין הרצון לשפר את השירותים הקוליים לבין הפגיעה הנגרמת לפרטיות המשתמשים.

בדיווח של הרשת הבלגית תואר כיצד אלפי עובדי קבלן מאזינים ומתמללים קטעי קול של שיחות שאנשים ביצעו עם גוגל אסיסטנט, בין אם אלו התבצעו באמצעות הרמקולים החכמים של החברה, גוגל הום, או על-ידי מכשירי אנדרואיד שברשותם. אחד מאותם עובדים העביר לכלי התקשורת הבלגי אלף קטעי קול של משתמשים אותם נדרש לתמלל. העובדים מתחברים למערכת בה נמצאים קטעי הקול בצורה מאובטחת, והיא אינה נגישה לכל אדם. אולם בעוד שגוגל מחקה את שמות המשתמשים מהם נאספו קטעי הקול, והחליפה אותם במספר סדרתי כדי שעובדי הקבלן לא יצליחו לזהות במי מדובר, באותן הקלטות מצוינים לעתים פרטים אישיים על המשתמשים - כמו שמותיהם ואף הכתובות שלהם.

עוד עולה מהדיווח כי 150 מתוך 1,000 ההקלטות שהודלפו הוקלטו במקרה, כלומר מבלי שנאמרו הפקודות הקוליות "אוקיי גוגל" או "היי גוגל" שנועדו להפעיל את העוזר הקולי, ובכך למעשה מתבצעת חדירה עוד יותר בוטה למרחב הפרטי של המשתמשים. בהקלטות מסוימות המשתמשים אף דיברו על נושאים אישיים במיוחד כמו מצבים רפואיים, ובהקלטה אחרת נשמעה אישה שנמצאת במצוקה.

"חלק מהותי בפיתוח טכנולוגיית דיבור"

גוגל טענה בפוסט כי מי שמאזין להקלטות הם מומחים לשפות, וכי מטרת הפרקטיקה היא לשפר את ההבנה של טכנולוגיית הבינה המלאכותית לשפות שונות, מבטאים וניבים, וכן ללמוד על התנהגות המשתמשים, לשפר את האלגוריתם וחוויית המשתמש. "זהו חלק מהותי בתהליך פיתוח טכנולוגיית דיבור, ונחוץ כדי לייצר מוצרים כמו גוגל אסיסטנט", נכתב בפוסט. גוגל הוסיפה כי רק 0.2% מקטעי האודיו שמוקלטים על-ידי גוגל אסיסטנט מועברים לאותם מאזינים, וכי ניתנת להם הוראה שלא לתמלל שיחות רקע וקולות נוספים שנקלטים בקטעי האודיו, אלא רק את מה שהמשתמשים אומרים לאסיסטנט. עוד תואר בפוסט כי למשתמשים יש יכולת לבחור שלא לתת לגוגל לשמור את הדאטה הקולי שלהם, ובכך להימנע ממצבים כאלה.

לאחר שהגנה על הפרקטיקה ועל נחיצותה, החברה אף האשימה את עובד הקבלן שהדליף את קטעי האודיו לעיתונאים על הפרה של מדיניות אבטחת המידע של החברה, וציינה כי היא חוקרת את הנושא.

גוגל אינה החברה היחידה שפועלת באופן זה. באפריל פורסם ב"בלומברג" כי עובדי אמזון מאזינים להקלטות מהרמקולים החכמים של אמזון, אקו, במטרה לשפר את ההבנה של העוזרת הווירטואלית אלכסה ואת האופן בו היא מגיבה לשאלות ופקודות. המתח בין הצורך בשיפור השירות להגנה על פרטיות קיים גם לגבי אמזון, ובעיקר כשמדובר על קהל פגיע כמו ילדים: בחודש מאי הגישה קבוצת ארגונים למען פרטיות ושמירה על זכויות ילדים תלונה לרגולטורים פדרליים נגד אמזון, בשל שמירה של שיחות שילדים ביצעו עם הרמקול החכם אקו דוט קידס. בסוף השבוע, כאשר פורסם כי אמזון תחל בשיתוף פעולה עם שירות הבריאות הציבורי הבריטי לאספקת דאטה רפואי למשתמשי אלכסה, עלו חששות מכך שעובדי החברה עשויים להאזין לדברים הרגישים של משתמשים שידברו על מצבים רפואיים.

החששות מפגיעה בפרטיות גם משפיעים על הרכישה של מוצרים חכמים עם הפעלה קולית. לפי הערכות של חברת המחקר Futuresource Consulting שפורסמו ב"וול סטריט ג'ורנל", בשנה שעברה נמכרו מעל 53 מיליון רמקולים חכמים בעולם, והצפי הוא שהמספר יצמח ל-81 מיליון יחידות השנה. למרות הצמיחה המרשימה, סימון בריינט, מנהל מחקר בחברה, אמר ל"וול סטריט ג'ורנל" כי השוק למערכות שנשלטות באופן קולי, כמו מכשירי בית חכם, טלוויזיות ומכוניות, לא צומח במהירות לה ציפו בתעשייה, בין היתר בשל החששות של משתמשים לגבי פרטיותם.

אפל במוקד של שערוריית פרטיות

בתוך כך, גם חברת אפל מצאה את עצמה בסוף השבוע בליבה של שערוריית פרטיות. זאת בעוד שאפל מנסה למתג את עצמה כחברה ששומרת על פרטיות המשתמשים, מגנה על הדאטה שלהם, מציבה את עצמה בניגוד לחברות כמו גוגל ופייסבוק - שאיסוף מידע על המשתמשים עומד בלב המודל הכלכלי שלהן, ואף מבקרת אותן. אך בעוד שגוגל עומדת מאחורי הפרקטיקות שנחשפו, אצל אפל נמצאה תקלה שגרמה לה להפסיק פעילות של אפליקציה באופן זמני.

האפליקציה במרכז התקרית היא הווקי-טוקי בשעון החכם אפל ווטש, שהושקה לפני מספר חודשים כדי לאפשר למשתמשים לתקשר באמצעות צ'ט קולי. פגם אבטחה באפליקציה עשוי לאפשר לאנשים להאזין לאייפונים של משתמשי האפליקציה ללא הסכמתם, ואפל בחרה כאמור להפסיק את פעילות האפליקציה עד שתצליח לתקן את הפגם. אפל לא פירטה אודות הפגם, אך אמרה כי לא ידוע לה על מקרה בו אכן נוצל ופגע במשתמש. החברה הוסיפה כי למדה על פגם האבטחה באמצעות פורטל אונליין בו לקוחות יכולים לדווח על בעיות במוצרי אפל.

התגובה המהירה של אפל לדיווח בפורטל עומדת בניגוד לאופן בו החברה התמודדה עם באג שהתגלה אצלה בינואר, וסיכן גם הוא את פרטיות המשתמשים, כשאפשר למשתמשים בווידיאו צ'ט להאזין למשתמשים אליהם התקשרו, גם אם הם לא ענו לשיחה. באותו מקרה הבעיה דווחה יותר משבוע לפני שטופלה. ככל הנראה השינוי במהירות התגובה נוגע לאותה אווירה ציבורית כללית בה ענקיות הטכנולוגיה מתמודדות עם ביקורת רבה לגבי פרקטיקות הגנת הדאטה שלהן ועוצמתן הרבה בשוק, ומשתמשים ממהרים לשפוט אותן לחומרה.