נחשף סרטון פנימי של גוגל שדן בהנדסה חברתית מבוססת דאטה

סרטון של חברת המחקר X, חברה אחות של גוגל, שנועד לשימוש פנימי בלבד, מציג קונספט עתידני שנוי במחלוקת בו הדאטה שגוגל אוספת על כלל משתמשיה נאגר ומנותח לאורך דורות רבים ואף משמש להנדסת החברה האנושית. הסרטון משנת 2016 שנחשף לאחרונה באתר The Verge מתחיל בהסבר, "כשאנחנו משתמשים בטכנולוגיה מודרנית אנחנו משאירים אחרינו שובל מידע. ניתוח שלו מתאר את הפעולות, ההחלטות, ההעדפות, התנועות ומערכות היחסים שלנו".

לאחר מכן הסרטון מעלה שאלה שגורמת, לכל הפחות, לאי נוחות - מה אם אנחנו לא הבעלים של המידע שנאסף עלינו, ובמקום לחשוב על עצמנו ככאלה, עלינו לאפשר להשתמש בו למען "טובת הכלל". בשלב ראשון הסרטון מציע פיצ'ר שנשמע מעניין, וקל יחסית לעיכול - מערכת של גוגל שתעסוק בערכים מסוימים כמו שמירה על הסביבה או הבריאות. המשתמש יבחר מטרה מסוימת, ואחריה כל אינטראקציה של המשתמש עם המכשיר תציג לו אלטרנטיבות שיקרבו אותו למטרה. למשל, במקרה שהמשתמש רוצה לשמור על הסביבה, כשהוא יכנס לאפליקציית אובר, מערכת גוגל תציע לו להשתמש בקארפול במקום בנסיעה פרטית, אופציה סביבתית יותר.

אלא שבשלב הבא החזון המוצג בסרטון כבר הופך לרדיקלי יותר. כך, מערכת הבינה המלאכותית יכולה להבין שחסר לה נתון מסוים על המשתמש, ולעשות פעולות אקטיביות מרחיקות לכת כדי לאסוף את אותו פרט מידע. בסרטון, למערכת חסר מידע על משקל הגוף של המשתמש, וכדי להשיג את הנתון, המערכת מעצבת משקל ביתי לפי ההעדפות של המשתמש שידועות לה, מדפיסה את המשקל במדפסת תלת מימד ומציעה לו לרכוש אותו - כל זאת כדי שתוכל להוסיף את הנתון על משקל גופו לבנק הנתונים שלה אודות המשתמש.

בשלב שלישי, נאמר בסרטון כי כמות הדאטה העצומה שתיאסף על כל משתמש תישמר גם לאחר מותו, וככל שיאספו יותר נתונים על יותר משתמשים, התובנות יסייעו לצפות התנהגויות והחלטות של משתמשים חדשים. אוסף כזה, לפי אותו חזון, יהיה בעל משמעות חברתית אדירה מכיוון שיסייע להגיע לתובנות על נושאים כמו דכאון או עוני, ולעצב את החברה בהתאם. ההשוואה המוצגת בין מיפוי הגנום האנושי למיפוי ההתנהגות האנושית, כדי להסיק תובנות רצויות מהמידע.

מוצרים שונים של גוגל כמו העוזרת האישית כבר מציעים למשתמשים הצעות שונות בהתבסס על הדאטה שאספו עליהם. הסרטון שנחשף לא דן בסוגיות פרטיות או בהשפעות שליליות אפשריות של מערכת כמו זו שמוצגת בו ואף לא עולה בו השאלה האם זה מתפקידו של תאגיד עוצמתי לאסוף על המשתמשים דאטה אישי כל כך, או להתיימר לפתור בעיות חברתיות אקוטיות וכמה פעולות כאלה יגבירו את כוחו?

לפי חברת X, מטרת הסרטון הייתה לעורר דיון על האפשרויות של שימוש בדאטה. "אנחנו מבינים אם זה נראה מטריד, זה אמור להיות מטריד" נמסר מ-X ל-The Verge לגבי הסרטון שנחשף. "זה ניסוי מחשבתי בו השתמשנו בטכניקה בשם עיצוב ספקולטיבי (speculative design) באמצעותה חוקרים רעיונות שמעוררים אי נוחות כדי לעורר דיון וויכוח" אמרו ב-X והבהירו כי "זה לא קשור למוצרים שלנו בהווה או בעתיד".