קרוב ל-20 קבוצות שונות של בעלי מניות באמזון לוחצים על ענקית הסחר האינטרנטי אמזון להפסיק למכור את טכנולוגיית זיהוי הפנים המתקדמת שלה לרשויות אכיפת חוק. במכתב משותף שנמסר ליו"ר החברה ג'ף בזוס, כתבו בעלי המניות, שרבים מהם פעילים למען השקעה אחראית-חברתית, כי הם מודאגים מן האפשרות לפגיעה בפרטיות בשל שימוש הרשויות בכלי המתקדם.
התוכנה פחות מדויקת כשמדובר בנשים ובני מיעוטים (צילום: אמזון
התוכנה של אמזון, שהוצגה לראשונה ב-2016 ומכונה Rekognition, מזהה עצמים ופנים בתמונות ובסרטוני וידאו. הלקוחות, הכוללים רשויות לאכיפת חוק בפלורידה ובאורגון, יכולים להזין לתוכנה מאגרי פרצופים כדי לזהות פרצופים מסוימים. כך לדוגמא באורגון, שוטרים זיהו אדם גונב מחנות לכלי בניין. תמונתו הושוותה באופן אוטומטי לאלפי האנשים המצולמים בעת כניסתם לכלא בכל זמן שהוא, וכך זוהה האיש באופן שבעבר היה דורש עבודה ידנית והסתמכות על זיכרונם של שוטרים.
בעלי המניות החתומים על המכתב, בכללם "קבוצת ההון החברתי" ו"קואליציית הצפון-מערב להשקעה אחראית", חוברים לארגונים כמו האגודה לזכויות האזרח (ACLU) במאמץ לגרום לחברה לחדול מלמכור את השירות, תוך שהם מציינים את הסכנה במעקב המוני, האפשרות להפרות זכויות אזרח ואדם, וההשפעה השלילית שיהיו למקרים כאלה על ערך מניית החברה. המשקיעים מצביעים על המכות שספג הערך של מניית פייסבוק בעקבות שערוריות הנוגעות לפרטיות כהמחשה לטענותיהם.
"אנו מודאגים מן האפשרות שהטכנולוגיה תופעל באופן לא הוגן ולא מידתי למעקב אחר לא-לבנים, מהגרים וארגוני חברה אזרחית", כותבים המשקיעים. "אנו מודאגים כי המכירות יתרחבו לממשלות זרות, ובכלל זה משטרים רודניים".
בפוסט שפרסם בבלוג שלו מוקדם יותר החודש כותב מאט ווד, מנכ"ל חטיבת הבינה המלאכותית בשירותי הרשת של אמזון, אמר כי מדיניות החברה אוסרת על שימוש בשירותיה למטרות שאינן חוקיות, מפרות זכויות של אחרים, או עלולות לגרום לפגיעה". עם זאת, כתב ווד, "אנו מאמינים שאיסור על מכירת טכנולוגיות חדשות ומבטיחות, מפני ששחקנים רעים עלולים לעשות בהם שימוש זדוני בעתיד, הוא גישה שגויה. העולם היה מקום שונה מאד היום אם היינו מגבילים רכישה של מחשבים מפני שאפשר להשתמש במחשב כדי להזיק".
באפריל הודיעה אמזון כי תוכנת "רקוגנישן" מדוייקת כעת בעד 25% בזיהוי פרצופים מאשר גרסאות קודמות, אולם לא ברור מה מידת הדיוק הכוללת של התוכנה, רק שהיא טובה מבעבר. "כרגע אין נהלים מומלצים לשימוש בטכנולוגיית זיהוי פנים, וזה צריך להטריד מאד את כולם", אומר אנדרו גאת'רי פרגוסון, פרופסור למשפטים באוניברסיטת קולומביה, ומחבר הספר "עליית משטרת הביג-דאטה", בראיון לרשת CNN.
חושב שהמדיניות הקיימת של אמזון מספיקה ושאין סיבה להימנע ממכירת הטכנולוגיה. ראש חטיבת הבינה המלאכותית של אמזון, מאט ווד (צילום: YouTube)
"דיוק הוא דבר שקשה למדוד", אמר. "האם אנו כחברה מוכנים לקבל 50% זיהוי שגוי, או 20% זיהוי שגוי, כשמדובר בעצירות, מעצרים, או חקירות משטרתיות? התשובה לשאלת הדיוק תגלה מי ימצא את עצמו באזיקים ומי לא". על פי מחקר של אוניברסיטת MIT, מידת הדיוק של תוכנות לזיהוי פנים משתנה, וכולן נוטות לזהות נשים ובני מיעוטים בדיוק מופחת מאשר גברים לבנים.
"לקבל מידע מאמזון ומרשויות ממשלתיות מה הם עושים כדי לוודא שהמוצר הזה לא יגרום נזק לאנשים בקהילות בכל רחבי אמריקה - זה כמו עקירת שיניים", אמר מאט קייגל, פרקליט באגודה לזכויות האזרח. "אנחנו יודעים מעט מאד על מידת הדיוק והיעילות של המערכת של אמזון".
היום שלחו האגודה לזכויות האזרח בצוותא עם קרוב ל-70 ארגונים אזרחיים, בנוסף לזה מבעלי המניות, הקורא לאמזון שלא לספק מערכות מעקב כמו תוכנות לזיהוי פנים לגורמי ממשל. בחודש שעבר שלחו האגודה לזכויות אזרח ו-40 ארגוני פעילים אחרים מכתב אחר לבזוס, בו טענו כי הטכנולוגיה החדישה "דרוכה מוכנה לשימוש לרעה בידי ממשלות" וכי יש לחדול ממכירתה.
על פי המומחים, התקנות בנושא לא עומדות בקצב ההתקדמויות המהירות בתחום טכנולוגיית זיהוי הפנים, המתבססת על בינה מלאכותית. "ההשלכות של אמזון רקוגנישן וכל הטכנולוגיות החדישות לזיהוי פנים הם לא פחות משינוי מאזן הכוחות בין האזרחים למשטרה", אמר פרגוסון. "היכולת לזהות, לנטר ולעקוב אחרי כל אדם ברחבי העיר הוא משהו שהיינו קוראים עליו במדע בדיוני".
