אימת העתיד: טכנולוגיית AI ‏זיהוי פנים הובילה למעצר שווא של אישה בחודש ה-8 להריונה לעיני ילדיה

‏משטרת דטרויט (DPD) נמצאת תחת חקירה לאחר שעצרה שלא כדין אישה חפה מפשע בחודש השמיני להריונה בגלל התאמה פגומה של פניה למערכת זיהוי פנים AI.

הטכנולוגיה המונעת על ידי בינה מלאכותית הצביעה בטעות על האישה בהריון מתקדם כחשודה בחקירת שוד וחטיפת רכב, האשמות שהפכו אבסורדיות בגלל מצבה הפיזי בזמן הפשע.‏

‏הקורבן, פורצ'ה וודרוף, שהייתה אז בחודש השמיני להריונה, היא האדם השישי שהתייצב ודיווח כי הואשם באופן שגוי בפשע בגלל הטכנולוגיה השנויה במחלוקת המשמשת את רשויות אכיפת החוק.‏

‏וודרוף הואשמה בשוד ובחטיפת רכב, האשמות שנראו לה אבסורדיות בהתחשב בהריונה המתקדם.

על פי הדיווחים, היא הביעה את חוסר אמונתה בפני השוטרים שעצרוה, הצביעה על בטנה ההריונית, ושאלה "אתם צוחקים?".‏

‏תקרית זו היא חלק מדפוס מדאיג של מעצרים פסולים הקשורים לטכנולוגיית זיהוי פנים.

המקרה של וודרוף משמעותי במיוחד מכיוון שהיא האישה הראשונה שמדווחת על אירוע כזה.‏

 

עד עתה, ‏זהו המקרה השלישי הידוע של מעצר לא חוקי בשלוש השנים האחרונות, המיוחס באופן ספציפי להסתמכות של ה-DPD על התאמות פנים לא מדויקות.

רוברט וויליאמס, המיוצג על ידי ה-ACLU של מישיגן ויוזמת הליטיגציה לזכויות האזרח של בית הספר למשפטים של אוניברסיטת מישיגן (CRLI), מנהל כעת תביעה נגד ה-DPD בגין מעצרו הלא חוקי בינואר 2020 עקב טעויות דומות.‏

‏פיל מאיור, פרקליט בכיר ב-ACLU של מישיגן, הביע דאגה עמוקה מהמשך השימוש של ה-DPD בטכנולוגיית זיהוי פנים בשל השלכותיה ההרסניות.

הוא הדגיש כי ניסיונה המצער של גב' וודרוף מדגיש את הצורך הדחוף של המחלקה להפסיק את השימוש בטכנולוגיה זו.‏

‏"זה מדאיג מאוד שמשטרת דטרויט יודעת את ההשלכות ההרסניות של שימוש בטכנולוגיית זיהוי פנים פגומה כבסיס למעצר של מישהו וממשיכה להסתמך עליה בכל מקרה", אמר מאיור.

"כפי שממחיש ניסיונה המחריד של גב' וודרוף, השימוש של המחלקה בטכנולוגיה זו חייב להסתיים".‏

‏הפריסה של טכנולוגיית זיהוי פנים היא נושא לדיון מתמשך, כאשר מבקרים העלו חששות לגבי דיוק, הטיה גזעית, והפרות פוטנציאליות של פרטיות וחירויות אזרח.

המבקרים טוענים כי הסתמכות על זיהוי פנים בלבד לצורך מעצרים מהווה סיכון משמעותי ויכולות להיות לה השלכות חמורות על אנשים חפים מפשע, כפי שהודגם במקרה של וודרוף.

הקריאות לשקיפות ולאחריותיות מתגברות, וארגוני זכויות אזרח דוחקים ב-DPD להשעות את השימוש בזיהוי פנים עד שהטכנולוגיה תיבחן ביסודיות ותוכח כבלתי משוחדת ומדויקת.‏