מדוע בינה מלאכותית היא חלק הולך וגדל ממערכת המשפט הפלילי

טכנולוגיית זיהוי פנים נמצאת סביבנו - היא נמצאת בקונצרטים, בשדות תעופה ובבנייני דירות. אבל השימוש בו על ידי רשויות אכיפת חוק ואולמות משפט מעורר דאגות מיוחדות לגבי פרטיות, הוגנות והטיה, לדברי ג'ניפר לינץ', מנהלת ליטיגציה למעקב ב-Electronic Frontier Foundation. כמה מחקרים הראו שחלק ממערכות זיהוי הפנים העיקריות אינן מדויקות.התוכנה של אמזון מזוהה בטעות 28 חברי קונגרס ושידכו אותם לצילומים פליליים. אי דיוקים אלה נוטים להיות הרבה יותר גרוע לבעלי צבע ולנשים.

בינתיים, חברות כמו אמזון, מיקרוסופט ו-IBM מפתחות ומוכרות גם אלגוריתמים של 'זיהוי רגשות', המתיימרים לזהות את הרגשות של אדם על סמך הבעות הפנים והתנועות שלו. אבל מומחים להבעות פנים, כמו ליסה פלדמן בארט, פרופסור לפסיכולוגיה באוניברסיטת Northeastern, מזהירים שזה מאוד לא סביר שהאלגוריתמים האלה יוכלו לזהות רגשות על סמך הבעות פנים ותנועות בלבד.

בינה מלאכותית מופיעה גם באולמות בית המשפט, בצורה של 'הערכות סיכונים' - אלגוריתמים מנבאים אם מישהו נמצא ב'סיכון' גבוה לא להגיע לבית המשפט או להיעצר מחדש. מחקרים מצאו כי אלגוריתמים אלה הם לעתים קרובות לֹא מְדוּיָק ומבוסס על נתונים פגומים.

ולמרות שאנו נוטים לראות במכונות ואלגוריתמים 'נייטרליים לגזע', רוחה בנג'מין, פרופסור ללימודי אפרו-אמריקאים באוניברסיטת פרינסטון, אומרת שהם מתוכנתים על ידי בני אדם ויכולים בסופו של דבר לחזק את ההטיה במקום להסיר אותה מהשיטור והמשפט הפלילי . במקביל, שראד גואל, פרופסור למדעי ניהול והנדסה באוניברסיטת סטנפורד, מפתח כלי להערכת סיכונים שמסביר מקורות שונים להטיה. הוא חושב שיש דרך להשתמש בבינה מלאכותית ככלי לתוצאות שוות יותר במשפט הפלילי.

האורחים האלה מצטרפים לאירה כדי לדבר על האופן שבו AI מנחה את ההחלטות של מחלקות משטרה ואולמות משפט ברחבי הארץ - והאם אנחנו צריכים להיות מודאגים.

זיהוי פנים 101

איך עובדת טכנולוגיית זיהוי הפנים?
חשבו על זיהוי פנים כעל 'טביעת הפנים' שלכם. תוכנת מחשב מנתחת את מבנה הפנים הייחודי שלך, כגון המרחק בין האף לשפתיים שלך, וממפה את המאפיינים העיקריים הללו על גבי תמונה קיימת - או, בדרך כלל, מול מסד נתונים של תמונות קיימות - לשם השוואה. ניתן להשתמש בטכנולוגיה גם 'בזמן אמת'. לדוגמה, מחלקות משטרה מסוימות יכולות לסרוק את פניהם של עוברי אורח באמצעות מצלמת מעקב. עם זאת טביעת הפנים שלך היא פחות מדויק מאשר טביעת אצבע כאשר הטכנולוגיה משמשת בזמן אמת או על מסדי נתונים גדולים.

איך משתמשים בזה?
זיהוי פנים משמש כדי לזהות אותך - וזה יכול להיות הרבה דברים. ה-iPhone X משתמש בטכנולוגיה כדי לפתוח את נעילת הטלפון החכם שלך כאשר אתה פשוט מסתכל על המסך. זיהוי פנים הפך גם לכלי לאכיפת החוק. לאכיפת ההגירה והמכס בארה'ב יש כרה את מסדי הנתונים של DMV של מדינות שמעניקות רישיונות נהיגה למהגרים חסרי תיעוד, והרשויות הסיניות הצליחו לאתר ולעצור גבר בקהל של 60,000 בהופעה. גם מפרסמים החלו לצלול לתוך הטכנולוגיה. עשרות מרכזי קניות ווסטפילד באוסטרליה וניו זילנד משתמשים בדיגיטל שלטי חוצות עם מצלמות משובצות שיכולות לקבוע את גיל הצופים, המין ואפילו מצב הרוח - ויכולות להעלות פרסומות מותאמות תוך שניות.

כמה אנשים נמצאים במאגר מידע לזיהוי פנים?
התשובה הקצרה: הרבה. אבל זה כמעט בלתי אפשרי לקבוע מספר מדויק. עם זאת, אנו יודעים שיש למעלה מ-117 מיליון אנשים ברשתות זיהוי פנים של אכיפת החוק, לפי להגיש תלונה מהמרכז המשפטי של ג'ורג'טאון לפרטיות וטכנולוגיה. בנוסף, משרד האחריות הממשלתית מצא שבתקופה של ארבע שנים ה-FBI נערכו מעל 118,000 חיפושי זיהוי פנים במסד הנתונים שלה, וכן מיקרוסופט סלב - מערך הנתונים הגדול ביותר בעולם לזיהוי פנים - מכיל למעלה מ-10 מיליון תמונות של כמעט 100,000 אנשים.

כיצד אוכל לברר אם אני נמצא באחד מאותם מסדי נתונים?
אתה לא יכול - וכן אחד מכל שני מבוגרים אמריקאים נמצא ברשת לזיהוי פנים של אכיפת החוק. ייתכן שכבר הסכמת שלא ביודעין לפרסום התמונות שהעלית אליהן מדיה חברתית, או אתרי היכרויות . בהתחשב בכמות המפגשים שיש לכולם עם טכנולוגיית זיהוי פנים על בסיס יומיומי, כנראה שאתה כן.

מהן זכויות הפרטיות שלי? והאם ערים או מדינות כלשהן עושות משהו בנידון?
כשזה מגיע לאופן שבו רשויות אכיפת החוק משתמשות בזיהוי פנים, כמה ערים אסרו את הטכנולוגיה, אבל אין תקן לאומי. אבל לקומץ מדינות יש הגבלות מוגבלות על האופן שבו חברות פרטיות יכולות לאסוף ולהשתמש בנתונים לזיהוי פנים. אילינוי הפכה למדינה הראשונה שהעבירה חקיקה הדורשת הסכמה מתקנת מלקוחות על מנת שחברות יאסוף ולאחסן נתונים ביומטריים. טקסס וושינגטון פיתחו חוקים דומים. אבל ה חוק פרטיות המידע הביומטרי של אילינוי (BIPA) היא היחידה שמאפשרת לאנשים פרטיים את הזכות לפנות לתביעה משפטית נגד חברות בגין הפרות. לאחרונה, בית משפט פדרלי קבע שמשתמשים יכולים כעת לתבוע את פייסבוק בגין שימוש בלתי חוקי בטכנולוגיית זיהוי פנים. בנוסף, ה-E.U. מתכנן תקנות גדולות יותר.

לקריאה נוספת:

• קרא את הדוחות המלאים על שימוש בלתי מוסדר של המשטרה בזיהוי פנים , ו בעיות בנתונים ובטכנולוגיה מהמרכז המשפטי של ג'ורג'טאון בנושא פרטיות וטכנולוגיה.
• למידע נוסף על המעורבות של אמזון בפיתוח תוכנת זיהוי פנים לאכיפת החוק.
• לצלול לתוך דוח Pew Research Center על תפיסה ציבורית של טכנולוגיית זיהוי פנים.
• לִלמוֹד כיצד האיחוד האירופי מטפל ברגולציה של נתונים ביומטריים.
• קרא טיעון ב-MIT Technology Review על הסכנות שבשימוש בנתונים היסטוריים להכשרת כלים להערכת סיכונים.
• למידע נוסף על תעשייה של 20 מיליארד דולר של בינה מלאכותית לזיהוי רגשי.