בשבוע שעבר, בדרך חזרה הביתה, האזנתי להסכת. תכלס, בינינו, אני לא באמת מקשיבה, אני שמה אותו כי יש לי כמעט שעתיים נסיעה בכל פעם וכי כל אחד צריך לעקוב אחרי איזה פודקאסט אקטואלי כדי לשלוף את העובדה הזו בארוחת שבת. כך שיצא שהחבר'ה באולפן מלמלו ואני הפלגתי עם המחשבות שלי. בין מחשבה למחשבה, שמעתי את המשפט הבא: "אוקראינה נלחמת בעזרת בינה מלאכותית…" הקשב שלי התחדד, "חברת 'קלירוויו' תרמה את טכנולוגיית זיהוי הפנים שלה לצבא האוקראיני…"
קלירוויו (Clearview AI), כך מתברר, היא חברה פרטית העומדת מאחורי טכנולוגיה מבוססת בינה מלאכותית לזיהוי פנים. לפי מייסד קלירוויו הואן טון־ת'אט החברה סרקה עד כה מעל לעשרה מיליארד תמונות מחשבונות שונים ברשתות החברתיות. כך, ברגע שנרצה לזהות אדם מסוים, נצטרך פשוט לפתוח את האפליקציה ולסרוק את פניו של פלוני. הסריקה תעבור הצלבה במאגר התמונות העצום של החברה, ואם קיבלנו התאמה – בום, פלוני הוא כבר לא אלמוני.
אי שם, לא רחוק מאיתנו, מתחוללת מלחמה באירופה. היא אכזרית כדרכן של מלחמות ואף הפתיעה את העולם עם מראות ישנים לכאורה, ערים מופגזות שעולות באש. אבל פתאום אנחנו קופצים קדימה בזמן לפרק של מראה שחורה (או לפחות לפרק פוטנציאלי). בתור אחד מהגורמים הרבים שמסייעים לאוקראינה בלחימה, קלירוויו סרקה מעל לשני מיליארד תמונות מחשבונות רוסיים ברשתות החברתיות וריכזה אותן למאגר אחד. את המאגר הזה היא העניקה לאוקראינים ביחד עם האפליקציה שלה, כך שיוכלו לזהות אזרחים רוסים המבקשים לעבור גבולות או חיילים שבויים.
אבל זה לא הכול – כאן נכנס השוס הגדול: הטכנולוגיה מאפשרת לאוקראינים גם לזהות את המתים. כן כן, בניגוד לטכנולוגיות זיהוי הפנים במכשירים החכמים שלנו (שם קיימים חיישני תנועה שיכשילו ניסיונות זיהוי פנים של מתים), הטכנולוגיה עובדת גם על פניו של אדם מת ומקילה על פעולת הזיהוי גם במקרה של פנים פצועות.
נשמע מגניב וחדשני, נכון? נו, מראה שחורה כזה. רק שהטכנולוגיה הזו מפוקפקת, אפילו מפוקפקת מאוד. נתחיל מכך שטכנולוגיה היא בסופו של דבר רק טכנולוגיה, וכמו כל אחת כזו גם לה בטח יהיו טעויות. גם היא תזהה לפעמים את הדמויות בצורה שגויה. מספיק לחשוב על שני אנשים דומים, שאחד מהם הוא מפקד בכיר בצבא הרוסי, בזמן שהשני הוא אזרח פשוט שאולי רק מגדל תירס למחייתו. טעויות טכנולוגיות הן לגיטימיות, הן פשוט מפחידות הרבה יותר כשמיישמים את הטכנולוגיה בזמנים ובמרחבים של מלחמה. טעויות מהסוג הזה עלולות להביא למוות של חפים מפשע ולהסלמה בשטח. תוצאה שלא בטוח שאוקראינה רוצה בה, וכנראה גם לא קלירוויו.
קלירוויו מנסה להרגיע כאן. היא טוענת שקיימת הקפדה דקדקנית שלא להפר את כללי אמנת ז'נבה, שהטכנולוגיה שלה אינה מנגנון הזיהוי היחיד בשטח וכי החיילים עברו הכשרה לשימוש נכון בטכנולוגיה – למעשה, כל חייל או מפקד המבקשים להשתמש בטכנולוגיית זיהוי הפנים נדרשים להזין את מספר המקרה ואת הסיבה לניסיון הזיהוי. האם די בכך כדי למנוע טעויות בזיהוי? תגידו אתם.
ואם כל זה אינו מספיק, מוסריות השימוש בטכנולוגיה של קלירוויו לא מתחילה ונגמרת בטעויות זיהוי פוטנציאליות. החברה מתמודדת עם מספר תביעות בעניין פגיעה והפרת פרטיות. בכל זאת, לא בטוח שחייל רוסי חשב שישתמשו בתמונה שלו מהחופשה עם אשתו באיטליה לצרכים טקטיים של האויב.
חברת "מטא" (ההיא של פייסבוק), אגב, דרשה שיפסיקו להשתמש בתמונות שמתפרסמות אצלה בפלטפורמה. אבל אם היא אף פעם לא יוצאת נגד הפרת זכויות יוצרים אצלה ומפקיעה כמעט לגמרי את התכנים שעולים שם, למה שמישהו יקשיב לה הפעם?
העתיד כבר כאן, מלחמות מערבות בין טנקים שיורים פגזים לבינה מלאכותית שסורקת גופות חיילים. היכן עוברים הקווים המוסריים והחוקיים של הדברים? מן הסתם לא נוכל להכריע. כנראה צדק צ'רצ'יל כשאמר שזו אפילו לא תחילתו של הסוף.
לתגובות, המלצות, משחקים (וספוילרים לעונה האחרונה של "סמוך על סול") שגרו לנו מייל: digital.makor@gmail.com
