על מדינות העולם לגבש חוקים נוקשים בנוגע להפעלת "רובוטים קטלניים" – כלי נשק אוטונומיים שיכולים להתנקש בבני אדם ללא מעורבות אנושית. זה המסר שמבקש להעביר בכיר בארגון הצלב האדום, על רקע חששות אתיים גוברים מפני השימוש בטכנולוגיה כזו במלחמות בעתיד.
אמנם צבאות העולם משתמשים כבר עשרות שנים במערכות נשק אוטונומיות למחצה, מרחפנים עד טנקים, כדי לנטרל מטרות – אולם בכל המקרים עד כה היה אדם שאחראי על הפעלתן. עם ההתפתחות המהירה של בינה מלאכותית, גוברים החששות בקרב ארגונים הומניטריים מפני השימוש בטכנולוגיה שתוכל לקבל בעצמה הכרעות הריגה.
איב דאקור, מזכ"ל המועצה הבינלאומית של הצלב האדום (ICRC), אמר שהנושא יהפוך לקריטי בשנים הקרובות מכיוון שהוא מעורר שאלות אתיות בנוגע להאצלת האחריות להחלטות קטלניות למכונות. "יהיו לנו כלי נשק שטסים ללא הפעלה מרחוק ותהיה להם די חוכמה כדי לאתר מטרה ולהחליט אם זהו האדם הנכון לנטרל", אמר דאקור בריאיון לתומסון רויטרס, זרוע הצדקה של סוכנות הידיעות העולמית רויטרס. "לא יהיה בן אדם שמקבל את ההחלטה, אלא רק המכונה בעצמה – העולם יאציל בעצם את האחריות לאלגוריתם, שיחליט מי אויב ומי לא, מי יחיה ומי ימות".
ארגון הצלב האדום הוביל לאימוצן של ארבע אמנות ז'נבה, שביססו את החוק ההומניטרי הבינלאומי משנת 1949. מאז, הוא מפציר בממשלות להתאים את החוק הבינלאומי לשינויים המתרחשים בעולם, ובמיוחד להתפתחויות בלוחמה המודרנית, כדי לספק הגנה וסיוע אפקטיביים יותר לקורבנות סכסוכים.
לפי סקר בינלאומי של יומן רייטס ווטש ו"הקמפיין לעצירת רובוטים קטלניים", קואליציה בינלאומית של עמותות, שישה מכל עשרה אנשים מתנגדים לפיתוח נשק קטלני אוטונומי לחלוטין. בסקר השתתפו 18,795 בני אדם ב־26 מדינות, ובהן ברזיל, הודו, ארה"ב, בריטניה, סין, דרום־אפריקה, יפן וישראל.
לדברי דאקור, כלי נשק אוטונומיים חוצים גבול מוסרי מכיוון שלמכונות אין תכונות אנושיות כמו רחמים שיסייעו להן לקבל החלטות מוסריות מורכבות. הוא הוסיף שאין להן השיקול האנושי להחליט אם תקיפה היא תגובה מידתית; להבדיל בין אזרחים ללוחמים; ולפעול לפי עקרונות היסוד של החוק ההומניטרי הבינלאומי.
עניין הרובוטים הקטלניים מפלג גופים הומניטריים. מזכ"ל האו"ם אנטוניו גוטרש קרא לחרם מלא על הטכנולוגיה, בעוד ארגונים כמו הצלב האדום מצדדים רק ברגולציה קשוחה. "אנחנו לא צריכים לנסות להחרים את הטכנולוגיה הזו, אך אני חושב שאנחנו צריכים לשמר רמה של שליטה אנושית על כלי נשק כאלו. המשמעות היא שבכל פעם שהם פועלים, בן אדם יוכל להתערב", אמר דאקור. "כיום עוד לא הוגדרו כללי השימוש בכלי נשק כאלו, ולכן עלינו לפעול ליצירת שפה משותפת בין המדינות וליצירת חוקים".
לפי הצלב האדום, חוקים כאלו יתייחסו לנושאים כמו הגדרת נשק אוטונומי, רמת הפיקוח האנושי על כלי נשק כאלה – היכולת להתערב ולנטרל אותם במקרה הצורך, למשל – וכן התנאים המבצעיים לשימוש בהם. תומכי הנשק האוטונומי טוענים שהטכנולוגיה תהפוך את המלחמה להומנית יותר. לדבריהם, הם ידייקו בקביעת מטרות ונטרולן, לא ייכנעו לרגשות אנושיים כמו פחד או נקמה, וימזערו את מקרי המוות של אזרחים.
אך לדברי דאקור, מכונות כאלה יכולות גם לטעות או להתקלקל, ואז תעלה שאלת זהות האחראי. "על פי המשפט ההומניטרי הבינלאומי, ניתן להטיל אחריות על אדם שהפעיל נשק כגון מזל"ט מרחוק, אולם עם נשק אוטונומי אנחנו עוברים לשטח חדש. מתנהל תהליך בעניין, אבל אנחנו צריכים לאחד את המדינות כדי שיסכימו על טקסט משותף, וזה לא קל. מוטב שהן יתחילו כבר עכשיו לנהל מו"מ ויגיעו להסכם, מאשר שיחכו לאסון גדול".
תרגום: אלחנן שפייזר
