עזה, 2035. חוליית חמאס פלסטינית מתבצרת במרתף של גן ילדים בלב שכונת סג'עייה. בחצר הגן עוד מפוזרות לבנים שבורות, שאריות מהפגזה אווירית של מטוס צה"לי, שפגע בקצה המבנה הסמוך שעה קלה קודם לכן. ההתראה לא הועילה. הילדים המבוהלים לא מורשים לצאת מהמקום, הגננות מושתקות על ידי המחבלים. רגע לפני שמפקד הכוח החמוש משחרר לרשתות החברתיות עוד צילום של ילדים רועדים בשידור חי, קול זמזום צורמני מסיט את תשומת לבו. נחיל של יצורים אלקטרוניים מתקרב לעבר המבנה המבוצר, חומק פנימה במרחב הדק שבין הזכוכית האטומה למסגרת החלון, ומנטרל את נשקם של המחבלים. רגע לפני שהחמאסניקים המבוהלים מרימים ידיים, מצליח אחד הילדים לשים ידו על נשקו של חבר החוליה. היצור האלקטרוני B25 מתוצרת ישראל עומד מול הקטין, מזהה אותו כחמוש, ונדרש לפעולה. קאט.
תתפלאו, אבל במכוני מחקר שונים בארץ ובעולם כבר בוחנים סוגיות כאלו, על אף שלקורא הן נשמעות בעלות ניחוח מדע בדיוני. שילוב של טכנולוגיה מתקדמת ובינה מלאכותית מציב לפתחנו אתגרים מוסריים משמעותיים כבר עכשיו, אולם הם עתידים להתעצם בתוך שנים ספורות. "שדה הקרב העתידי עשוי להכיל סוג מסוים של רובוטים – לאו דווקא בדמות אדם – ועליהם נשק ויכולת לקבל החלטות עצמאיות מבלי שמעורב בכך שום גורם אנושי", מסבירה ד"ר לירן ענתבי. "אותו כלי נשק אוטונומי יוכל להחליט האם לפתוח באש או להפעיל כוח קטלני אחר, והאם להשמיד את עצמו או כלים אחרים – והכול ללא מגע יד אדם או בחינה של מוח אנושי. מטבע הדברים, הסוגיה הזו מעוררת שאלות כבדות שיש לדון בהן – הן מבחינה מוסרית, במישור של מתן עצמאות לכלים חסרי מצפון, והן מצד החשש שיגיעו לידיים הלא נכונות".
כדי להתמודד עם כל אלה נדרשת חשיבה עתידנית מורכבת ופתלתלה, מהסוג שמאפיין את ענתבי, 36, עמיתת מחקר במכון למחקר ביטחון לאומי INSS וחברה ב־IPRAW – הפאנל הבינלאומי לרגולציה של מערכות נשק אוטונומיות. אחת מהרצאותיה המרתקות של ענתבי פותחת בתמונת שחזור הקרב המפורסם בווטרלו, שבו הוכרע שליט צרפת נפוליאון בונפרטה, האיש והאגדה.
"בשדה הקרב הזה אנחנו רואים יותר שדה מאשר קרב", מתארת ענתבי. "כך נראו המלחמות ההיסטוריות: שני כוחות צבאיים נפגשים ונלחמים באזור פתוח. אמנם הם היו עוברים ביישובים מאוכלסים, בוזזים ואונסים, אבל המלחמה לא התרחשה שם. היום לא מעט מהקרבות מתרחשים בתוך אזורי אוכלוסייה צפופים, כשבצד אחד עומדת מדינה, ובצד שמנגד ארגון אלים שהוא תת־מדינתי. רוב הקרבות היום הם א־סימטריים, כאלה שמצד אחד שלהם עומד צבא עוצמתי, ומצד שני גוף קטן בהרבה, מספרית וכלכלית. דווקא משום כך יש לארגון אינטרס למשוך את העימות לתוך אזור מאוכלס, שבו יש לו יתרונות כמו האפשרות להתחבא, השימוש במשאבי האוכלוסייה ובעיקר ניצול העובדה שרוב המדינות הנלחמות הן דמוקרטיות שחוששות לפגוע בחפים מפשע".
כאן נכנס לתמונה מרכיב נוסף – פרדוקס העוצמה. זהו כינוי למציאות שבה אנו רואים שוב ושוב מעצמות שמתקשות להביס ארגונים קטנים, נחותים וחלשים מהן בהרבה. כך הצליחה – אם להפליג לדוגמאות מההיסטוריה הרחוקה שלנו – פלוגת חשמונאים לנצח את צבא יוון המצויד בפילים ובכלי מלחמה כבדים; וכך הצליח מרד בר־כוכבא לבלבל את המעצמה הרומית המשוריינת היטב במשך כשנתיים, עד שהאחרונה התאוששה ושינתה את המגמה.
"זו אכן לא תופעה היסטורית חדשה, אבל הנפח הנוכחי שלה הוא החידוש", מסבירה ענתבי. "במאה הקודמת היו הרבה יותר מלחמות בין מדינות – היו לנו הרי שתי מלחמות עולם עם מעורבות של הרבה מדינות – וזה היה המאפיין המרכזי, אף שגם בתוכן היו מלחמות קטנות וא־סימטריות, כמו המלחמה מול הפרטיזנים. היום המלחמה הא־סימטרית מצויה יותר. אנחנו רואים לדוגמה את ארה"ב וישראל, שמאותגרות פחות מאשר בעבר על ידי מדינות אחרות אבל סובלות באופן כמעט רציף מעימותים מול ארגוני טרור".
האתגר האמיתי הוא בשדה הקרב או במישור המוסרי?
"אכן המדינות הליברליות, שוחרות השלום לכאורה, מתקשות מול אותם ארגונים תת־מדינתיים, מפני שהן לרוב בכלל לא רוצות מלחמה ובטח שלא פגיעה בחפים מפשע. הן נאלצות להילחם בגוף קטן ומתקשות להביס את האויב במחירים נמוכים".
מלחמה בשידור חי
מלחמה א־סימטרית מכניסה שחקן חדש למדד העוצמה הצבאית – הלגיטימציה. השאלה היא עד איזה שלב של הלוחמה בטרור מקבלת המדינה גיבוי, ומתי היא נחשבת כמי שחצתה קווים של אלימות לא נחוצה. בקרב הזה, מבהירה ענתבי, נכנס לזירה נשק חדש – המניפולציה. זו יכולה להופיע, למשל, בצורת שימוש של ארגון טרור במגנים אנושיים, כדי לגרום למדינה לפגוע בחפים מפשע ולאבד את הלגיטימציה ללוחמה שלה. "הסיטואציה שבה מדינה בעלת עוצמה רבה מתקשה להכריע במהירות ובמחיר נמוך ארגון קטן וחלש ממנה, מורכב מהרבה מרכיבים קטנים, אבל השלם גדול מסך חלקיו", היא אומרת. "כשכל אלה מופיעים יחד, הם מגבירים את פרדוקס העוצמה".
מרכיב חדש יחסית בזירת המניפולציות, גם הוא באדיבות הטכנולוגיה, הוא מסך הטלוויזיה, ועוד יותר מכך הטלפון החכם המצויד במצלמה. "מאז מלחמת לבנון השנייה אנחנו בעידן של מלחמות בשידור חי", מסבירה ענתבי. "זו המלחמה הראשונה שהייתה ממש משודרת בזמן אמת באמצעות טלפונים ניידים. זה תהליך שהחל במלחמת המפרץ הראשונה, שבה החלה רשת CNN לשדר מאולפן פתוח כמעט בלי הפסקה את ההפגזות של ארה"ב בעירק ולעדכן במספר הנפגעים, בהצלחות ובכישלונות. מאז נפתחו אולפנים בכל הערוצים. ההשפעה של המציאות הזו על מקבלי ההחלטות מכונה 'אפקט ה־CNN'. בניגוד לעבר, כאשר הייתה להם שהות לטפל במה שקורה בשטח ולתכנן את ההודעה לתקשורת בצורה מבוקרת יותר, עכשיו הם צריכים להגיב מיד. וכיום לא רק שיש אולפן פתוח ומצלמה של רשת שידור, אלא יש טלפון נייד לכל לוחם. בלבנון השנייה כבר היו תמונות וסרטוני וידאו קצרים, ועכשיו זה כבר פתוח לגמרי".
הצבא למד להשתמש בזה לטובתו, והוא מציב מצלמות בקסדות הלוחמים מטעמו.
"כשהבינו איך הצד השני משתמש בכלי הזה, הפנימו בצבא שבתחומים מסוימים צנזורה היא כבר לא דבר רלוונטי, והבינו שמוכרחים להיות תגובתיים ומשתפים. היום יותר מבעבר מכניסים כתבים עם הכוחות, מגיבים הרבה יותר, מוציאים המון הודעות לציבור ועושים שימוש יפה ברשתות החברתיות. בצבא כבר מבינים שזה ייצא החוצה כך או כך, אז כדאי לפחות להביא את גרסת צה"ל. על כל תגובה ותקיפה מכינים מראש לא רק את הלוחמים אלא גם מעדכנים אנשי תקשורת, ממש כפי שמערבים משפטנים מראש. מנסים להיות מוכנים ל"דו"ח גולדסטון הבא", אם יהיה כזה. לא מוכנים שוב להיות לא מוכנים. אבל תמיד נשארת מגבלה שאנחנו גם גאים בה: אנחנו לא נפעל כמו הצד השני, אלא נצא מתוך ערכים ליברליים. אם נפעל אחרת – באש או בתקשורת – נהיה לא יותר טובים מהם, ואז הם ניצחו אותנו בכך שהפכו אותנו להיות כמותם".
הטכנולוגיה לא מחכה לנו
המחקר של ענתבי עוסק בהשפעה של הטכנולוגיה על הביטחון. הדוקטורט שלה עסק באופן ממוקד בשימוש של דמוקרטיות בכלים בלתי־מאוישים, כלומר רובוטים צבאיים. מצד אחד, מסבירה ענתבי, טכנולוגיה משפרת את איכות החיים שלנו וגם את הביטחון. אולם אותה טכנולוגיה עלולה להיות מסוכנת – בידיים לא נכונות, ואפילו להפוך מתחביב לנשק. עיין ערך רחפנים. "כשאנחנו חוששים שנשק מתוחכם יגיע לידיים לא דמוקרטיות ולא מוסריות, אנחנו מסתכלים גבוה. אבל רחפן אפשר לקנות באינטרנט בלחיצת כפתור ובאנונימיות, ולהשתמש בו כנשק של ממש. לכן אנחנו צריכים לעקוב אחרי כל פיתוח טכנולוגי קטן או גדול, ולצפות איזה שימוש או איום ביטחוני עשוי להיות לו".
לפני כשנה נקראה ענתבי, יחד עם חוקרים נוספים משלושים מדינות בעולם, להצטרף ל־IPRAW (כאמור, הפאנל הבינלאומי לרגולציה של נשק אוטונומי). החבורה קיבלה מנדט לעבוד במשך שנתיים בחסות משרד החוץ הגרמני, ולכתוב רגולציה שתהווה המלצה עבור האו"ם כיצד להתייחס אל נשק כזה. הצוות מורכב ממומחים מתחומים שונים – משפטנים, רובוטיקאים, פילוסופים וגם מדעני מדינה עם התמחות בלימודי ביטחון, כמו ענתבי. הפאנל נפגש אחת לשלושה חודשים בברלין, כשבמרכז כל פגישה ניצבת דילמה אחרת בסוגיית הנשק העצמאי.
"בסופו של התהליך צריכה לצאת מאיתנו המלצה בנוגע להגבלת הנשק האוטונומי, כלומר מערכות רובוטיות שמסוגלות לאתר מטרה באופן עצמאי לחלוטין, לעקוב ולקבל החלטה על הפעלת עוצמה קטלנית נגדה", היא אומרת. "הגורם האנושי מעורב כמובן ביצירת המכונות ובהצבת המערכות, אבל המעקב, האיתור וקבלת ההחלטה על פתיחת באש יהיו ללא מעורבות אדם. זו לא רק מערכת אוטומטית אלא גם אוטונומית – בעלת החלטה עצמאית משלה".
תגידו את זה לסורים
אני שואלת את ענתבי שאלה הקשורה להרצאה שלה מלפני כשלוש שנים שעוסקת בתחום דומה, והיא ממהרת להגיב: "אוי, זו הרצאה ישנה". כשאני מרימה גבה, היא מסבירה לי בחיוך: "בתחום של רובוטיקה ובינה מלאכותית, שלוש־ארבע שנים זה נצח. תחשבי כמה טלפונים ניידים מושקים בחודש, ותביני שאנחנו במרדף יומיומי. אנחנו חיים בעולם שכל הזמן קורות בו מלחמות קטנות על פני הגלובוס. לא עובר יום בלי שקרה בו משהו ביטחוני. האו"ם נמצא בשלב התחלתי של טיפול בסוגיה המוסרית סביב האופציות הטכנולוגיות הללו, אבל הטכנולוגיה מתפתחת מהר והליכים מתנהלים לאט. הטכנולוגיה לא מחכה להם.
"כשאני שומעת בפאנל רעיונות שעוסקים בעצירת הפיתוח של הכלים הרובוטיים הללו, אני מוצאת את עצמי אומרת שוב ושוב: זה נחמד מאוד, אבל זה לא ישים. אני ריאליסטית ואני רואה איך הזירה הבינלאומית עובדת. אני רואה את היחס בין הקצב ההתפתחותי לקצב גיבוש המגבלות. עומדים פה על הפרק הרבה אינטרסים כלכליים ואחרים של המדינות. מה שקשור נטו בצבא מצליחים איכשהו להגביל, אבל להגביל סייבר ופיתוח טכנולוגי לא־צבאי זה עניין קשה בהרבה, כי זה נכנס גם לתחום של שימוש אזרחי.
"בואו נראה: מה הצליחו להגביל בהיסטוריה? עד היום הצליחו להגביל פיתוח רק בדברים נישתיים כמו לייזר מעוור, שאין לו כמעט שימוש אחר מלבד לעוור. אבל ברובוטיקה, מי יסכים לעצור ראשון את הפיתוח? אף אחד. ארה"ב, סין ורוסיה – כולן במירוץ פיתוח בדיוק בתחומים האלו, ואני חוששת שאף אחת מהן לא תחתום על הסכם של הגבלת פיתוח. לדעתי בכל הנוגע להגבלת פיתוח עברנו את נקודת האל־חזור, ועכשיו צריך להתרכז בהחלטות שיקבעו באיזה אופן לגיטימי להשתמש בפיתוחים שיגיעו אלינו בקרוב ובאיזה לא. אגב, לא רק נשק גרעיני אסור לפי אמנות שונות, אלא גם שימוש במוקשים".
לכו תגידו את זה לסורים. הגולן עוד מוצף בשדות מוקשים היסטוריים, ויש להניח שבתוך סוריה יש שדות צעירים יותר.
"בדיוק. הנה, בלי דוקטורט בתחום, את שמה את האמת על השולחן. אז פינו שדות מוקשים והשימוש בזה הוגבל, אבל גם להגבלה יש מגבלות. אני מאמינה גדולה בצורך לדבר על רגולציה והגבלה בתחום השימוש של נשק אוטונומי. יש גורמים שונים, משפטנים בעיקר, שהציבו הגבלות ומשוכנעים שהכול בסדר. הדין הבינלאומי בא להרתיע באמצעות איום בענישה, אבל יש מי שהרתעה לא עובדת עליהם".
אילו דילמות אנחנו יכולים לצפות כבר עכשיו כתוצאה משימוש במכונות אוטונומיות בשדה הקרב?
"אנחנו רואים את ההבדל בשימוש הטכנולוגי בין מדינות דמוקרטיות למדינות פחות דמוקרטיות, ואפילו בתוך אותה דמוקרטיה תחת הנהגה משתנה. בתחילת המבצע בסוריה, לארה"ב של אובמה הייתה מדיניות לנסות הוביל לאפס אזרחים הרוגים. מכך נגזרה גישה מאוד לא מתירנית בהפעלת אש. זה הביא לכך שדאעש טבחו באזרחים באלפים והתחזקו מאוד. אחרי שהממשל התחלף לפני שנה, השתנתה מדיניות הפתיחה באש בסוריה ובעירק. אנחנו חיים באותו עידן, ויש הבדל בשימוש בנשק. לא צריך להקצין את עידן טראמפ – זה לא שפותחים שם באש בלי מידתיות או אבחנה. הצבא האמריקאי הוא עדיין צבאה של דמוקרטיה ליברלית. אבל יש מגבלות שאפשר לפעול בתוכן. וזו רק שאלה של תפיסות עולם של ההנהגה תחת המגבלות.
"הדין הבינלאומי הגדיר עקרון של מידתיות, בלי מספרים קבועים. הוא הביא את עצם המידתיות כערך. אגב, זו אחת הבעיות שלנו במערכות אוטונומיות. בשאלות שאין בהן מַפתח ברור, ומי שמחליט זה אנשים עם מוח, לב ונשמה – איך אפשר לתכנת מכונה שתדע לקבל החלטה כזו? אין עדיין תשובה לשאלה המרתקת הזו. מכונה יכולה להבין שעשר זה מידתי ו־11 כבר לא, לא מעבר לזה".
לא מרגישה מהפכה
סוגיית הביטחון זורמת בעורקיה של ענתבי, אולם היא מדגישה שתחום העיסוק שלה לא נוגע רק לענייני ביטחון, אלא לכל תחומי החיים. "הנושא הזה רלוונטי לכל אדם שחי בעידן שלנו, כי כל הנושאים שקשורים בבינה מלאכותית וברובוטיקה נוגעים לחיי היומיום שלנו. זה הולך לשנות את חיינו בעשרים השנים הקרובות. ככל שאנשים מבינים שזה לא קורה במקום רחוק אלא נוגע גם אליהם ומשפיע עליהם, הם יהיו יותר ביקורתיים במה שהם מכניסים הביתה. כבר היום יש בהרבה בתים רובוט שואב אבק, ומכשיר שמדליק ומכבה את דוד השמש דרך הטלפון. הרי גם אוטו רגיל עובד על ידי מחשב. האם לכל אלה יש הגנות סייבר? מה קורה אם מישהו משתלט על זה מרחוק ועושה מה שבא לו עם המכשירים שלנו?"
ענתבי, בוגרת שירות צבאי בחיל האוויר (קצינת מבצעים) שמתנדבת עד היום למילואים, התראיינה לאחרונה בתוכניתו של רזי ברקאי. אחרי שהתייחסה לסוגיית המל"ט האיראני שהופל בצפון לאחר שחדר לשמי ישראל, נשאלה על הרקע הצבאי שלה. כמה מחברותיה למקצוע לא כל־כך אהבו את זה, וטענו שלעולם לא היו שואלים על עברו הצבאי גבר שהיה עולה לשידור כחוקר. ענתבי מצדה פחות נבהלה מהסוגיה המגדרית, והיא מתייחסת יותר לעניין המחקרי.
"העבר הצבאי שלי לא רלוונטי לסוגיה", היא אומרת. "יש תפיסה ישראלית שלא קיימת בהרבה מקומות אחרים בעולם, שבשביל לחקור בנושאי ביטחון צריך רקע צבאי ולא אקדמי. כשרזי שאל על הרקע שלי התעקשתי להדגיש את הרקע האקדמי. אני אדם שחוקר, לא אישה שחוקרת. יש לי את הזכות לעבוד במכון שאני לא הייתי צריכה לפרוץ בו שום דרך. בדור הצעיר כאן יש כבר יותר נשים מגברים. בסך העובדים פה יש כארבעים אחוז נשים, וזה בתחום ביטחוני שלכאורה איננו תחום נשי מובהק בלשון המעטה. כבר יש כאן כמה נשים בפוזיציות ניהוליות, לכן אני לא מרגישה שום מהפכה שהיא שלי. הסתכלתי למעלה וראיתי שזה אפשרי. אני לא חושבת שהייתי נשארת בארגון שבו אם הייתי מסתכלת למעלה הייתי רואה שחסום. זה מה שראיתי בצבא, ולכן אני לא שם".
