ראשי » מדע ומחשבים » מדע » חידושים והמצאות

ה"מחסל" כבר כאן: האם אנחנו מוכנים למהפכה?

גרסאות ראשונות של "רובוקופים" כבר מוכנות, ואין אמנות בינלאומיות המגבילות את פעולתן. האם אנו רוצים להפקיד בידי מכונות החלטות גורליות הקשורות בחיי אדם?

על משחתות אמריקאיות מדגם "אג'יס" יש מערכת הגנה שיכולה לאתר ולהשמיד טילים נגד ספינות וכלי טיס. ישראל פיתחה מטוס ללא טייס, "הארפי", שיכול לזהות ולהרוס עמדות רדאר של האויב. דרום קוריאה הציבה בגבולה הצפוני רובוטים-שומרים שיכולים להרוג בני אדם. כל המכשירים הללו יכולים לפעול באופן אוטונומי, ללא הכוונה אנושית.

עוד כותרות:
תגידו תודה לאקטיביזם של קרן נויבך
מי באמת גילה את סין הרבה לפני מרקו פולו?
ספרות על אקורדים: בוב דילן ראוי לנובל

הגרסאות המוקדמות של ה"מחסל" כבר כאן, ואין אמנות בינלאומיות המגבילות את פעולתן. הן משתמשות בבינה מלאכותית כדי לזהות מטרות, ובתוך אלפיות שנייה מחליטות אם לצאת למתקפה. הטכנולוגיה הזאת עדיין אינה מושלמת, אבל היא נעשית מדויקת - וקטלנית - יותר ויותר. למידת עומק (Deep Learning) חוללה מהפכה בסיווג תמונות ובזיהוין, ובקרוב תאפשר למערכות האוטונומיות להתעלות על היכולות של חייל אנושי ממוצע.
   
אך האם אנו מוכנים לכך? האם אנו רוצים ש"רובוקופים" יסתובבו כשוטרים בערינו? ההשלכות של כך, אחרי הכול, עשויות להיות דומות לאלה שראינו בסרטי מדע בדיוני דיסטופיים. לכן התשובה בוודאי שלילית.

לעת עתה מציין צבא ארה"ב שהוא מעוניין לשמור את בני האדם כחלק מהליך קבלת ההחלטות בענייני חיים ומוות. כל המטוסים ללא טייס שמופעלים מעבר לים שייכים היום להגדרה הזאת: הם מוטסים מרחוק בידי אדם, ולרוב בידי כמה בני אדם. אבל מה יקרה כשסין, רוסיה או מדינות סוררות אחרות יפתחו את הרובוטים האוטונומיים שלהן, וישיגו בעזרתם יתרון על החיילים שלנו? זה ודאי יתמרץ את הצבא לאמץ טכנולוגיות הרג אוטונומיות.

ההיגיון יהיה אז שאם אפשר לשלוח רובוט למלחמה במקום אדם, זו חובה מוסרית לעשות כן ולהציל חיים בטווח הקצר – החיים של החיילים שלנו, לפחות. כמו כן, סביר שרובוטים יישמו באופן טוב יותר את חוקי המלחמה מאשר היכולת המוכחת שהפגינו בני האדם עד כה. הטבח במיי ליי שבמלחמת וייטנאם לא היה מתרחש אם רובוטים היו יכולים לאכוף חוקים בסיסיים כגון "לא לירות לעבר ילדים ונשים".
  
אז גם תעלה שאלת שרשרת הפיקוד: במקרה שירי משתבש, מי ייתן על כך את הדין? אם במערכת כלי נשק יש פגם בייצור או כשל עיצובי, אפשר להעמיד לדין את היצרן. אם מערכת הופעלה במקום שלא היה צריך לעשות כן, המפקדים שבמעלה השרשרת אחראים על כך. מציאת האחראים תהיה עדיין משימה מאתגרת, בדומה למצב עם כלי נשק קונבנציונליים, אבל השאלה החשובה יותר היא אם ההחלטה ליטול חיי אדם צריכה ליפול על "כתפיה" של מכונה.

מערכות נשק קטלניות אוטונומיות יפרו את כבוד האדם. ההחלטה ליטול חיי אדם היא עניין מוסרי, ומכונה יכולה לקבל החלטות כמו-מוסריות בלבד. היא לא מסוגלת לשקול באמת את ההשלכות של פעולותיה. אנו יכולים לתכנת את המערכת, או להציג בפניה דוגמאות כדי שתסיק מסקנות מנוסחה משוערת להחלטות כאלה, אבל זה לא דומה למצב שבו היא מקבלת החלטות בעצמה.

החלטה כזו חורגת מעבר לאכיפת חוקי המלחמה הכתובים, אבל אפילו רק פעולה כזאת דורשת שימוש בשיקול דעת ובחינת אינספור דקויות. נוסף על כך, הדליפה הקבועה של טכנולוגיה צבאית לחיים האזרחיים תביא להפעלת מערכות כאלו בערים שאנו מתגוררים בהן.
 

היתרון של מערכות מלאכותיות הוא שהן לא חוות רגשות הרסניים כגון זעם, אבל הן חסרות גם רגשות חיוביים חיוניים כגון רחמים וסימפטיה. כפי שציין סרן דניאל דיוויס מצבא ארה"ב, "בכל מלחמה שארה"ב הייתה מעורבת בה (...) גילה האויב שאף שהחיילים יכולים להיות חסרי רחמים וצמאי דם כמו יריביהם, הם היו יכולים גם להפגין רחמים, כשהיה ראוי שיופגנו". המטרה של מלחמה היא להשיג שלום "בתנאים שלנו", ולקשר האנושי יש חלק חשוב בהשגתה.

הדרך היחידה להימנע ממצבים לא רצויים ובלתי ניתנים להגנה היא ליצור ולאכוף איסור בינלאומי על מערכות כלי נשק קטלניות אוטונומיות. התפרקות חד-צדדית מנשק אינה ישימה. ברגע שהיריב יציג טכנולוגיה כזו, במהירות נעמול לעמוד בקצב: מלחמה רובוטית קרה.

התקדים לאיסור כזה מבוסס היטב. לייזרים מעוורים, כלי נשק כימיים וכידונים עוקצניים – כל אלה הם כלי נשק שהחברה הסכימה שלעולם לא יהיו עוד בשימוש. למרבה הצער, אין איסור פרטני על כלי נשק גרעיניים, אף שהשימוש בהם עשוי להפר חוקים בינלאומיים אחרים המגבילים הרג של אזרחים והשפעות ארוכות טווח. המשתנה המרכזי שבולם את השימוש בהם הוא החשש מתגובה נרחבת.
  
יש תקווה ליצירת איסור כזה. בחסות אמנת האו"ם בדבר כלי נשק קונבנציונליים מסוימים, מדענים מובילים ו"הקמפיין לעצירת רובוטים רוצחים" נוקטים מאמצים להביא את ממשלות העולם לשקול קבלת אמנה רב-צדדית, שתחסל את הפיתוי לבנות מאגר גדול ומשוכלל יותר של רובוטים קטלניים אוטונומיים ולהפעיל אותם מהר יותר משיוכל האויב הפוטנציאלי הבא. אבל באופן קולקטיבי אנו אחראים לשקול את השאלות המוסריות הללו ולהחליט אם אנו רוצים שהטכנולוגיה הזאת תהיה בשימוש במלחמה.

בינה רובוטית ומלאכותית מציעות שתיהן פוטנציאל אדיר לסייע לחברה – מחיפוש אחר ניצולים בבניינים שהתמוטטו ועד לסינון מידע נרחב על טיפולים חדשים נגד סרטן. בנו תלויה השאלה אם ננצל את הפוטנציאל הזה לבניית שלום והעשרת חיינו, או להבטחת מלחמה ללא קץ והוזלת ערך חיי האדם.

היכנסו לעמוד הפייסבוק החדש של nrg