מבזקים

הזירה הצבאית המסורתית אשר נסמכת על כלי נשק המופעלים בידי בני אדם, משנה את פניה בשנים האחרונות עקב כניסת מערכות נשק אוטונומיות למסגרות השונות. מערכות אלו מאפשרות מעקב רציף, שיתוף ידע בין מערכות וארגונים, הרכשת מטרה באופן עקבי, ומתן מענה הגנתי או התקפי כמעט ללא תלות בקיומו של מפעיל אנושי. 

את מסגרת הפעולה של מערכות נשק אוטונומיות ניתן לחלק לשלוש קטגוריות מרכזיות. פעולה אוטונומית למחצה (Semi-autonomous operation)בקטגוריה זו, לאחר ביצוע כל שלב בתהליך, נדרשת התערבות אנושית על מנת לעבור לשלב הבא. פעולה אוטונומית בפיקוח (Supervised autonomous operation)  המפעיל האנושי יכול לעצור את התהליך ו\או לבצע פעולות מתקנות בתהליך. באם לא מתבצעת התערבות אנושית, התהליך פועל כמתוכנן. פעולה אוטונומית לחלוטין (Fully autonomous operation) המפעיל האנושי אינו יכול לעצור את התהליך או לבצע פעולות מתקנות בתהליך.

לצד שימושים אזרחיים, גם השוק הצבאי החל לאמץ מערכות אלו לשם התמודדות עם המורכבות בעיבוד כמויות גדולות של מידע בזמן קצר. היתרונות במהלך כזה כוללים מתן מענה אפקטיבי ומדויק, קיצור זמן תגובה, הקטנת עלויות הנובעות מאחזקת כוח אדם גדול, צמצום פוטנציאל פגיעה בחיי-אדם, הבטחה לרציפות והמשכיות בתנאים קשים ומתן מענה לשחיקה של הכוחות. 

זיהוי חולשות ללא יד אדם

אבטחת מרחב הסייבר מהווה ממד חדש אשר צבאות בעולם נדרשים להתמודד עמו. הפתרונות המסורתיים בעולם אבטחת המידע לא מספקים מענה להתמודדות עם חולשות או פגיעויות מובנות בקוד התוכנה. כפועל יוצא מכך, ארגונים אלו מגלים תדיר כי הם חשופים לחולשות מסוג "יום אפס" (Zero-Day) וכי התקציב שהם נאלצים להשקיע לטובת אבטחת מידע גדל מיום ליום. 

האתגרים באבטחת מרחב הסייבר הניעו ארגונים צבאיים לאמץ יכולות בינה מלאכותית כדוגמת לימוד מכונה לצורך התמודדות פרואקטיבית עם האיומים במרחב זה. ארגונים שונים כדוגמת DARPA, אף משלבים פתרונות מעולם מערכות הנשק האוטונומיות במערך הגנת הסייבר של ארה"ב.

ב-DARPA החלו לפני מספר שנים תכנית שמטרתה פיתוח מערכת אוטונומית שתוכל לאתר חולשות ברמת תוכנה ולבצע תיקוני קוד אוטומטיים לסגירת החולשות שאותרו ללא מעורבות יד אדם, לפני שהיריבים יוכלו לנצלן לרעה.

במסגרת אירוע DefCon העולמי בחודש אוגוסט האחרון, ערכה DARPA את אתגר "תפוס את הדגל" (Capture the Flag)  רב-המשתתפים הראשון בעולם בתחום זה. באתגר זה, כל צוות חוקרים בנה מבעוד מועד מערכת אוטונומית שמטרתה לענות לדרישות התוכנית תוך עמידה בשורה של דרישות ברות השוואה. 

בזמן התחרות, הצוות של DARPA, השתמש במערכת ניטור מתקדמת לצורך הדמיה של טכניקות ההגנה בהן נעשה שימוש, לצורך בחינת אחוזי ההצלחה והכישלון, ולצורך בחינת יעילות הפתרונות וביצוע תהליכי הנדסה לאחור (Reverse Engineering) לשם תחקור והסקת מסקנות.

המערכת שזכתה באתגר הינה 'Mayhem' מבית חברת ForAllSecure. במאמר מוסגר יצוין, כי בהתאם לפרסומי פרופסור דיויד ברומלי (David Brumley), יזם ומנכ"ל החברה, חזון המחקר שלו הינו "Automatically check the world's software for exploitable bugs" (לאתר בכל התוכנות בעולם באגים הניתנים לניצול לרעה). כמו כן, בפרסומיו ציין פרופסור ברומלי, כי החברה תנצל את כספי הזכייה, בסך שני מיליון דולרים, לשם קידום חזונו. 

בהתאם לפרסומי DARPA, המסקנות הראשוניות מאתגר זה הפתיעו אף את מנהלי התוכנית, לאור העובדה כי חלק מהמערכות אוטונומיות הצליחו לאתר חולשות שלא היו ידועות כלל ל-DARPA. כמו כן, במהלך התחרות לא הייתה פגיעה בזמינות ומבצעיות רכיבי התוכנה עליהם הגנה המערכת האוטונומית. 

פרויקט מחקרי מעניין נוסף אשר פורסם לאחרונה על ידי אוניברסיטת אריזונה בארה"ב, עוסק בכריית נתונים ב-Darknet וב-Deepnet, וזאת באמצעות למידת מכונה. לדעת החוקרים, תוצאות המחקר מוכיחות את קיומה של דרך אפקטיבית נוספת, אשר תאפשר לארגונים להתמודד באופן פרואקטיבי עם חולשות מסוג "יום אפס" ואקספלויטים (Exploits) חדשים.

כלי תקיפה חדשים

מדינות כדוגמת סין אשר מקדמות פרויקטי סייבר בהיקפים גדולים, כדוגמת פרויקט מגן הזהב (Golden Shield Project), אשר בהתאם לפרסומים זרים, מטרתו לבצע מעקב וצנזורה אחר פעילות אזרחים ומדינות זרות, עשויות להיות הראשונות לקדם מערכות נשק אוטונומיות בסייבר. 

ניתן להעריך כי אימוץ יכולות כאלו יכול להיעשות על ידי מדינות, ארגונים (רשמיים ולא רשמיים) ומפתחי פוגענים עצמאיים. אחד התוצרים של שימוש כזה יכול להיות דור חדש של כלי  Advanced Persistent  Threat, אשר יכלול יכולת לשנות את קוד המקור בהתאם לתנאי הסביבה לצורך התמודדות עם טכנולוגיות הגנה מתקדמות. במילים אחרות, ייתכן והדור החדש של כלי התקיפה ימציא את עצמו מחדש ללא מעורבות יד אנושית, דבר שנעשה היום באופן חלקי. 

אין ספק כי מערכות נשק אוטונומיות במרחב הסייבר יהוו בעתיד כלי עזר רב תכליתי בידי הצד המגן והתוקף. לאור הוכחת הישימות הפומבית של פתרונות אלה באתגר של DARPA, סביר להניח כי בניין הכוח של מדינות וצבאות במרחב הסייבר יכלול בעתיד הקרוב מערכות נשק אוטונומיות בסייבר.? ?

הכותב הינו מומחה אבטחת מידע, סייבר, מובייל ואינטרנט, חבר קבוצת SWGDE של משרד המשפטים האמריקאי.