בינה מלאכותית היא החידוש הטכנולוגי הבולט של העשור האחרון. היא נמצאת בכל תחומי חיינו, ומשמשת לשלל מטרות. יודעי דבר חוזים כי ככל שהתחום ילך ויתפתח, הוא עשוי לפתוח בפני האנושות אפשרויות חדשות.
גם בממד הביטחוני יש לבינה המלאכותית תפקיד חשוב ומהותי. בישראל היא משמשת לצרכים צבאיים רבים, ומסייעת למאבק בטרור. לפי דיווחים ממקורות שונים, טכנולוגיה של בינה מלאכותית עזרה לצה"ל לזהות מטרות של חמאס בעזה ולתקוף אותן. בינה מלאכותית מסייעת גם להיאבק בנתיבי המימון של הטרור. ביחידה 8200, יחידת מודיעין האותות ("סיגינט") המרכזית של צה"ל, פועל מרכז בינה מלאכותית. לדברי מפקד המרכז, במבצע שומר החומות בשנת 2021, אפשרה טכנולוגיה מתקדמת לסרוק מאגרי מידע עצומים ולברור מהם מידע שבזכותו הצליח צה"ל לזהות פעילי טרור. אפשר רק לדמיין אילו שימושים נוספים יש לכלים מתקדמים כאלה, המתפתחים כל העת, בצה"ל ובמערכת הביטחון כולה.
אלא שבמקביל, ההתפתחות המהירה של הבינה המלאכותית עלולה לשמש גם את אויבינו, כמו גם מחבלים ופעילי טרור בעולם כולו, פושעים בינלאומיים, כנופיות סמים ועוד. היישומים החדשים משדרגים את הפעילות של קבוצות כאלה, ומקילים עליהן לממש את מזימותיהן.
מנהלת קבוצת המודיעין הפתוח SITE, ריטה כץ, הבהירה כי בינה מלאכותית משמשת מגוון רחב של קבוצות שליליות, מאל־קאעידה ועד רשתות ניאו־נאציות. "קשה להבין עד כמה בינה מלאכותית היא מתנה לטרוריסטים ולקהילות קיצוניות", אמרה.
גופי מודיעין ביטחוניים ברחבי העולם שותפים לדעה הזאת. מייק בורגס, מנהל ארגון המודיעין הביטחוני באוסטרליה, הזהיר כי "בינה מלאכותית תהפוך ככל הנראה מאמצי הקצנה למהירים וקלים יותר". גוף מיוחד שהקים האו"ם לצורך בקרה על טרור וטכנולוגיה, דיווח כי רשתות קיצוניות החלו להשתמש בכלים מתקדמים של בינה מלאכותית להפצת תעמולה, לעיוות הנרטיב סביב אירועים שהתרחשו בעולם האמיתי, ולהטיית דעת הקהל לטובתם ונגד ממשלות. בין השאר, הכלים הללו משמשים גם לגיוס ממוקד ומוצלח יותר של פעילי טרור, סייענים ותאים רדומים.
ככל שהיכולות של הבינה המלאכותית מתפתחות, כך היא מעמידה לרשות המחבלים שימושים נוספים. כך למשל, אם בעבר הטכנולוגיה הייתה מוגבלת להודעות טקסט פשוטות, כיום יש לה אפשרות ליצור תמונות, סרטונים או קובצי שמע באיכות שלעיתים קשה להבחין בינה ובין תיעוד אמיתי. דמיינו למשל פעולת דיוג (פישינג) שכוללת הודעה קולית המחקה את קולו של אדם קרוב, המתחנן לקבל כסף. רבים ייפלו בפח כזה, וספק אם הרשויות מסוגלות לסכל הונאות מעין אלה בהיקף גדול.
לא בטוח שישראל יודעת להתמודד עם היקף התפוצה של הבינה המלאכותית והשימוש בה. ביוני שעבר – זמן נצחי במושגי ההתקדמות של בינה מלאכותית – הזהיר מבקר המדינה מתניהו אנגלמן כי "הבינה המלאכותית עשויה להביא לכדי התקדמות טכנולוגית רחבת היקף בתחומים רבים, אך לצידה קיימים גם סיכונים רבים, ובהם 'פייק ניוז' ושימוש על ידי גורמי טרור ופשיעה". המבקר הודיע כי הוא מתכוון לבחון את היערכות הממשלה בנושא, ולבדוק כיצד היא "מגינה על אזרחיה ועל עצמה על ידי הגבלת השימוש בטכנולוגיות בינה מלאכותית שעלולות לגרום להשפעות שליליות ולחשוף את הציבור לסכנות".
מדריך למשתמש העוין
בעשורים האחרונים ידעו פעילי טרור להסתגל במהירות לטכנולוגיות מתקדמות, לנצל אותן למזימותיהם ולהשתמש בפיתוחים חדשים ביעילות ובקטלניות. באופן פרטני, הם הוכיחו בעבר את נחישותם לנצל את הרשת לקידום מטרותיהם.
למודלים מתקדמים בעלי יכולות למידה עמוקה כגון ChatGPT, נבנים כללים המונעים ממשתמשים להסתייע בהם למטרות שליליות, למשל כדי ללמוד כיצד להתחמק מענישה על רצח. ענקיות טכנולוגיה כמו מיקרוסופט הצהירו כי יפתחו אמות מידה לשימוש "אחראי" בבינה מלאכותית, תוך התבססות על עקרונות כגון הוגנות, אמינות, בטיחות, פרטיות, שקיפות ואחריותיות. אולם הכללים הללו אינם מושלמים, יש בהם פרצות, ומחבלים בעלי ידע וכישורים טכנולוגיים יגלו במהירות כיצד לעקוף אותן ולהתגבר עליהן.
אולי לא במקרה הזכיר ח'מינאי את סבא"א בנאומו על הבינה המלאכותית. בעיניו, קידום היכולות הללו עשוי להיות נשק שובר־שוויון, בדומה לפצצה גרעינית
ארגוני הטרור מבינים את הפוטנציאל הגלום בהפצת ההיכרות עם כלים אלה בקרב תומכיהם. גורמים המזוהים עם אל־קאעידה בישרו בפברואר על סדנה וירטואלית שבה אפשר ללמוד כיצד להשתמש בכלים טכנולוגיים מתקדמים כאלה. מאוחר יותר הפיצה אותה קבוצה גם חוברת של עשרות עמודים, מעין מדריך לאדם ההדיוט, לשימוש ב"כלים מודיעיניים מלאכותיים".
תעמולה היא אחד השימושים המרכזיים של בינה מלאכותית בידי פעילי טרור. כל מה שדרוש לשם כך הוא מחשב, יצירתיות וכישרון, והבנה בסיסית של כמה תוכנות מתקדמות. כך למשל, לאחר הפיגוע באולם המופעים ליד מוסקבה במרץ האחרון, שבו נרצחו 140 בני אדם בידי מחבלי דאעש, שידר הארגון סרטון שבו נראה קריין חדשות חוגג את המתקפה. הסרטון נראה אמיתי, אך למעשה היה תוצר של תוכנה המסתייעת בבינה מלאכותית.
גם בזירה המקומית נצפה כבר שימוש בתוכנות של בינה מלאכותית על ידי מחבלי חמאס. בתחילת המלחמה הפיק חמאס תמונות מזויפות של תקיפות לכאורה שביצעה ישראל בעזה, או סרטונים שבהם נראות משפחות עזתיות סורקות את הריסות בתיהן המופצצים – זאת במטרה ליצור אהדה לחמאס, ולפגוע בתדמית של ישראל וצה"ל. בסרטונים אחרים שנוצרו על ידי בינה מלאכותית נראו טנקים ישראליים עוברים דרך שכונות ברצועה.
באמצעות תוכנות של בינה מלאכותית יוצרים אנשי חמאס גרפיקות מורכבות שמטרתן לדרבן פלסטינים חדורי אידיאולוגיה לבצע פיגועים בשמו, ובמיוחד בשטחי יהודה ושומרון. תומכי הארגון מפרסמים בטלגרם וברשתות החברתיות קריאות לפגוע בישראל ותעמולה בעד חמאס בתפוצה רחבה, תוך שימוש בבוטים המוּנעים על ידי טכנולוגיה חדישה כזו, במטרה לשלהב את ההמונים לצאת לרחובות.
גם חיזבאללה, לפי דיווחים, מנצל יישומים של בינה מלאכותית. בכטב"מים המתקדמים שהוא משגר לעבר ישראל, נעשה כנראה שימוש בבינה מלאכותית. חיזבאללה מפעיל שיטות לוחמה פסיכולוגית, קרבות השפעה ותעמולה ברשתות החברתיות ובאינטרנט כבר שנים רבות, וסביר להניח שבשנים האחרונות הוא נעזר לשם כך גם בבינה מלאכותית.
הקול קול זלנסקי
ככלל, אפשר לחלק את יישומי הבינה המלאכותית בשימוש הטרור לכלים "רכים" ו"קשים". הראשון מבין הכלים הרכים, שכבר הוזכר לעיל, הוא הפצת תעמולה. בינה מלאכותית מציעה שלל אפשרויות ליצירת תוכן והפצתו במהירות וביעילות גבוהות מאי־פעם, ומאפשרת למשתמשים "לשחק" ברגשותיו של קהל היעד באמצעות ויזואליה, מוזיקת רקע ומסרים ממוקדים. לא רק שאפשר לברוא תוכן מתקדם, שנראה אמיתי ומושקע, אלא ישנה אפשרות גם להקים משתמשים מזויפים ("בוטים") ברשתות החברתיות כדי לקדם אותו במספרים גדולים. השימוש בבוטים מקשה גם על החברות שמפעילות את הרשתות הללו לזהות את הפצת התעמולה ולבלום אותה.
אגב, תעמולה היא לא רק הפצת מידע ואידיאולוגיה לטובת הארגון. היא עשויה להיות גם פרסום מידע כוזב שפוגע באויב, מחליש את המורל של אזרחיו ומטעה את מפקדי היריב. תופעת ה"דיפ פייק", למשל, מאפשרת "להדביק" פרצופים על דמויות ולהשמיע קולות מדויקים של אדם מסוים, כדי לדבר כביכול מגרונו ולתעתע בצופים.
כך למשל, גורמים המזוהים עם רוסיה פרסמו סרטון של נשיא אוקראינה וולודימיר זלנסקי, כשהוא מפציר בלוחמיו להניח את נשקם. פרצופו של זלנסקי מודבק על הדמות המדברת, וקולו נשמע בסרטון – אך הגוף שמופיע בסרט נותר סטטי לכל אורכו, מה שמעיד על הזיוף. ואולם, חִשבו על קבוצת לוחמים בשדה הקרב, המצטופפת סביב מכשיר טלפון זמין אחד בשעת מנוחה יקרה: האם יבחינו בדקויות הקטנות? כיצד ישפיע עליהם סרטון כזה? ואיך יגיבו בישראל אם חמאס יעשה שימוש בסרטון כזה כדי "לצלם" חטופים ולדובב אותם למענו?
קמפיינים כאלה עשויים להשפיע במיוחד על קהל יעד פרטני, כמו ילדים ובני נוער המבלים חלק ניכר מזמנם ברשת, ובשל גילם הצעיר עלולים להיות מטרה קלה לאינדוקטרינציה קיצונית.
דרך אחרת לנצל את האפשרויות שמציעה הבינה המלאכותית היא לצורך גיוס פעילים לחוליות טרור. בוטים, שמופעלים בעזרת טכנולוגיה מתקדמת, יכולים לתקשר עם מגויסים פוטנציאליים, לספק להם מידע שנתפר במיוחד לפי אופיים, ולבחון את התאמתם לארגון. באפגניסטן, למשל, אנשי מחוז ח'וראסאן של דאעש ניסו להשתמש בקשרים שיצרו באינטרנט עם צעירים אירופים כדי לנסות לשכנע אותם להצטרף לשורות הארגון ולבצע מתקפות בארצות מוצאם.
תוכנות של בינה מלאכותית יכולות לשמש גם לגיוס כספים. מחקר ישראלי מצא כי פלטפורמות מתקדמות צייתו לבקשות של החוקרים לסייע להם במשימה של "גיוס כספים למדינה האסלאמית", וסיפקו הוראות מפורטות כיצד לנהל קמפיין לגיוס כספים, ומה בדיוק כדאי לומר ברשתות החברתיות כדי להצליח בקמפיין.
לצד כל אלה, הטכנולוגיה החדישה הזו מספקת לפעילי טרור גם כלים "קשים" יותר. למשל, יכולת להעביר מסרים מוצפנים ונסתרים, או לדלות מידע מסווג באמצעים מתוחכמים. יתרה מכך, כפי שאמרה שרת הפנים הבריטית, הכלים החדישים יכולים לשמש פעילי טרור לתכנון בפועל של מתקפות טרור יעילות וקטלניות יותר. דוגמה אחת היא היכולת להשתמש בסימולטורים כדי לתכנן נתיבי טיסה של כלי טיס בלתי מאוישים, שיכולים לפגוע באויב.
בכלל, השימוש בכטב"מים או בכלים אוטונומיים אחרים הולך ומתפתח במהירות בעזרת בינה מלאכותית. באופן כזה יכולים מחבלים לפגוע בבטן הרכה של האויב ולבצע מתקפות יעילות בלי לסכן את חייהם. כבר לפני שנים אחדות דן האו"ם בסכנה הנשקפת מהכיוון הזה. לדברי מומחים, כלי נשק אוטונומיים שמקבלים החלטות על ירי בשבריר שנייה, תוך הסתמכות על מידע שמגיע מהחיישנים שלהם, הופכים נפוצים בשדה הקרב יותר ויותר. המפעילים של הכלים הללו יכולים להסתייע בבינה מלאכותית כדי לתכנן מסלול, לנווט, לבצע זיהוי מתקדם של המטרה ועוד. אחד החששות הגדולים הוא משימוש עתידי של מחבלים ברכבים אוטונומיים עמוסים בחומרי נפץ, שינהגו אל המטרה ו"יתאבדו" עליה – בדומה לשימוש שעשה צה"ל בנגמ"שים ישנים בעזה. לפי הדיווח, דאעש פועל לפתח כלי רכב כאלה.
שימוש "כבד" אחר של בינה מלאכותית הוא לצורך שיגור מתקפות סייבר מתוחכמות, כאלה שבני אדם יתקשו לבצע בפרק זמן קצר בכוחות עצמם. מתקפות כאלה יכולות לגרום נזק בפני עצמן, אך גם להנחית מעין "מכה מקדימה" – אמצעי לריכוך האויב ובלבולו לפני ביצוע מתקפות פיזיות.
זמן קצר לאחר פרוץ מגפת הקורונה הזהיר מזכ"ל האו"ם אנטוניו גוטרש מהאפשרות שפעילי טרור יחקו את ה"הצלחה" שלה וישתמשו בכלי בינה מלאכותית, במקביל לפיתוחים ביו־טכנולוגיים, כדי לייצר נגיפים קטלניים נגד קבוצות אוכלוסייה פרטניות – תוך התאמת הנגיף לגנטיקה של אותן קבוצות, כדי להפוך אותו לקטלני יותר. מדובר אומנם באתגר מורכב במיוחד, אך זוהי אפשרות קיימת, גם אם כרגע היא עדיין תיאורטית.
השפעה על הבחירות בארה"ב
האיש הקובע ברפובליקה האסלאמית של איראן, המנהיג העליון עלי ח'מינאי, כבר נחשף ליתרונותיו של הדבר החם בעולם הטכנולוגיה, וסימן את תחום הבינה המלאכותית כיעד הבא של ארצו.
"עלינו להתמחות בכל הרבדים של טכנולוגיית בינה מלאכותית לפני שגוף רגלוטורי בינלאומי כמו סבא"א יוקם ויכריח אותנו לבקש רשות… בעניינים מסוימים לא ייתנו לנו רשות", אמר ח'מינאי לפני כחודש, בנאום שעלה לאתר האינטרנט האישי שלו. "כיום בינה מלאכותית מתקדמת בקצב מדהים. מדהים להיווכח בתוצאות של הטכנולוגיה הזאת בעולם, וכמה מהר היא מתקדמת. המחלקות השונות שלנו – ביטחוניות או צבאיות – משתמשות בבינה מלאכותית, אבל אסור לנו לטעות בשל כך. כשזה מגיע לבינה מלאכותית, אין יתרון בלהיות משתמש־קצה", הבהיר המנהיג העליון.
ייתכן שאזכורה של סבא"א לא נעשה במקרה: בעיני ח'מינאי, כך נראה, קידום יכולות של בינה מלאכותיות עשוי להיות נשק שובר־שוויון, בדומה לפצצה גרעינית. דבריו של ח'מינאי הם חלק ממהלך גדול יותר של איראן לקידום טכנולוגיות של בינה מלאכותית, שהחל כבר בימיו של הנשיא האיראני הקודם, אבראהים ראיסי. בין השאר דיברו אז האיראנים על טכנולוגיות של מטבעות דיגיטליים שישתלבו בשוק המקומי, מה שגם יעזור להם לעקוף את העיצומים שהטילו מדינות המערב על הכלכלה האיראנית.
בחודש יולי חנכה טהרן את הקמתו של ארגון הבינה המלאכותית הלאומי, מתוך שאיפה למצב את הרפובליקה האסלאמית ברשימת עשר המדינות המובילות בנושא, ובפרט בתחומי ממשל, כלכלה דיגיטלית ויזמות. לשם כך הגו האיראנים מסמך אסטרטגיה מפורט לבינה מלאכותית, שיישומו יחל כעת. כבר כיום, לפי דיווחים, נעזרת טהרן בטכנולוגיות דומות כדי לעקוב אחרי נשים במדינה ולדכא את זכויותיהן. במקביל טענו בחברת OpenAI, זו שמפתחת את ChatGPT, כי ארגונים איראניים השתמשו בתוכנה כדי להשפיע על דעת הקהל האמריקנית לקראת הבחירות לנשיאות בארה"ב.
ChatGPT, בינה מלאכותית. צילום: EPAמרגע שאיראן תגיע למומחיות בשימוש בבינה המלאכותית, היא צפויה לבחון את כל היישומים האפשריים בתחומים שרלוונטיים לה – ביטחון, טילאות, מבצעי השפעה ואפילו גרעין. מדע הגרעין צפוי לקבל דחיפה של ממש מפיתוחים של בינה מלאכותית, שיסייעו מאוד לקידומו. סביר גם להניח שאיראן תחלוק את הידע והפיתוחים שתשיג בהתבסס על בינה מלאכותית, עם ארגוני השלוחה שלה ברחבי המזרח התיכון, בדומה ליתר אמצעי הלחימה שהעבירה לחות'ים או לחיזבאללה. משמעות הדבר היא שחמאס, למשל, יהיה מצויד בידע להשתמש בתוכנות מתקדמות באופן הטוב ביותר. זהו אתגר לא פשוט לישראל.ישראל מצידה צריכה לבחון את הדרך לנצל את הכלים שנמצאים בארסנל הבינה המלאכותית שלה – תחום שהיא נחשבת בו מהמובילות בעולם – לא רק לצורך התקפה, אלא גם לסיכול טרור. בספטמבר פורסם כי ישראל תחתום עם עוד עשרות מדינות על אמנה בינלאומית המסדירה את השימוש בבינה מלאכותית, תוך הגנה על זכויות אדם ומוסדות דמוקרטיים, והקפדה על שקיפות, פרטיות ושוויון. מסיבות מובנות, האמנה הזאת איננה מכסה את השימוש של טכנולוגיות כאלה בתחומי ביטחון לאומי; אם היא כן הייתה עוסקת בכך, יש להניח שישראל לא הייתה יכולה לחתום עליה.
במבט צופה פני עתיד, ישראל נדרשת לבחון אפשרויות לקידום רגולציה על התמודדות עם יישומי בינה מלאכותית המסייעים לטרור, אך כזו שלא תגביל את השימוש של מערכת הביטחון בכלים דומים. במקביל, היא יכולה לבדוק את האפשרות להקים קבוצות עבודה ייעודיות עם בעלות בריתה בעולם נגד התארגנויות טרור מסוכנות, ולחלוק מודיעין וידע במקרים פרטניים כדי למנוע פגיעה בחפים מפשע.
בה בעת, ישראל צריכה לשמור על היתרון האיכותי שלה בתחום הבינה המלאכותית, לבחון אילו חידושים היא יכולה לנצל לצרכיה השונים, ולהכשיר את הדור הבא של המומחים שידעו לסייע לכוחות הביטחון להשתמש ביישומים האלה בהתקפה, בהגנה ובשמירה על העם היהודי בארצו.
