האסימון נפל לי כמה חודשים לפני המלחמה. הימים ימי המאבק על הרפורמה המשפטית, ובאחד מצומתי המאבק צייצתי משהו בטוויטר. לא איזו תובנת־על אלא יותר זרם תודעה, בין הערה־לסדר למסקנה עם היגיון פנימי כלשהו. למחרת, כשנכנסתי שוב לרשת החברתית, משהו במשקל, במרקם ובטמפרטורה של התגובות, אם אפשר בכלל לקרוא להן כך, לכד את תשומת ליבי. זה היה גייזר של חימה שפוכה, מילים בוערות מזעם, לוהטות משנאה, מבעבעות אגרסיות.
נכנסתי לעמודי המגיבים כדי לתהות על קנקנם. מיעוטם היו טרחנים מוכרים ממיליציות "רק ביבי" או "רק לא ביבי", ורובם אזרחים אנונימיים, כביכול. גלילה בפיד שלהם העלתה שמכונת הרעל שהם שותפים לה איננה באג אלא פיצ'ר. ליוּזרים הללו לא הייתה קשת תגובות, לא מנעד רגשי ובטח שלא אנדרסטייטמנט. הם תוכנתו לאתר מטרות של ימין־לא־מספיק־רדיקלי או שמאל־לא־מספיק־סהרורי ולהתפוצץ עליהן במאתיים קמ"ש, בלי הבדל דת, גזע ומין.
כשמדברים על הלוחמה הפסיכולוגית של הפרוקסיז האיראניים וחמאס בראשם, עוסקים לרוב בסרטוני הזוועה שצילמו והפיצו המחבלים, בפייק־ניוז כמו הדיווח על מסוק צה"לי שירה על המבלים במסיבת נובה, או בדיווחים כוזבים על שבויים שנהרגו מירי צה"ל (כמו הדיווח על חנה קציר, שלבסוף חזרה מן השבי). המלחמה מלאה בלוחמה פסיכולוגית של דיס־אינפורמציה: עלילות שלפיהן ישראל קוצרת איברים בעזה, ממטירה פצצות זרחן לבן על אוכלוסייה ופוגעת בנשים. ערוץ נוסף הוא הפצת תיאוריות קונספירציה כמו זו הטוענת שבכירים בצה"ל פעלו בשירות חמאס, שיתפו פעולה עם תוכניותיו והרדימו בכוונה את השטח.
היקף הנזק של דיווחי הפייק הללו לא היה גדול כל כך אלמלא התפוצה הרחבה שמעניקים להם הפרופילים הפיקטיביים. כפי שמסביר עידן רינג, סמנכ"ל איגוד האינטרנט הישראלי, הבינה המלאכותית מאפשרת לגורמים מדינתיים לייצר השפעה של ממש על השיח הציבורי באמצעות פרופילים פיקטיביים. "אם ניקח את טוויטר לדוגמה", הוא אומר, "אנחנו מזהים היום יותר ויותר פרופילים פיקטיביים שרמת האותנטיות שלהם נראית בדיוק כמו של פרופילים ממשיים. יש להם מגוון תמונות שנוצרו מעיבוד חכם של בינה מלאכותית, יש להם טקסטים לאורך היסטוריה ארוכה, הם מתייחסים בקביעות לנושאים שעל סדר היום, מייצרים המון פעילות באמצעות תגובות לפרסומים של אחרים, וככל שהטכנולוגיה מתקדמת קל מאוד לשכפל אותם עוד ועוד, עד שהם הופכים להיות 'דעת הקהל' הדומיננטית. הם מתחרים בהשפעה שלהם במשתמשים כבדים.
"אגב, זו בעיה עולמית. לצורך העניין, היוזר שמתחזה ל'רואה חשבון מפנסילבניה' איננו מייצר תוכן בעצמו, אבל הוא מעניק משקל לא פרופורציונלי לתכנים ומסרים של המערכת שמפעילה אותו. הכלים הטכנולוגיים משתכללים כל העת, אבל הדירקטיבה ישָנה. זהו מאפיין קלאסי של תפיסת ההפעלה הרוסית".
לא קשה לראות כיצד היוזרים הללו מספקים הדהוד עוצמתי לקולות הקיצוניים והמקטבים. קחו למשל את הפרסום הוויראלי של הקולנוען רון כחלילי מלפני כמה ימים ("ישראל חייבת לקבל את תנאי חמאס, המנצח הגדול של ה־7 באוקטובר, ולהסכים מיד לתנאיו: הפסקת המלחמה, כולם תמורת כולם, נסיגת צה"ל מכל הרצועה ושחרור עזה מהמצור הישראלי… חיבור הרצועה לגדה, נסיגה לקוי 67, חלוקת ירושלים ופתרון שאלת הפליטים הפלסטינים"). עמדה לא אפויה שכזו מפי דמות שנויה במחלוקת, על גבול השולית מבחינת משקלה הציבורי – לא הייתה מגיעה לתפוצה כה גבוהה ברשתות החברתיות אלמלא מערך הפצה מתוחכם הרותם את האלגוריתם לאינטרסים שלו.
המצב חמור יותר בשפות זרות. אם יוזרים פיקטיביים מפיצים תמונה של מסוק קרב ישראלי יורה, לצד כיתוב הקובע כי הוא יורה על החוגגים בנובה, ההכחשה, אם תגיע, תהיה תמיד מעט מדי ומאוחר מדי.
ללמוד מהאירופאים
בניגוד לאיחוד האירופי, ישראל מפגרת בחקיקה בנושא ואין לה כלים משפטיים אפקטיביים העשויים לשמש מנוף לחץ על הרשתות החברתיות. באירופה קיים חוק השירותים הדיגיטליים, שנכנס לתוקף לפני כשנה. החוק מגדיר תחילה "פלטפורמות ומנועי חיפוש גדולים מאוד", בהם טוויטר, פייסבוק, טיקטוק, אינסטגרם, לינקדאין, יוטיוב וויקיפדיה ומטיל עליהם חובות פיקוח מוגברות.
עד לחקיקת החוק, החברות נהגו לטעון שהן לא יוצרות תוכן ולפיכך לא אחראיות עליו. בעקבות החוק, ההגנה הזו תעמוד להן רק אם הן מפעילות מערך בקרה וסינון אפקטיבי לתוכן פוגעני. הן נדרשות להפעיל מערך גדול ויעיל לקבלת תלונות וטיפול בהן, הסרת תוכן פוגעני, מחיקת פרופילים פיקטיביים ועוד. החוק מחייב אותן לפרסם דו"חות מפורטים בנושאים הללו, וחברות שלא עומדות בכללים חשופות לתביעות של מיליארדים. הדו"חות הראשונים, אגב, פורסמו באירופה בחודש שעבר.
היעדרה של חקיקה ישראלית בנושא גורם לכך שההגנה שמקבלים גולשים ישראלים נחותה מהותית מזו שמקבלים גולשים אירופאים. מספר בודקי התכנים בעברית מזערי, זמני התגובה ארוכים, ושיעור הבַּקרים האמונים על טיפול בתלונות על תוכן פוגעני – זעום.
בעיה חריפה יותר היא סביב התכנים המופצים בשפה הערבית. צוות הסרת תכנים של פרקליטות המדינה פרסם החודש דו"ח ובו הוא מתגאה בנתונים שצבר מאז פרוץ המלחמה. על פי הדו"ח, הצוות בחן כ־39 אלף תכנים, חשבונות, דפים וקבוצות שהתפרסמו ברשתות החברתיות, והגיש למעלה מ־26 אלף בקשות להסרת התכנים. למעלה מ־92% מהתכנים שהועברו לפלטפורמות של קבוצת מטא (פייסבוק ואינסטגרם), וכן לטיקטוק וליוטיוב – הוסרו. בין השאר, מתגאים בפרקליטות, הצליח הצוות להסיר "למעלה מ־100 קטעי קול (סאונדים) בפלטפורמת טיקטוק, המסיתים לטרור או משבחים ארגוני טרור". כמה אפסים צריך להוסיף למספר הזה כדי לכסות את ההסתה הפלסטינית בטיקטוק?
יישר כוח על העבודה, אבל זהו טיפול בסימפטום ולא בבעיה. ראשית, לא נאבקים במכת יתושים עם פטיש. במרוץ למחיקת פרסומים, ידם של המפרסמים תמיד תהיה על העליונה, והוספת תקנים בפרקליטות לעולם לא תכסה על הפער. שנית, מדובר בתכנים שנפסלו על ידי פרקליטים האמונים על שמירה על חופש הביטוי, ובכל זאת הרשתות דחו 8 אחוזים מהבקשות, שזה המון.
את הבעיה צריך לתקוף מהשורש: לרשתות אין כמעט תמריץ למנוע מראש פרסומים כאלה. כדי לגרום לרשתות לפעול נגד ההסתה צריך לאמץ גרסה מקומית יצירתית של החוק האירופי, עם דגש שלפיו חובת הפיקוח של הרשתות תחול על פרסומים בכל השפות באופן שווה. אם הצעד הזה לא יגרום לפיקוח אפקטיבי על פרסומים מעודדי טרור, הרשתות יהיו חשופות לתביעות אזרחיות גדולות. מה שלא עשה להן המוסר והמצפון, יעשה האיום הכלכלי.
