ההיסטוריה מלמדת כי בכל פעם שהופיעה על במת העולם המצאה טכנולוגית דרמטית כמו הדפוס, הטלוויזיה, הנשק הגרעיני או האינטרנט, היא יצרה שני מחנות: אלו שאימצו אותה או לפחות הביטו בה בסקרנות, לעומת אלו שנתקפו אימה, הצביעו על הסכנות הטמונות בהמצאה החדשה, ולעיתים סיפקו נבואות זעם על חורבן האנושות. הפילוסוף הבריטי ברטרנד ראסל כתב למשל כבר ב־1935 כי "המכונות יעשו את כל העבודה ולא יותירו לאנושות שום דבר משמעותי לעשות. אנחנו נהפוך להיות פסיביים, תלותיים, ונאבד את המשמעות ואת תחושת ההגשמה שלנו".
הפחד מטכנולוגיה פורצת דרך הוא מאפיין חוזר של החשיבה האנושית. ברגע שאנשים נחשפים לתופעה שאינה מתיישבת עם הסיבתיות המוכרת או עם הסבר מניח את הדעת, התגובה הראשונית היא פחד. מנגד ישנם אלו שמסרבים להתרגש, וטוענים כי בסך הכול מדובר בעוד התפתחות שטומנת בחובה גם לא מעט היבטים חיוביים.
כך, פחות או יותר, קורה כעת עם הבינה המלאכותית. הכוונה היא לאלגוריתמים לומדים המבוססים ברובם על מודלי שפה גדולים, שמסוגלים לנהל שיחה כמעט־אנושית על מגוון נושאים מורכבים, לסכם באופן תכליתי מקורות מידע רבים, ואפילו לייצר תכנים דוגמת שירים, חרוזים, תסריטים, תמונות, סרטונים או קוד תוכנה – על בסיס הוראות חיצוניות.
מי שחרד מפני השתלטות הטכנולוגיה הזו על האמנות, מוזמן להירגע באמצעות האזנה לזוועה שקרויה Now and Then – שיר ישן של הביטלס שפול מקרטני החיה באמצעות AI אך בפועל ביצע בו וידוא הריגה – או לבקש מצ'אט GPT משימות ספרותיות מעט מורכבות.
קץ ההיסטוריה
ההיסטוריון יובל נח הררי פרץ לתודעה הציבורית ב־2011, עם ספרו "קיצור תולדות האנושות", שבו התגלה כישרונו לשלב בין כתיבה היסטורית עיונית, מיקרו ומקרו, ניתוחים פילוסופיים, תובנות ומסקנות, דילוג בין זמנים – ולכנס הכול לכדי אמירה משמעותית, לעיתים אפילו כמה אמירות, לגבי העתיד. כישורים אלה קיבלו ביטוי גם בספרו השני, שראה אור ב־2015, "ההיסטוריה של המחר".
בין השאר טען שם הררי כי ההיסטוריה מתקרבת לסופה. אם ההומו סאפיינס לא ישמיד את עצמו, התריע ההיסטוריון, אזי בקרוב מאוד הוא ישדרג את עצמו לישות שונה לחלוטין, שעולם המשמעות שלנו יקרוס בה. גם בספרו החדש "נקסוס" (שמו של אי בים האגאי, אך משמעות נוספת של המילה היא מפגש בין תרבויות במובנו השלילי) טוען הררי, ובנחרצות יתר, כי הסבירות שמשבר האקלים יוביל להכחדתנו היא גבוהה, בעצם כמעט בלתי נמנעת. מנגד הוא צופה כי אם הדבר לא יקרה, סביר שנהפוך לעל־אדם, ישות ביולוגית ממוחשבת, ואולי לא נהיה יותר אנושיים כלל.
אבל "נקסוס" בעיקר מזהיר אותנו ומנסה לעורר בנו אימה מפני הבינה המלאכותית, תוך כדי ניתוח היסטורי מעניין כשלעצמו על רשתות מידע אנושיות, שהיו כנראה הגורם החשוב ביותר לשרידות ושגשוג של קהילות אנושיות וטרום־אנושיות.
"מידע הוא לא סתם כלי נשק", כותב הררי. "כדי לשרוד ולשגשג, כל רשת מידע אנושית צריכה לעשות שני דברים במקביל: לגלות אמת וליצור סדר. בהתאם לכך, ככל שההיסטוריה התקדמה, רשתות המידע האנושיות פיתחו שני סוגים שונים של מיומנויות… הרשתות למדו כיצד לעבד מידע כדי לדעת את האמת על דברים כמו רפואה, ביולוגיה ופיזיקה גרעינית. בו־זמנית, הן גם למדו כיצד להשתמש במידע כדי לשמור על הסדר החברתי – לא רק באמצעות הפצת האמת, אלא גם על ידי הפצה של בדיות, פנטזיות, תעמולה, ולעיתים שקרים מוחלטים" (עמ' 60).
בכך הוא לא מחדש הרבה. ידוע כי חדשות כזב היו קיימות מאז החל האדם לתקשר. אבל לדידו של הררי, הבינה המלאכותית תהפוך את העולם כולו לשקר מוחלט. "עליית הבינה המלאכותית היא כנראה מהפכת המידע הגדולה בהיסטוריה", הוא קובע, ומזהיר כי בני האדם עלולים בקלות לוותר על הכוח והשליטה שלהם בחיים לטובת מנהיג כריזמטי (כפי שכבר קרה לא פעם בעבר, ללא קשר לטכנולוגיות כאלו ואחרות) או בינה מלאכותית עלומה.
מפלצות של כזבים
החרדות מהבינה המלאכותית נובעות לרוב מכמה גורמים. ראשית, ממה שמדענים מכנים "האנשה רפלקסיבית". מדובר בנטייה שלנו, כפי שמראה הציטוט של ראסל, לשייך למכונות יכולות אנושיות, לטוב ולרע, להאניש אותן, לחשוב שהן עלולות לפתח "תודעה" משל עצמן, ואם כך, הן גם עלולות להחליט להשמיד אותנו. כבר נשמעו טענות שלגוגל יש תודעה. כך או אחרת, האנושות עדיין לא הצליחה לייצר נהג אוטונומי שינהג במקומנו בשעה שאנחנו נהיה חופשיים לנמנם או לעבוד, ויחסוך מאיתנו את תאונות הדרכים. אף מחשב, משוכלל ומהיר ומרשים ככל שיהיה, עוד לא הראה גרגר של אנושיות או חשיבה עצמאית יצירתית, ונדמה שהדרך לכך עוד ארוכה.
גורם נוסף הוא הפחד מהבלתי ידוע. כל שיפור טכנולוגי משמעותי הוליד שינוי רדיקלי באופן שבו עבודות מסוימות מבוצעות. חשבו על האיכר כשהומצאה המחרשה, או על החייט לאחר המצאת מכונת התפירה. למען האמת, ההיסטוריה מראה כי המשמעות עבור החברה והכלכלה הייתה ונשארה עוד מקומות עבודה ועוד פריון ולא ההפך, אך כמובן גם שינוי מהותי הדרגתי של שוק העבודה.
החשש ממפלצת של כזבים הוא אכן מוצדק. כבר היום האינטרנט הוא מפלצת כזו, והאדם הנבון נדרש לדעת להפריד בין מקורות מידע אמינים וכאלה שלא. אך אין ספק שעידן ה־AI יהפוך את המלאכה הזו לקשה יותר ויותר, וכמובן תמיד יהיו בני אדם שירצו לרתום טכנולוגיות למטרות זדוניות. מצד שני צריך לזכור שגם הפתרונות מתפתחים, אם כי באיטיות. בדיוק לשם כך ישנם גופים רגולטוריים ומומחי טכנולוגיה, מדיה וחברה, שצריכים להשיב מלחמה שערה.
הכול בגלל ביאליק
ברגעים מסוימים בספר, הפוזיציה הפוליטית של הררי מתערבבת בעובדות. כך למשל, הוא מזהיר כי הסכנה הגדולה טמונה בפופוליזם הימני, אך מתעלם מכך שגם תנועות מהצד השני (למשל תנועות פרוגרסיביות אנטי־ישראליות) עושות במידע כוזב שימוש המוני ומסוכן לא פחות.
לעיתים הוא גם קובע מסקנות היסטוריות באופן נחרץ ומבלי לנמק ולבסס אותן, כך שהן מעוררות תימהון. למשל, טענתו כי התלקחות הסכסוך הערבי־ישראלי באמצע המאה ה־20 נבעה בעיקר משיריו של חיים נחמן ביאליק, בעיקר "בעיר ההרגה". הטקסט המבריק והתובעני עורר לדבריו השראה ביהודים לראות עצמם כקורבנות שמוכרחים לפתח כוח צבאי ולהקים מדינה משלהם, בלי לקחת בחשבון את ההשלכות על הערבים בפלסטינה. במהלך השנים רבים הואשמו בסכסוך, לפעמים במידה רבה של צדק, מהמופתי אל־חוסייני ועד הסכמי אוסלו, אך להאשים בכך פואמה שנכתבה ב־1903 ללא כל תימוכין הוא מעשה בעייתי, שאפשר כמעט להגדירו כטרגי־קומי.
כישרונו המיוחד של הררי בא לידי ביטוי גם ב"נקסוס". אותה כתיבה חופשית מאי־אילו כבלים מבניים, מעין זרם תודעה סמי־אקדמי; אותם תיאורים וניתוחים שהם לעיתים מורכבים אבל תמיד מובנים. לא פעם מספק הררי דוגמאות היסטוריות להרהוריו, חלקן אמנם מוכרות עד זרא אך חלקן מרגשות או מצחיקות. דוגמה אחת היא סיפור ציד המכשפות של אינקוויזיטור דומיניקני בשם היינריך קרמר במאה ה־15 באוסטריה. באמצעות הסיפור מראה הררי כיצד המצאת הדפוס הפכה לקטלנית, לאחר שקרמר פרסם את ספרו "פטיש המכשפות", שהיה מעין מדריך "עשה זאת בעצמך" לחשיפתן והריגתן של מכשפות. קרמר טען לקיומה של קונספירציה שטנית עולמית, המליץ להשתמש בעינויים מחרידים כדי לחלץ וידויים מאנשים החשודים בכישוף, והתעקש שהעונש היחיד הראוי לאשמים הוא הוצאה להורג.
זהו ספר מהנה, לעיתים מרתק ומעורר מחשבה, אך הררי נכשל כישלון חרוץ במטרה שהציב לעצמו. הוא לא באמת מצליח להפחיד, ולא באמת מצליח לשכנע שאנו לקראת אפוקליפסה – אם באמצעות רשתות קונספירטיביות של מידע כוזב, ואם בעקבות אסון טבע כזה או אחר. גם הפתרון, או סל הפתרונות הקטן שהוא מציע, מעורפל מאוד. "אם הציוויליזציה האנושית תיכחד כתוצאה ממלחמות ותחרויות שיצאו מכלל שליטה, לא נוכל להאשים בזה שום חוק טבע וגם שום טכנולוגיה חדשה", הוא כותב, ומוסיף: "האחריות היא שלנו. אנחנו יכולים לא רק להציל את עצמנו, אלא גם ליצור עולם טוב יותר, בתנאי שנתאמץ מספיק. זו לא נאיביות; זה ריאליזם. כל דבר ישן היה פעם חדש. הדבר היחיד הקבוע בהיסטוריה, זה שהכול משתנה" (עמ' 386).
הררי משוכנע שאנו חיים בתקופה המפחידה ביותר אי־פעם, ושמדובר באיום אמיתי. אלא שאי אפשר לקבוע זאת עובדתית. בשנות החמישים, למשל, רבים בעולם המערבי היו בטוחים שסוף העולם קרוב בגלל מלחמה גרעינית קרובה. גם עצם העובדה שהררי נוקט בלשון רבים – אנחנו, כולנו – לא עוזרת למטרתו, ונקראת כמו רגרסיה רטורית, או כמו שליחת מייל בתפוצת נאט"ו.
