"נעשה ונשמע" גרסת הבינה המלאכותית
מעבדות האינטליגנציה המלאכותית של גוגל, אמזון, מיקרוסופט ופייסבוק מונהגות על ידי אנשי עסקים וכוהני טכנולוגיה שאינם חייבים דין וחשבון לקהילות שאת חייהן הם כותבים עכשיו מחדש. לא סביר שהמציאות הזו תמשיך להתפתח בלי שום דיון ציבורי
בתחילת שנות התשעים, נדמה היה לרגע שאינטליגנציה מלאכותית (AI) הופכת לנושא לוהט על סדר היום הציבורי. עיתון "העיר" פרסם סדרת מאמרים של המלומד צבי ינאי ז"ל, סביב השאלה אם מחשבים יוכלו אי פעם לחשוב כמו בני אדם. להפתעת העורכים, הוצפה המערכת בעשרות מכתבי תגובה – כמות מרעישה בעידן שבו דואר היה כרוך במעטפות, בולים וטיול לסניף. כה גדולה הייתה הסערה, עד שאפילו עיתונים אחרים דיווחו עליה בהתפעלות. למרבה הצער, התברר שכל המהומה הייתה מעשה קונדס של שני סטודנטים באוניברסיטת ת"א (אחד מהם, אגב, משמש כיום פרופסור באותו מוסד).מי שהתלהב בשבוע האחרון מעיסוקם של כמה כלי תקשורת מרכזיים ב-AI, צפוי כנראה לאכזבה דומה. למרות שמדובר בנושא שנוגע לעצם מעמדה של האנושות כמין הדומיננטי על כדור הארץ, הסיבה היחידה לכך שהדיון הבליח לרגע על סדר היום הציבורי הייתה רכילות.
אילון מאסק, יזם העל האמריקאי, מזהיר כבר יותר משלוש שנים מפני הסכנות הטמונות בפיתוח AI, אבל מה שהביא את נבואות הזעם שלו לכותרות היה ויכוח פומבי עם מארק צוקרברג, מייסד פייסבוק. זה האחרון טען שמאסק מגזים בחומרת האזהרות שלו, מאסק שחרר טוויט תגובה מעט מזלזל, התקשורת הריחה התכתשות סלבס והשאר היסטוריה. כלומר, רכילות. העניין הרגעי ב-AI סחף לכותרות גם ידיעה פיקנטית על אודות תוכנות שפיתחו שפה משלהן וגרמו ל"פאניקה בפייסבוק" עד שהמפעילים לחצו על ה-kill switch. לתיאור הזה כמעט אין קשר למציאות, מה שלא מנע ממנו להפוך לקליק-בייט מוצלח.
הדימוי הרווח של אינטליגנציה מלאכותית נגזר מעשרות שנים שבהן היה התחום בעיקר מצע לסיפורי מדע בדיוני. עבור רובנו, מדובר בעולם של מכונות הולכות על שתיים ותוכנות שמנהלות שיחה על משמעות החיים.
מהפרספקטיבה הזו, הסכנה היא שהיצורים הסופר-חכמים האלה, העתקים משוכללים של האדם, יקומו על יוצריהם בתרחיש שמזכיר את מרד הגלדיאטורים. אלא שככל שחברות הטכנולוגיה הגדולות מרחיבות את השקעתן ב-AI, מתברר שהחיזויים מהמאה שעברה היו פרימיטיביים ופשטניים. AI שמחקה בני אדם וחיות אחרות יכול אמנם לשמש בסיס למכונות בידור ומשחק, אבל כיוון ההתפתחות העיקרי של התחום הוא למקומות אפלים יותר, תרתי משמע: מקומות שבהם השכל האנושי טרם ביקר, מושגים ותהליכים שנמצאים הרחק מעבר לאינטואיציה של בני האדם החכמים ביותר. כאן טמונה הסכנה האמיתית - האפשרות שהמערכות שמנהלות את חיינו, מתורים בבית חולים, דרך מסחר בבורסה ועד לתפעול שירותים כמו תחבורה ואנרגיה, יפעלו על סמך שיקולים שאיננו מבינים.
כאשר תוכנה קונוונציונלית מקבלת החלטה, יש למהנדסים גישה ישירה למערכת השיקולים שמאחוריה. בתוכנה ניווט רגילה, למשל, אפשר להחליט שלא לנתב תחבורה דרך שכונת מגורים שקטה, או להמנע מנסיעה בכביש אגרה, משום שבמערכת קבלת ההחלטות יש מקום מוגדר למושגים האלה. במערכת מבוססת AI, לעומת זאת, אפשר להגדיר את מטרת העל (למשל, נתיב נסיעה קצר ככל האפשר) אבל קשה לתחום את ההגיון שהמערכת תפתח תוך כדי לימוד. מערכת זיהוי הקשרים יכולה להסתייע בכל נתון, משעת היקיצה של הנהג, דרך מידע רפואי על אודות נוסעיו (שהסכימו למסור את הנתונים האלה תוך כדי התקנת תוכנה אחרת) ועד לצום הרמדאן.
התוצאה היא נתיב נסיעה שלנהג אין אפילו אוצר מלים מתאים כדי להבין את שורשיו. אם כיום אנחנו יכולים להציץ בנתיב הנבחר ולשער מה הוליד אותו ("אה, עכשו התחילו פקקי הערב ביקנעם"), הרי שבעתיד הלא רחוק נצטרך פשוט לקבל את המסלול ולהאמין שהוא מועיל לנו. "נעשה ונשמע", גירסת ה-AI - כל זאת עוד בטרם הזכרנו את השיקולים המסחריים מאחורי השירותים שמפעילים את חיינו בחברה הדיגיטלית.
הדינמיקה הזו, שאת ניצניה אנו רואים כבר עכשיו, מחזירה אותנו למעמד של ילדים קטנים, שמובלים בעולם מסובך ומסתורי על ידי הורים יודעי כל. במקרה הטוב, נוכל לקבל הסבר פשטני ומרגיע אודות הסיבות למסלול שבו אנו נוסעים, להרכב תיק ההשקעות שלנו, לידיעות שמוצגות לנו בעמוד החדשות או להרכב החברתי בכיתות של ילדינו. ככל שישתכללו מערכות ה-AI, יקשה עליהן יותר לנסח את שיקוליהן במושגים שמובנים לבני אדם ומן הסתם תדעך גם הדרישה האנושית לקבל הסברים. העולם ינוהל על ידי מערכות שהן מעשה ידי אדם, אבל לאדם עצמו תהיה נגיעה הולכת ופוחתת בקביעת אורח חייו ואופי החברה שבה הוא חי.
בלתי אפשרי לחזות לאן תתגלגל המציאות הזו, אבל לא סביר שהיא תמשיך להתפתח בלי שום דיון ציבורי. תעשיות כמו נשק, תרופות ומזון נמצאות תחת פיקוח ממשלתי הדוק, אבל מעבדות ה-AI של גוגל, אמזון, מיקרוסופט ופייסבוק מונהגות על ידי אנשי עסקים וכוהני טכנולוגיה שאינם חייבים דין וחשבון לקהילות שאת חייהן הם כותבים עכשיו מחדש. בינתיים, נראה שהדרך היחידה של הנושא הזה להגיע כיום לסדר היום הציבורי, היא אם דונלד טראמפ יצייץ איזה קשקוש שטחי לגבי רובוטים אוכלי אדם. SAD.
אקו"ם