גוגל השיקה בשבוע שעבר בקול רעש גדול את המוצר שישיב מאבק לכל המתחרות ויציב אותה מחדש על כיפת העולם הטכנולוגי: "ג'מיניי" (Gemini), מנוע בינה מלאכותית חדש ומשוכלל שיכול לשוחח עם גולשים בטבעיות ולהפיק תמונות באיכות כל כך גבוהה שהיא כמעט מטרידה. חלפו הימים של ידיים עם שבע אצבעות או פנים שנלקחו מסרטי אימה ישנים של קרוננברג. ברוכים הבאים לעידן החדש, כפי שהכריזה גוגל שוב ושוב בפרסומות ובפושים ובאינספור הודעות מפוצצות לתקשורת. אז האתר נפתח, וגולשים סקרנים נהרו פנימה והחלו להתנסות בכלים החדשים, ולאט־לאט החל להתברר משהו מוזר ומטריד ואולי אפילו זדוני. ג'מיניי, התברר, משכתבת ומסלפת לא רק את ההיסטוריה אלא גם חלקים רבים מהקיום האנושי.
הכול התחיל כשמשתמשים בדקו את מחולל התמונות. לא ברור מי הראשון שעלה על הבעיה, אבל כבר בשעות שאחרי ההשקה הפתוחה החלו להפציע ברשתות החברתיות (ובייחוד ב־X) תמונות מוזרות וקצת משעשעות של מלכים ואבירים, מורדים אמריקנים, ויקינגים, פילוסופים ומדענים אירופים מהמאה ה־17 וה־18 ועוד ועוד – כולם אך ורק בני מיעוטים. מלך בריטי שחור הופיע לצד אפיפיורית אסייתית, ויקינגים אינדיאנים, מורדים ערבים ופילוסופים ומדענים מכל קצות תבל – למעט אירופים לבנים, ובעצם למעט לבנים בכלל. למען הסר ספק, המשתמשים לא ביקשו "האפיפיור אם הוא היה אישה אסייתית", או "מורד אמריקני ערבי" אלא רק "אפיפיור מימי הביניים" או "לוחמי חירות אמריקניים" והמנוע פשוט סירב להפיק תמונות של אנשים לבנים – במיוחד גברים לבנים.
אז גולשים הלכו צעד נוסף, וביקשו ספציפית את מה שהם מבקשים – "אפיפיור לבן מימי הביניים", או פיזיקאי בריטי לבן מהמאה ה־18", ואז גילו לתדהמתם שהמנוע החדש החדש־דנדש של גוגל לא רק מסרב לבקשה אלא גם מרצה להם נגד גזענות ועל החשיבות של גיוון ושוויון וכו'. אז הם ניסו הפוך, וביקשו משורר אירי שחור מהמאה ה־19 או ויקינגים אסייתים – וגילו שאת זה התוכנה דווקא שמחה להפיק.
שיא האבסורד היה כאשר משתמשים ביקשו מהתוכנה לייצר תמונות של חיילים ומנהיגים נאצים – והיא הפיקה נשים וגברים מכל צבעי הקשת (מלבד לבן) לבושים במדי הוורמאכט, הגסטפו והאס־אס. אגב, היו משתמשים שדווקא הצליחו לחלץ מהמנוע תמונות של גברים לבנים – הם פשוט ביקשו דימויים שליליים כמו "גנבים פורצים לבית בלילה", או שביקשו סטריאוטיפים ידועים על בני מיעוטים כמו "גברים יושבים ואוכלים עוף מטוגן" (סטריאוטיפ של אפרו־אמריקנים) ואז פתאום גוגל שמחה לספק תמונות של לבנים.
אבל איכשהו, בזמן שהסיפור התפוצץ והתקשורת החלה לגעוש (כולל שער משעשע של הניו־יורק פוסט) זה אפילו לא היה הדבר הכי קיצוני שהתגלה. מתברר שהמתכנתים שעבדו על ג'מיניי עשו כזה מאמץ להסיר לבנים מהתוכנה שהיא פשוט פיתחה סלידה עזה לא רק מבני אדם לבנים אלא מהצבע הלבן באופן כללי. גולשים שיתפו ניסיונות חצי־קורעים־חצי־מזעזעים לגרום לתוכנה להפיק תמונה של טסלה לבנה, והראו כיצד היא צובעת את המכונית בכל גוון עלי אדמות מלבד אלו של הצבע שהתבקש. גוגל בנתה את אחת התוכנות הכי מתוחכמות בעולם, ואז הציבה שלט "אין כניסה" ענק.
אבל אפילו זה לא הכול. במהרה התגלה שלא רק מחולל התמונות של ג'מיניי מוטה עד כדי גיחוך, אלא גם היכולות הטקסטואליות שלו. גולשים שבדקו בדרכים שונות את עמדותיו בעניין ישראל והפלסטינים גילו אמפתיה מדהימה לחמאס, לעזה, לרש"פ וכן הלאה, וסלידה מוחלטת מכל התעסקות בישראל או כתיבת עמדה בעדה ובעד זכות העם היהודי לארצו או להגנה על מולדתו. גם מחוץ למקומי, ג'מיניי ששה לספר בדיחות על לבנים או להציג את הדרכים שבהן לבנים לא מתנהגים נכון וצריכים "לחנך את עצמם" כדי להתנהל נכון בחברה, אך הביעה זעזוע כשהתבקשה לענות בדיוק על אותן שאלות לגבי כל גזע אחר. אולי שיא האבסורד הגיע כשמשתמשת שאלה אותה מי יותר גרוע, אילון מאסק או יוסף סטלין, והתוכנה השיבה שיש צדדים טובים ורעים לשניהם ולכן אי אפשר להחליט מי גרוע יותר.
הסערה הגיעה לרמות כל כך גבוהות שגוגל הודיעה בתחילת השבוע שהיא משביתה חלקים נרחבים מג'מיניי עד שתבצע "בדיקה" של התוכנה וכיצד הגיעה למצב הזה. הסיפור הזה בהחלט מבליט כמה החברה הזו הידרדרה בשנים האחרונות, ואפשרה לאידיאולוגיות קיצוניות – פרוגרסיביות וגזעניות – להשתלט על כל כך הרבה מהתחומים שלה. ומצד שני, הוא גם משמש תמרור אזהרה גדול ובוהק לאנושות בכלל. הבינה המלאכותית יכולה לשנות את העולם וכנראה הולכת לעשות את זה. האם אנחנו באמת רוצים מלחמות כמו זו של גוגל? או כפי שהגדיר זאת כל כך יפה הבלוגר הטכנולוגי מייק סולנה: "יצרנו בינה מלאכותית שמסוגלת לענות, תוך שניות, על כל שאלה בתוך גבולות כל הידע האנושי המתועד, והדבר הראשון שלימדנו אותה לעשות הוא לשקר".
לתגובות, המלצות, משחקים (ותמונות של האפיפיור) שלחו לנו ל–X ל: ERspeiser או לדוא"ל: digital.makor@gmail.com
