מנכ"ל גוגל, סונדאר פיצ'אי, ביקר אתמול (שלישי) במילים קשות את השגיאות ה"בלתי מקובלות לחלוטין" שנעשו על ידי אפליקציית הבינה המלאכותית של גוגל – Gemini, לאחר שהאחרונה ייצרה תמונות של חיילים נאצים מגוונים מבחינה אתנית. השגיאות אילצו את גוגל למנוע מהמשתמשים ליצור תמונות של בני אדם באפליקציה.
המחלוקת התעוררה שבועות ספורים לאחר המיתוג מחדש של תוכנת הבינה המלאכותית בסגנון ChatGPT של גוגל, ושינוי שמה ל"Gemini". גוגל העניקה לאפליקציה בולטות חסרת תקדים במוצריה כשהיא מתחרה ב-OpenAI של מיקרוסופט.
הגולשים ברשת לעגו וביקרו את גוגל על התמונות הלא מדויקות מבחינה היסטורית שייצרה האפליקציה, כמו סנאטורים אמריקנים מהמאה ה-19 שהיו מגוונים מבחינה אתנית וכללו גם נשים.
"אני רוצה להתייחס לפגמים האחרונים באפליקציית Gemini שיוצרים טקסטים ותמונות בעייתיות", כתב פיצ'אי במכתב לצוות, שפורסם על ידי אתר החדשות Semafor. "אני יודע שחלק מהיצירות שלה פגעו במשתמשים שלנו והראו הטיה גזעית. שיהיה ברור – זה לחלוטין לא מקובל". דובר גוגל אישר לסוכנות הידיעות הצרפתית שהמכתב אותנטי.
פיצ'אי אמר שהצוותים של גוגל עובדים "מסביב לשעון" כדי לתקן את הבעיות הללו, אך לא אמר מתי תוכנת יצירת התמונות תהיה זמינה שוב. "אף תוכנת בינה מלאכותית אינה מושלמת, במיוחד בשלב המתהווה הזה של התפתחות התעשייה, אבל אנחנו יודעים שמוצב עבורנו רף גבוה ואנחנו נמשיך לעבוד על זה כמה זמן שזה ייקח", כתב.
חברות טכנולוגיה רואות במודלים של בינה מלאכותית גנרטיבית את הצעד הגדול הבא במחשוב והן דוהרות להחדיר אותם לכל דבר, החל מחיפוש באינטרנט ואוטומציה של תמיכת לקוחות ועד ליצירת מוזיקה ואמנות. אבל מודלים של בינה מלאכותית, ולא רק של גוגל, זכו לביקורת על כך שהם מנציחים הטיות גזעיות ומגדריות בתוצאות שלהם.
גוגל אמרה בשבוע שעבר כי התוצאות הבעייתיות שיוצרת Gemini הן תוצאה של מאמצי החברה להסיר הטיות כאלה. Gemini כויל להראות אנשים מגוונים אך לא הסתגל להנחיות שבהן זה לא צריך להיות המקרה, וגם הפך זהיר מדי עם כמה בקשות לא מזיקות אחרת, כתב סגן נשיא גוגל, פראבאקר ראגאבן, בפוסט בבלוג. "שני הדברים האלה הובילו את התוכנה לפצות יתר על המידה במקרים מסוימים, ולהיות שמרנית מדי במקרים אחרים, מה שהוביל לתמונות מביכות ושגויות", אמר.
חששות רבים לגבי AI הופיעו מאז ההצלחה הנפיצה של ChatGPT. מומחים וממשלות הזהירו שבינה מלאכותית טומנת בחובה גם סיכון של טלטלות כלכליות גדולות, במיוחד איבוד משרות ודיסאינפורמציה בקנה מידה תעשייתי שיכול לתמרן בחירות ולדרבן אלימות.
