ChatGPT היא תוכנה מרתקת המבוססת על שימוש מקורי בבינה מלאכותית. המומחיות של הבוט הזה היא קריאה וכתיבה בשפה האנגלית, משימה לא קלה בכלל. הבו לתוכנה נושא, והיא תייצר למענכם קטע טקסט קצר בכל צורה שתבחרו, כולל שירה בחרוזים. אם נדרש מחקר כלשהו, הבוט יפנה לאינטרנט, שגדוש כולו במידע – וחלקו אפילו עשוי להיות מדויק.
זו אכן תוכנה חכמה ומרשימה, וייתכן שתהיה שימושית מאוד להרבה אנשים. כמה מהנדסים בכירים שיבחו בפניי לאחרונה את יכולותיה של התוכנה לכתוב בעצמה תוכנות – משחק מחשב חדש, דפדפן מקורי או כל דבר אחר שהמשתמש יחשוב להגדיר. אולם יותר מכול, הציבור חוגג את יכולתו של ChatGPT לשוחח ולכתוב בשפה קולחת ונהירה. אך כמה טוב הוא באמת במשימה הקשה והשאפתנית הזו, משימה שעד לאחרונה רק בני אדם היו מסוגלים לעשות?
הוא לא כל כך טוב, ויש כמה סיבות לכך. התוכנה הזו – כמו כל תוכנה אחרת – חסרת מודעות. אין כזה דבר "מחשב מודע". זה כמו לדבר על "טוסטר מודע". ויכוחים פילוסופיים ארוכים ומעניינים נוהלו בשאלות הללו, אך אף אחד מהם לא שינה את המסקנה המובנת מאליה. ומכיוון שאינו מודע, הבוט לא מרגיש דבר, ואינו מסוגל להבין באמת אנגלית, או בני אדם. כיצד הוא יוכל להבין את המילים "אני מרגיש שמח" אם מעולם לא הרגיש דבר? "להבין" איננה מילה שיש לה מקום בתחום המחשבים. להגיד ש"מחשב מבין" זה כמו להגיד שמכונית איבדה את חוש ההומור שלה, או שהיא מתגעגעת לאקסית מיתולוגית.
המודעות מחוברת בקשר הדוק עם הגוף הפיזי. מכיוון שאנחנו מודעים, יש לנו רגשות פיזיים שעשויים – לעיתים באופן בלתי צפוי – לשנות או להפוך את מצב הרוח שלנו. איננו מודעים לרגש כמו שאנחנו קוראים שעון. אנחנו לא אומרים "איך אני מרגיש? שנייה, תנו לי לבדוק". אנחנו חשים את הרגשות שלנו, בין שנרצה ובין שלא.
יש שיחות מרשימות רבות עם בינה מלאכותית, והן מדברות בשם עצמן. לעיתים הבוט באמת מצליח לשוחח. אך אם תאתגרו את הנחות היסוד שלו, לא יהיה לו מושג אם אתם טועים או סתם מבלפים. הוא ימהר להודות בטעות שלו ולסגת. אם תבקשו ממנו להסביר משהו פעם נוספת כי לא הבנתם בפעם הראשונה, לא יהיה לו מושג איזה חלק בלבל אתכם. במצבים כאלה הוא יחזור על מה שכבר אמר, אך ישנה מילים וניסוחים. הוא ינהג כמו אדם שבקושי שם לב למה שאומרים לו, וזה הגיוני. מאחר שהוא לא מודע, הוא בהחלט לא שם לב. הוא לא מסוגל לשים לב.
היעדר המודעות שלו, והמחסור באינטואיציה או רגש, מגבילים את יכולתו של הבוט לשפוט את טיב העבודה שלו עצמו. הנה ההסבר שלו לסוד ההצלחה בעבודה: "על ידי ביסוס אמון ושיח, תיצרו רשת תמיכה".
חכה רגע, צ'אט. ביטויים כמו "אמון ושיח" ו"רשת תמיכה" הם קלישאות. אם הבוטים הללו יתפסו תאוצה – וכבר כיום הם תופסים תאוצה – צפו לגל של כתיבה גרועה.
הנה הבוט שוב: "כיום, כפיות חיוניות לחיי היומיום שלנו, והן משמשות במגוון מקומות שונים – מהמטבח ועד לחדר האוכל". למה לא לכתוב "כיום אנחנו צריכים כפיות במטבח, בחדר האוכל ובהרבה מקומות אחרים?" הבוט תלוי בביטויים מוכנים מראש, והוא כותב כמו פקיד: רשמי וביורוקרטי. אפשר להבין מדוע למכונה לא מודעת אין כישרון לשפה.
הדבר המוזר ביותר בהקשר של בינה מלאכותית הוא שיש אנשים חכמים מאוד שבאמת חוששים ממנה. חלקם קמו ודרשו לחדול את הפיתוח שלה, אף שאינם יודעים דבר על התחום עצמו. זה מגוחך. איכשהו, הם מאמינים שהבוט יוכל לזנק מתוך המחשב ולפתוח במסע הרס בינלאומי. בתור מומחה ותיק, אני לא חושב שזה אפשרי. לדעתי, הצ'אט יישאר סגור במחשב שלו וברשת שלו – ויתנהג כראוי.
בקיצור, אפשר להירגע, לפחות לעת־עתה. טכנולוגיית הבינה המלאכותית קיימת משנות החמישים, והבוטים הללו אפילו לא קרובים להיות חכמים מספיק לגרום נזק כלשהו. אבל אם אתם עדיין מפחדים, נסו לשבור את המחשבים שלכם לרסיסים ולזרוק אותם לפח. הבסת הבוטים עשויה להתגלות בתור אחת ההשלכות החיוביות על חייכם.
פרופ' דיוויד גלרנטר הוא מרצה למדעי המחשב באוניברסיטת ייל
