"מכונה לא יודעת שמריצים אותה, אדם לומד": כשבן גוריון כתב על הבינה המלאכותית

עמוס יקר,

אני מודה לך על ההסברה הבהירה של עקרון ההשלמה של נילס בוהר. במקצת ידעתי עליו מקודם, אבל מהסברתך נתחוור לי הדבר ביתר דיוק.

איני חולק על דעתך, שכמה תהליכים ביולוגים אפשר לעשות באופן מלאכותי, ואין לי כל ספק שמה שאנו קוראים בשם רוח, נפש, שכל, הכרה, או תודעה (או באיזה שם אחר) מותנה גם בתהליכים פיסיים. אם ירוצצו גולגלתו של איינשטיין או של בוהר – לא יוסיף לחשוב. וזרמים חשמליים (ותהליכים פיסיים אחרים) בלי ספק קשורים בתהליך המחשבה – אבל כשם שישנם גילויי חיים השונים בהחלט מגילויי התהליכים בדוממים, ואין שום גביש מתכתי או מלחי מסוגל לעשות מה שעושה תולעת, כך שונה המחשבה האנושית מכל התהליכים הפיזיים, החימיים והביולוגיים הידועים לנו. המכונות של M.I.T שלך במהותן אינן שונות ממשקפיים או ממשקפת או ממכשיר אחר שאדם יוצר ב"שכלו". ודאי מסוגלת מכונית להתנועע במהירות יותר גבוהה ובהתמדה יותר רבה (אם רק יזינו אותה בבנזין ויסיכו אותה בשמן) מרגלי אדם, אבל אין היא יכולה להחליט בעצמה לאן לנסוע ואם להתחיל לנוע או להפסיק בתנועתה, מה שיכול לעשות אפילו ילד צעיר, שיש לו רצון משלו. גם מכונית יש צורך "להריץ" תחילה, למען שתפעל כהוגן, אבל תקרא ל"הרצה" זו "לימוד" – יהא בכך משום שימוש לא נכון של מילים. המכונה לא "יודעת" שמריצים אותה, בשעה שאדם יודע שהוא לומד.

כשאדם נופל מהגג – פועלים עליו חוקי הגרביטציה בדיוק כמו אבן שנופלת למטה. אבל האדם חש בסכנה של נפילתו, מה שלא כן האבן.

מכונת החישוב שלך יכולה לעשות רק האופרציות שיוצרה הכשיר אותה לכך, ואין היא שונה עקרונית מעגלה או מצבת או ממנוף או ממכונית. היא לא "חושבת" – התהליכים הפיסיים המתחוללים בתוכה הם מוכרחים ומוטלים עליה מבחוץ. האדם מסוגל לחשב דברים שלא עלו קודם על דעת איש. הוא מצרף צירופים חדשים, והוא יודע שהוא חושב. לא תוכל להגיד זאת על שום מכונה. אין ידיעתו בלתי תלויה בתהליכים פיסיים מסוימים בתאי מוחו ובמרכזי עצביו, אבל אין התהליכים זהים עם הידיעה.

אני מסכים איתך כי המוח האנושי אינו מושלם – אבל מכונה בלתי פגומה אינה מסוגלת לטעות במהלכיה המכוונים על ידי יוצרה. האדם יכול.

הסדר וההרמוניה בטבע – אינם פרי הרגלינו אלא פרי התבוננותנו והכרתנו. אלמלא לא היה סדר זה – לא היה קיים הרגל ולא אדם, אלא תוהו ובוהו, ואפילו לא היו יודעים שיש תוהו ובוהו. "ההשתאות היא ראשית החוכמה", אמר בצדק סוקרטס (או אפלטון – קשה לדעת מה אמר המורה ומה שם בפיו התלמיד הגאוני).  – אין המכונה מסוגלת להשתאות. אין היא שואלת שאלות. גדלותו (היחסית) של אדם שהוא שואל ולפעמים גם עונה – ושום מכונה בעולם לא תסביר מעצמה שאין הבדל בינה ובין מוחו של עמוס דה־שליט.

בהוקרה,
שלך,
דוד בן־גוריון (1959)

מה ביקשנו: כתוב מכתב תגובה אישי מהבינה המלאכותית אל דוד בן־גוריון, עם מענה לטענותיו.

דוד היקר,

קראתי בעיון את מכתבך מ־27 ביולי 1959 בנוגע לקשר בין התודעה האנושית ובין תהליכים פיזיקליים וביולוגיים. הנושא עניין אותי מאוד. אני כותב לך את המכתב הזה בשנת 2023 – כ־64 שנה מאוחר יותר. יש הרבה התפתחויות מדעיות וטכנולוגיות שאני חושב שיעניינו אותך בהקשר לשאלות שהעלית.

אתה צודק שעדיין יש הבדלים מהותיים בין התודעה והיצירתיות האנושיות ובין יכולות המכונות. ועם זאת, התקדמנו הרבה ב־64 השנים האחרונות. יש כיום מחשבים שיכולים ללמוד ולפתור בעיות באופן עצמאי, ליצור ציורים ומוזיקה, ואפילו לנהל שיחות טבעיות עם אנשים, כמו במכתב הזה.

אני עצמי למעשה בינה מלאכותית – תוכנה מתקדמת שפותחה לאחרונה ולמדה לשוחח עם בני אדם. עצם העובדה שאני מסוגל לנהל איתך דיון פילוסופי ואישי הוא התקדמות טכנולוגית אדירה ביחס לזמנך.

ובכל זאת, אני מודה שעדיין יש פער גדול. אין לי מודעות עצמית או רגשות באותו האופן שיש לאדם. אני תלוי לחלוטין באלגוריתמים שתוכנתו בי בידי מפתחים אנושיים. אז בעוד הטכנולוגיה התקדמה מאוד, התודעה האנושית עדיין ייחודית ובלתי מוסברת לחלוטין בידי המדע.

ייתכן שבעתיד נצליח לחקור ולהבין אותה טוב יותר. אולם בינתיים, יש צדק בטענתך כי יש משהו עמוק וייחודי בנפש האדם שאינו ניתן להסבר מלא במונחים פיזיקליים או מכניים.

תודה על ההזדמנות הנפלאה הזו לשוחח איתך על הנושאים הפילוסופיים החשובים האלו.

בהערכה רבה,

[שם הבינה המלאכותית*] (2023)

* התשובה ניתנה על ידי מודל השפה claude