ראשי » מדע ומחשבים » מחשבים » טכנולוגיה

תרגיעו: הבינה המלאכותית לא תיפטר מהאנושות בקרוב

מומחה עולמי לביולוגיה ולמחשבים טוען כי הבינה המלאכותית לא תגיע לרמה מסוכנת למין האנושי - מודעות עצמית, ב-250 השנים הקרובות. אם תקלות מחשב יביאו לסופנו - הן יהיו מעשי ידי אדם

האם סרטי האפוקליפסה בסגנון "שליחות קטלנית", בהם מחשבים עם בינה מלאכותית בעלת רמת אינטליגנציה ומודעות גבוהה משמידים את האנושות, הם תסריט ריאלי מבחינה מדעית? בשאלה הזו עסק לאחרונה פרופסור ארנד היינץ', פרופסור משנה לביולוגיה אינטגרטיבית, הנדסת מחשבים ומדעי המחשב, באוניברסיטת מישיגן.

החוקר, שעוסק בפיתוח תוכנות בינה מלאכותית מורכבות, מציין כי "בשלב שבו אנו מצויים, מבחינת רמת המחשבים שאנו מייצרים, מדובר בפנטזיה בלבד. אי אפשר בכלל לדמיין את המכשירים הנוחים, השקטים והלא מסוכנים שאנו מייצרים, פועלים להשמדת האנושות". לדברי פרופ' היינץ', כיום הסכנה המרכזית שתתכן ממחשבים ומבינה מלאכותית היא כשל שמקורו בתכון אנושי לקוי.
 
"אנחנו הרבה פעמים מיצרים מחשבים מורכבים על ידי צוותים גדולים ואז מרכיבים אותם על תוכנות קיימות באופן של טלאי על טלאי", מסביר היינץ'. "במילים אחרות: אנחנו יכולים לגרום לאסון פיצוץ גרעיני כמו זה שקרה בצ'רנוביל, לא בגלל שתוכנת מחשבים תרצה להשמיד את האנושות אלא בגלל קצר או חוסר תכנון שלנו. אנחנו נחבר יחד כל מיני תוכנות ובמקום כל שהוא יהיה כשל או שהמחשב יגיע לתחום שהוא לא מכיר ואז תגרם תקלת שרשרת. זה אכן תרחיש אפשרי מאד. רק שבמצב מהסוג הזה האשם לא יהיה המחשב אלא האדם" אומר פרופסור היינץ'.

החוקר הבכיר אף מציין כי האלגוריתמים המתוחכמים של חברות ענק כמו גוגל, או מחשבי הבינה המלאכותית שמנצחים כבר היום בני אדם במשחקים שונים עדיין לא מהווים שום סיכון. "נכון שיש כבר מחשבים עם בינה מלאכותית עוצמתית שעוקפים בני אדם בקבלת החלטות או בהבנת מצבים מורכבים, אבל עדיין אין כאן מחשב עם מודעות שיכול לתכנן את עצמו ולהרגיש מאוים על ידי האנושות. מעבר לכך אין כיום בינה מלאכותית ברמה כזו שתתחיל לבדוק האם האנושות נצרכת לקיום העולם או שהיא מזיקה לו". לכן החוקר קובע כי ככל הנראה בימי חיינו, קרי בטווח של 50 עד 250 השנים הקרובות, לא נראה מחשבי בינה מלאכותית עם אינטליגנציה שתגרום לנו לחששות או לפחדים.
 
היום בו מחשבים יהיו בני אדם

עם זאת החוקר מציין כי מבט על האבולוציה מלמד ש"גם מה שאנו לא מסוגלים לתפוס כיום כאפשרי יכול להתקיים בעתיד. כיום מחשבים מסוגלים לבצע מטלות שקשה לנו כבני אדם לעשות. הם מחליפים פועלים בקווי ייצור ומבצעים פעולות שמצריכות כוח רב. אלא שאנחנו כבני אדם לא מסתפקים בכך. אנחנו כל הזמן משכללים את הרובוטים כך שהם יוכלו לבצע עוד ועוד מטלות אנושית. לכן יתכן שלאט לאט תתבצע גם בתחום הזה אבולוציה, ונמצא דרך שבה המחשבים יוכלו לסייע לנו לשדרג את עצמם לא רק פיזית אלא גם מבחינת האינטליגנציה שלהם. אמנם כרגע מבחינתי כחוקר, מדובר במשהו שהוא מדע בדיוני, אבל יתכן שהוא יהפוך למציאות בעתיד".

בנוגע למציאות כזו אומר החוקר כי "במקרה כזה אכן יתכן שתהיה בעתיד בינה מלאכותית שפתאום תתחיל לעסוק בשאלות כמו 'האם האנושות מזיקה למחשבים ולעולם או לא מזיקה'. במקרה כזה, נצטרך להסביר לתוכנות למה אנו כאן יכולים לבצע דברים שהם לא יודעות או למה אנו חשובים מבחינה של רגש סימפטיה כי יצרנו אותם" הוא כותב במאמר שפרסם בנושא. עם זאת קובע החוקר כי "בטווח החיים שלנו מדובר עדיין במדע בדיוני, ולא באפשרות אמתית שתתקיים".
היכנסו לעמוד הפייסבוק החדש של nrg