מפחדים מטרור איסלמי? אינטלינציה מלאכותית מפחידה יותר
מבלי לזלזל בחשיבות האירועים האחרונים בצרפת, והצורך במלחמה עולמית בטרור, יש מובילי דעה טכנולוגים שחושבים שפיתוח מכונות אינטליגנטיות הוא נושא מפחיד יותר מטרור איסלמי או אפילו נשק גרעיני. והם אפילו חתמו על מכתב פתוח שקורא לאנושות להיזהר בפיתוח טכנולוגיות כאלו. אם אתם עוסקים במלאכה בתעשייה הישראלית, כדאי לשים לב
ייתכן ואנחנו נמצאים במרחק של מספר עשורים מהיכולת הטכנולוגית לפתח מערכת מחשוב שתהיה חכמה שתוכל לשעבד את המין האנושי, אך מומחי בינה מלאכותית מסביב לעולם כבר מתכוננים לגרוע מכל. השאלה היא מתי, ולא אם זה יקרה, שנגיע לסינגולריות טכנולוגית. מי שטרם נחשף למושג זה יכול למצוא כתבה טובה באתר הידען.
כחלק מהמאמצים להתמודד עם העתיד הבלתי נמנע (משפט בעייתי , אבל בכל זאת), מומחי אינטלגנציה מלאכותית ברחבי העולם חתמו על מכתב פתוח (המכתב) שתוכנו מיועד להציע התקדמות טכנולוגית מתונה שתבטיח שהיא לא גדלה מעבר לשליטתה של האנושות.
החותמים כוללים שמות גדולים בתחום כמו מייסדי Deep Mind, החברה הבריטית שנרכשה על ידי גוגל בינואר 2014, פרופסורים מMIT ומומחים בכמה מהתאגידים הגדולים ביותר של עולם הטכנולוגיה, כולל מתוך הצוות של יבמ שמפתח את 'ווטסון' וגם כאלו מצוות המחקר של מיקרוסופט.
"להצלחה בחיפוש אחר אינטליגנציה מלאכותית יש את הפוטנציאל להביא תועלת חסרת תקדים לאנושות, ולכן כדאי לחקור כיצד למקסם את היתרונות הללו, תוך הימנעות ממלכודות פוטנציאליות", נאמר במכתב.
בין התחומים שארגון Future of Life Institute שיזם את המכתב 'שם על השולחן' נמצאות מערכות נשק חכמות. תחום שהתעשייה הביטחונית הישראלית נחשבת מובילה בו. מל"טים, כרב"מים, כשב"מים, כצב"מים או שילוב אחר של 'ב"מים' שתרצו, סביר להניח שיש מחקר כזה בישראל. בין פרוייקטים של מפא"ת, אוניברסיטה מתקדמת ותעשייה ביטחונית עתירת יצירתיות, ישראל, לצד ארה"ב, היא אחד המקומות שאליו נישאות עיניים כאשר מדברים על מערכות לחימה חכמות.
אין ספק שאחת הסיבות לכך היא המציאות הביטחונית שמחייבת את ישראל למצוא מנופי כוח מול כוחות גדולים ממנה בהרבה, וטכנולוגיה היא מנוף מצוין. יחד עם זאת, שאלות של אתיקה טכנולוגית, נעדרות באופן קבוע מהשיח הישראלי. בין שזה בגלל הגבלות צנזורה (אי אפשר לדבר על משהו שרשמית לא קיים), חשדנות טבעית של העוסקים בנושא בארץ, או בשל נורמות התנהגות הנגזרות מהעולם הצבאי שאינן מדרבנות שיח אתי בנוגע לנושאים כאלו. לא משנה מה הסיבה, דיון כזה לא מתקיים בזירה הציבורית.
אבל, כפי שטוענים כותבי המכתב, בשביל תכנית ארוכת טווח צריך להפסיק להתייחס לנושא זה כפנטזיה טהורה, ולהתחיל להתייחס לאפשרות שאינטליגנציה גבוהה יותר מזו שלנו יכולה יום אחד להתחיל לפעול נגד אלו שתכנתו אותה. אני מניח שאת הסרט "שליחות קטלנית" הרבה מקוראי מילים אלו ראו.
המכתב הזה מצטרף להצהרות קודמות שהעלו מנכ"ל SpaceX וחברת טסלה, אילון מוסק, שיושב במועצת המנהלים של המכון, שכינה את האינטלגינציה המלאכותית "זימון השד". הוא אמר שמדובר בטכנולוגיה הרסנית יותר מכלי נשק גרעיניים. "אני יותר ויותר נוטה לחשוב שצריך להיות פיקוח ממשלתי, אולי ברמה הלאומית והבינלאומית, רק כדי לוודא שאנחנו לא עושים משהו טיפשי מאוד", אמר מוסק באותו הזמן.
עוד אישיות שהזהירה מפני הנושא היא הפיזיקאי המפורסם סטיבן הוקינג. גם הוא, טען שצריך להיזהר מאינטליגנציה מלאכותית. "למרבה הצער, האינטליגנציה המלאכותית יכולה להיות האירוע הגדול ביותר של האנושות, אבל הוא יכול להיות גם האחרון. אלא אם כן נלמד כיצד ניתן למנוע את הסיכונים. בטווח הקרוב, צבאות בעולם שוקלים פיתוח מערכות נשק אוטונומיות שיכולות לבחור ולחסל לבד מטרות; האו"ם וארגון Human Rights Watch פרסם אמנה האוסרת על נשק כזה.
"[...] אפשר לדמיין טכנולוגיה כזו מערימה על שווקים פיננסיים, ממציאה דברים שהם מחוץ לטווח ההשגה של חוקרים אנושיים, מחוץ לתמרון מנהיגים אנושיים, ומפתחת נשק שאנחנו לא יכולים אפילו להבין", אמר הוקינג.
גם ארגון Human Rights Watch, כפי שצוין קודם, קיים דיון בנושא תחת המושג killer robots. הארגון אפילו פרסם נייר עמדה מפורט תחת השם "איבוד האנושיות" (PDF). דיונים סביב הנושא מתקיימים גם באו"ם ובמפגשים שונים בהם שותפות מאות מדינות שכולן מצד אחד רוצות טכונלוגיה כזו שתעזור להן להגן על הריבונות ומצד שני מפחדות מההשלכות הנלווות אליה. פורום כזה אפשר למצוא למשל באתר stopkillerrobots.org.
פרויקט נוסף שכדאי לשים לב אליו בהקשר זה הוא "מאה שנים של אינטליגנציה מלאכותית" או AI100. מדובר בפרויקט שממומן על ידי המנהל של מרכז המחקר של מיקרוסופט, Eric Horvitz ואישתו. הפרויקט נעשה בשיתוף אוניברסיטת סטנפורד.
הנושא הגיע גם לצבא האמריקאי שהוציא בשנת 2012 הוראה כתובה סביב השימוש במערכות נשק אוטונומיות וחצי אוטונומיות (DoDD 3000.09). אני לא מצאתי התייחסות כזו לנושא מאף גורם בצה"ל או במשרד הביטחון הישראלי. (אם יש, אשמח לדעת על זה). רק כדי לסבר את האוזן, וככל הידוע לי, צה"ל לא מפעיל מערכות אוטונומיות לחלוטין שיכולות לבחור ולהשמיד מטרות לבד. בצה"ל, יש תמיד אדם במעגל לפני פתיחה באש.
לכתבות נוספות באתר ISRAEL DEFENSE היכנסו לעמוד הפייסבוק החדש של nrg
נא להמתין לטעינת התגובות
אקו"ם