כשאנשים חושבים על מדע בדיוני הם בדרך כלל מדמיינים מסעות בחלל, קרבות לייזר או סרטים עתירי תקציב. המקרה של סדרת הרשת "The Crown Experiments" – "מבחן הכתר" – שונה בתכלית. עלילת הסדרה מתרחשת בחדר אחד עם תאורה מינימלית. בפינה אחת של השולחן המוצב במרכזו יושבת דמות הפסיכולוג, ובפינה האחרת יושב בכל פרק רובוט אחר. הרובוטים כולם דמויי אדם, ונראים אנושיים לחלוטין. הם מסוגלים להזיל דמעות ולהביע רגשות, ונדמה שרק צליל מכני שמושמע מדי פעם כאשר הם חושבים מסגיר את היותם רובוטים. בסדרה הפסיכולוג נפגש עם הרובוטים רגעים לפני שמכבים אותם – כלומר, מוציאים אותם להורג – באשמת רצח. הוא מנסה להבין את המניעים לפשעים שלהם, ולגלות האם הרגשות שלהם אמיתיים או מזויפים.
"מבחן הכתר" היא למעשה דרמה פסיכולוגית שחוקרת את נבכי נפשם של רובוטים במציאות עתידנית. חומר אפל מהסוג שיגרום לכם להתכווץ בכיסא. מאחוריה עומדים האחים יוש ושלומית גינתון; שלומית (34) היא בוגרת החוג לאנימציה בבצלאל, ויוש (29) בוגר מגמת הפקה בחוג לקולנוע באוניברסיטת תל־אביב. כדי לקבל חוות דעת על התסריט הם פנו לשחקן ישי גולן, שנודע בין השאר מתפקידיו בסדרות כמו "חטופים" ו"כפולים". הוא התפעם מהרעיון ונכנס לנעלי הדמות הראשית של הפסיכולוג המנוכר, ובמקביל סייע בהפקה והיה שותף פעיל לאורך העבודה. את דמויות הרובוטים דמויי האדם מגלמים אניה בוקשטיין, אנחל בונני, חני פירסטנברג ויפתח אופיר.
"אף אחד לא זוכר מתי בדיוק הרעיון נולד. באופן כללי אנחנו מתעניינים מאוד בתחום של בינה מלאכותית", מספר יוש, "לפני כמה שנים חוקרים קנדים בנו רובוט שלא היה יכול ללכת, אבל היה יכול לבקש מאנשים טרמפים. הם עשו אותו חמוד כזה, עם פרצוף מחייך. הם שמו אותו בצד הדרך, הוא ביקש טרמפ מאנשים ומטרת הניסוי הייתה לבדוק אם הוא יכול להגיע ליעד שלו. אנשים ממש אהבו אותו, לקחו אותו איתם לאן שהוא היה צריך ואפילו הצטלמו איתו. אחר כך ניסו את זה בעוד כמה מקומות, בהולנד ובגרמניה, וכששלחו את הרובוט לארצות־הברית מישהו הוציא עליו את העצבים שם וכיסח אותו, פשוט פירק לו את הצורה, וזה היה הסוף של הרובוט החמוד הזה. יש כל מיני סיפורים יפים כאלה על רובוטים שדומים לבני אדם.
"במדיום של הקולנוע בדרך כלל הסיפורים שקשורים לרובוטים ולבינה מלאכותית הם סביב איך שהם יתחילו למרוד באנושות, ישתלטו עלינו ויתחילו להילחם בנו; איך הם יעקפו את המנגנון והגולם יקום על יוצרו. שלומית ואני חשבנו שיהיה הרבה יותר מעניין דווקא לא להתמקד בפן הזה, אלא יותר בנזקים שאנחנו, בני האדם, יכולים לעשות להם בתור העבדים שלנו, ובתסביכים הפסיכולוגיים שנגרום להם – כשנגרום להם לשרת בצבא, למשל, ונעביר את כל החוויות השליליות אליהם. רצינו לעשות סדרה על תסביכים פסיכולוגיים של רובוטים, ולהתמקד בנפש".
יוש גינתון: "בקולנוע בדרך כלל הסיפורים שקשורים לרובוטים הם סביב איך שהם יתחילו למרוד באנושות ולהילחם. חשבנו שיהיה הרבה יותר מעניין להתמקד דווקא בנזקים שאנחנו, בני האדם, יכולים לגרום להם"
שלומית: "משם זה כבר התקשר לשאלה הקלאסית שמעסיקה לא רק מדע בדיוני אלא את האנושות בכלל: מה זה בעצם להיות אנושי, ומתי משהו מכני הופך להיות אנושי כמונו? למשל, האם בן אדם פסיכופת הוא אנושי יותר מרובוט שמראה סימפתיה?"
רעיון מקורי, הפקה צנועה
הסדרה הישראלית דוברת אנגלית, והיא בנויה משישה פרקים קצרים, שאורכו של כל אחד מהם לא עולה על עשר דקות. הסדרה הושקה בהקרנה יחידה מול קהל מצומצם בפסטיבל אייקון, ועולה במלואה לראשונה ביוטיוב לציבור הרחב, פרק אחר פרק מדי יום ראשון. שלושת הפרקים הראשונים כבר הועלו, והבאים יפורסמו בשבועות הקרובים.
איך נוצר החיבור עם ישי?
שלומית: "את ישי הכרנו מפרויקט קודם, שהיה גם כן סדרת רשת, שבה הוא שיחק תפקיד ראשי. שלחנו לו את התסריט הפעם בשביל ביקורת".
"ואז בעצם השתלטתי להם על זה", הוא מתפרץ. "חטפתי את זה וגזלתי מהם את הבייבי שלהם. הם שלחו לי כדי לקבל את דעתי, ואני התאהבתי בחומר. חשבתי שהוא מקורי, חכם ובשל. זה פורמט שהוא חדשני מאוד, או נישתי, אבל שלושתנו הרגשנו שצריך פשוט לקום ולעשות את זה, שאין מה לחכות לתמיכות. יש משהו באופן שבו הסדרה כתובה שמאפשר את זה, אתה רק צריך את התשוקה כדי לעשות את זה. אמרתי להם מה אני חושב והחלטנו לצאת לדרך".
עזרת גם בליהוק של השחקנים האחרים.
"כן. זה פרויקט שבמהותו יש אלמנטים ניסיוניים, אז בכלל לא מובן מאליו ששחקנים מהשורה הראשונה שעובדים עמוק בתוך העולם המסחרי – אניה הופיעה ב'משחקי הכס' ואנחל שיחק בסדרה 'אבסנטיה' של סוני – הסכימו להשתתף במשהו שהוא כל כך לא ודאי בתוצאה שלו. התרגשנו מאוד מזה שכל השחקנים המדהימים האלה נענו בלי להתלבט בכלל, כי הם התחברו מאוד לחומר ואלה תפקידים מאתגרים, מעניינים וכיפיים לכולם. הם תרמו הרבה להצלחת היצירה הזו. זו הפקה צנועה מאוד, וההסכמה שלהם להשתתף גם הפיחה בנו אמונה שהדבר הזה טוב, וכמובן גם תרמה לתוצאה. כולם שחקנים שהייתי לוקח אותם לכל דבר".
בסוף השגתם תמיכה כלשהי להפקת הסדרה או שהכול בכוחות עצמכם?
שלומית: "קיבלנו תמיכה מהאגודה הישראלית למדע בדיוני ולפנטזיה".
יוש: "זה קרה בדיעבד, אחרי הצילומים. גם אוניברסיטת תל־אביב עזרה, היא השאילה את הציוד וזה צולם באולפן שלהם. הסדרה צולמה במשך שבוע אחד. בלילות היינו משתלטים על האולפן, מקימים את התפאורה, ולפנות בוקר הולכים".
"כולם באו אחרי יום עבודה", מציינת שלומית, "אניה הייתה בהיריון בחודש שביעי".
יש מגעים להפצה ולשידור של הסדרה?
ישי: "יש מגעים ויש התעניינות גדולה, האמת. זה עוד לא סגור, אבל יש עניין מכל מיני גופים שונים, גם בארץ וגם בחו"ל".
ישי גולן: "זה פרויקט שבמהותו יש אלמנטים ניסיוניים, אז בכלל לא מובן מאליו ששחקנים מהשורה הראשונה הסכימו להשתתף, והם נענו בלי להתלבט בכלל כי הם התחברו מאוד לחומר"
האנגלית היא כדי לכוון לחו"ל?
שלומית: "האמת שדווקא לא. האנגלית היא כי הרגשנו שדווקא לישראלים יהיה קשה לאכול דבר כזה בעברית, וזה עלול להישמע להם מגוחך. זאת אומרת, אם מישהו בצרפת רואה סדרת מדע בדיוני בעברית, דווקא לא אכפת לו, זה נראה לו בסדר".
יוש: "הישראלים מאוד סקפטיים בנוגע לז'אנר הזה של מדע בדיוני. זה לא היה אמין מספיק בעיניהם אם זה היה בעברית".
שלומית: "הם היו חושבים לעצמם – 'מה, כאילו אנחנו המצאנו את זה?'"
כולנו מזייפים
במרכז הסדרה ניצבת דמותו של סבסטיאן קראון, פסיכולוג מריר עם נטיות אובדניות, בגילומו של גולן. דווקא הפסיכולוג האנושי מצטייר כקר וחסר חשק, בעוד הרובוטים שפשעו כמהים להרגיש אנושיים, ונואשים להמשיך לחיות. באחד הפרקים, רובוטית שרצחה כומר שהתעלל מינית בילדים מסבירה שעשתה את זה כדי שהחטא לא ייפול על בני האדם שאותם היא משרתת, כך שהם יוכלו להגיע לגן עדן. הפסיכולוג, מצידו, מתפלא שהיא מאמינה בכוח עליון, במחשבה שזו תופעה אנושית מדי.
ישי גולן: "הרבה אנשים בעולם מרגישים רגשות עזים מאוד ובטוחים שהרגשות האלה קשורים לאינדיבידואל שלהם, בזמן שזה לגמרי לא נכון, ואלה רגשות עדריים – שזה שווה למתוכנתים"
הסדרה מצטטת קטעים מתוך יומנה של הרה תומפסון, דמות של חוקרת במציאות העתידנית שבה מתרחשת הסדרה, שראיינה רובוטים רבים והגיעה במחקרה למסקנה שהרגשות של הרובוטים הם מזויפים. "לא התאפקנו, וגם בתוך המיני־עולם הזה יצרנו עוד מיני־עולם", אומרת שלומית על דמותה המסתורית של תומפסון, "היא יצרה את הבינה המלאכותית המתקדמת ועומדת מאחורי פריצת הדרך שגרמה לרובוטים להיות אנושיים כל כך, והיא בעצמה לא מאמינה שהרגש שלהם באמת אנושי. היא חושבת שזה רק חיקוי ממש טוב".
"תומפסון היא האם המייסדת של הרובוטים האלה, והיא בעצמה קצת מאוכזבת מהיצירה שלה", מרחיב יוש, "היא חושבת שהיא יצרה כלבי מחמד ולא משהו אמיתי שבאמת מרגיש. היא מעידה נגד זכויות הרובוטים בעולם שיצרנו. אין לה ילדים ומשפחה משל עצמה, היא בסוף מסיימת זקנה ובודדה".
אחת הדמויות בסדרה אומרת באחד הפרקים: "כולנו מזייפים". באמת התהייה הכי מטרידה שעולה מהסדרה היא המחשבה שאולי גם הרגשות שלנו, בני האדם, מזויפים.
"כן. יש גם קטע שבו הדמות של סבסטיאן אומרת: 'אני משתתף בצערך', והרובוטית אומרת לו: 'אתה לא צריך לשקר לי'. הוא אומר לה: 'אני לא משקר, בני אדם לא מזייפים', אבל הזיוף הזה של רגשות הוא הדבר הכי אנושי שיש".
ישי: "ברגע שהפכת את היוצרות פה – נתת רגשות לרובוטים, והאדם הוא לא רגיש – פתאום אתה יכול לשחק עם חומר הגלם הזה. יש לך בני אדם מנוכרים ורובוטים רגישים, ואתה כבר לא יודע מי זה מה, מי הרובוט ומי האדם. הקו מיטשטש מאוד.
"לא מזמן הבן שלי אמר למכשיר: 'היי, גוגל, איי לאב יו'. הוא שמע כתשובה: 'איט פילס גוד טו בי לאבד'. אז הנה תוכנה כבר יודעת לבטא רגש, כי היא מתוכנתת ככה. אנחנו יוצרים את הרובוטים בצלמנו, כלומר בצלם האדם, וככל שהאינטליגנציה תתפתח, מן הסתם הרובוטים יתחילו לפתח את אותם תסביכים שיש לבני אדם".
עולה גם התהייה, האם אנחנו לא מתוכנתים פעמים רבות מדי בידי אחרים.
שלומית: "בסופו של דבר ברור שהסדרה לא מדברת על רובוטים, אלא על בני אדם. כשהאדם עומד מול הרובוט ולא מאמין לו שהוא כמוהו ויש לו גם רגשות – זה משהו שקורה בעולם האמיתי בין אנשים לאנשים אחרים; 'הוא לא כמוני, אז אני לא מייחס לו את אותה אנושיות שאני מייחס לעצמי'".
ישי גולן: "הדבר הראשון שתפס אותי בקריאת התסריט וחיבר אותי לדמויות האלה, זה שכל הרובוטים סובלים מבדידות איומה. זאת הברקה תסריטאית בעיניי, כי זה תופס מאפיין אנושי"
ישי: "הרבה אנשים בטוחים שהם לא מתוכנתים, אבל בעצם הם כן. ברור שהרבה אנשים בעולם מרגישים רגשות עזים מאוד ובטוחים שהרגשות האלה קשורים לאינדיבידואל שלהם, בזמן שזה לגמרי לא נכון, ואלה רגשות עדריים – שזה שווה למתוכנתים".
באחד הפרקים מסופר איך אנשים ניצלו רובוטים לצורכי מלחמה, ומיליוני רובוטים נהרגו. במידה מסוימת המציאות הזו היא הקצנה דיסטופית של מציאות קיימת, שבה בני אדם מסוימים מנצלים בני אדם אחרים?
שלומית: "אני אפילו לא חושבת שזו הקצנה, אני חושבת שאנשים באמת מתים במיליונים במלחמות שלא הם יזמו".
ישי: "הצבא של ארצות־הברית בנוי על השכבות הכי חלשות וחשופות לניצול. מעמד תחתון, היספנים, שחורים, חסרי השכלה ועבריינים שהם פשוט בשר תותחים, ואין להם כלום עם המטרה של המלחמה. זו תופעה ידועה לכל אורך ההיסטוריה האנושית, וכאן יש דימוי יפה לזה. כאילו האנושות מייצרת עוד מעמד, שאותו היא יכולה לנצל לטובתה".
אתיקה של רובוטים
הרעיון לסדרת הרשת נלקח למעשה ממחשבה על יצירה רחבה יותר. "זה התחיל בתור רעיון לסדרה ארוכה שלא קורית רק בתוך הקליניקה, ויש בה יותר דמויות ויותר סטים", מספר יוש, "זה לא שאמורים להיות בה יריות מרובה לייזר, זה עדיין סביב פסיכולוגיה של רובוטים, אבל זו כבר סדרה שדורשת תקציב, הפקה וטלוויזיה. כשבנינו את העולם הבדיוני ואת ההיסטוריה שלו, הייתה שם אנקדוטה על הפסיכולוג הראשון שטיפל ברובוטים".
אז זה בעצם ספין־אוף לסדרה שעוד לא קיימת.
"אמרנו: החלק הזה של הפגישות עם הפסיכולוג הוא שיחה בין שני אנשים שיושבים בחדר, ואת זה אפשר לצלם בלי תקציב ובלי גוף שידור, באופן עצמאי".
התקווה היא שסדרת הרשת תצליח ואז תוכלו להפיק את הסדרה המלאה?
ישי: "יש לנו שתי תקוות – אחת היא לייצר סדרה של פרקים ארוכים, והשנייה היא שגם סדרת הרשת בפורמט הזה תמשיך ותתפתח בפני עצמה. אנחנו יכולים לדמיין עונה שנייה לזה עם פרקים קצרים, ואנחנו יכולים לדמיין עונה ראשונה לסדרה הארוכה". לאחים גינתון, אגב, יש כבר רעיונות לעונה השנייה של סדרת הרשת.
"הרבה פעמים בסרטי מדע בדיוני הדגש הוא על ההיבט הוויזואלי של העולם, יש גירוי ויזואלי כלשהו שקשור לעולם הבדיוני", אומר יוש, "כאן, בלי תקציב ובלי אפקטים, יש רק שני אנשים שמשוחחים בחדר, ויש דגש חזק הרבה יותר על הדמויות ועל הסיפורים שלהן. במדע בדיוני מפנטזים על המצאה טכנולוגית כדי להעלות שאלות פילוסופיות שמעניינות אותך כרגע. יש כאן המצאה עתידנית שמאפשרת לחקור שאלות שמעסיקות אותנו היום".
שלומית גינתון: "עם מציאות כלשהי של בינה מלאכותית גבוהה כולנו נצטרך להתמודד, ממש בקרוב. אנחנו עוד לא יודעים איך זה ייראה, ואנחנו לא מנסים להתנבא פה"
הבדידות היא מוטיב מרכזי בסדרה. רציתם לומר שבעצם החיים המודרניים גזרו עלינו בדידות?
ישי: "הדבר הראשון שתפס אותי בקריאת התסריט וחיבר אותי לדמויות האלה, מה שחשבתי שהוא מבריק, זה שכל הרובוטים סובלים מבדידות איומה. זאת הברקה תסריטאית בעיניי, כי זה תופס מאפיין אנושי, זה הגיוני מאוד וקל להזדהות עם זה".
כי גם כל אחד מאיתנו נוצר בתבנית משל עצמו, וחי בתוך התודעה של עצמו, ובעצם כולנו בודדים במידה מסוימת.
שלומית: "כן, וכשניסינו לעשות כל רובוט בפני עצמו כאנושי, זה מה שיצא – שכל אחד מהם בודד".
ובסוף זו התכונה הכי אנושית: הבדידות.
"כן. הבדידות והפחד מהמוות".
אתם מרגישים שהעיתוי – ימים של ריחוק חברתי בעקבות מגפת הקורונה – הוא אידיאלי לתוכן כזה?
יוש: "האמת שכן, זו תקופה שבה הרבה אנשים מרגישים את הבידוד המודרני. אנשים עושים ארוחות משפחתיות בזום ופוגשים את הפסיכולוג שלהם בזום, אבל ברור שזה לא עונה על הצורך שלהם".
גולן מעלה דווקא נקודה אחרת. "מה שהופך את הזמן הזה לאידיאלי עבור הסדרה הוא שקל הרבה יותר לעכל היום דברים שנראו עד לא מזמן דמיוניים. אף אחד לא העלה על דעתו שיכול לקרות מה שקרה לנו בקורונה, חוץ מהמדענים והאפידמיולוגים. הרבה יותר קל לעכל עכשיו רובוטים שיש להם רגשות. הקורונה גם אילצה את כולם לעשות קפיצת דרך טכנולוגית, לטוב ולרע. זה פותח ערוץ שלם ושוזר את האדם ואת הטכנולוגיה באופן הרבה יותר מהותי ועמוק".
"מה שפעם נראה הגיוני השתנה", הוא מוסיף, "עד שנייה לפני הקורונה, אם היית מספר שארצות־הברית תחלק צ'קים ללא תמורה לאזרחים זה היה נשמע כמו משהו רדיקלי, קיצוני והזוי. עכשיו הכלכלה מתפוררת, כי היא לא בנויה להתמודד עם השינויים שהעולם עובר".
שלומית גינתון: "בסופו של דבר ברור שהסדרה לא מדברת על רובוטים, אלא על בני אדם. כשהאדם עומד מול הרובוט ולא מאמין לו שהוא כמוהו ויש לו רגשות, זה משהו שקורה בעולם האמיתי בין אנשים לאנשים אחרים"
בקרוב מציינים שבעים שנה לספר המכונן של אייזק אסימוב, "אני, רובוט". בין השאר הוא עסק שם באתיקה הקשורה לרובוטים. אלא שתחום הרובוטיקה לא התקדם כמו שאסימוב צפה.
שלומית: "הוא כתב ספר בדיוני, לא מדריך היסטורי או ספר נבואה. תמיד יש שאלה האם מדע בדיוני חזה את האופן שבו האדם נראה, או שמפני שכתבו את זה – לשם העולם הלך. אני חושבת שהם לא חוזים את המציאות, הם משפיעים על המציאות".
אפשר להגדיר את אסימוב כחלוץ בתחום האתיקה והפסיכולוגיה של רובוטים. הסופר הנודע ניסח את שלושת חוקי הרובוטיקה: החוק הראשון קבע שרובוט לא יפגע בבן אדם, החוק השני קבע שרובוט חייב לציית לפקודותיו של אדם (אלא אם כן הפקודה עוברת על החוק הראשון), ולפי החוק השלישי הרובוט חייב להגן על עצמו ולשמור על שלמותו (כל עוד זה לא כרוך בהפרה של החוקים הראשונים). "כל מי שאנחנו מספרים לו את התמצית הרעיונית של הסדרה מכיר את שלושת החוקים של אסימוב", אומר גולן, "כשאנחנו מספרים שהסדרה עוסקת ברובוטים שרצחו בני אדם, אנשים מתפלאים: 'רגע, אבל איך הם עקפו את החוק הזה'? מדהים איך העקרונות שהוא טבע הוטמעו באנשים".
מבחינה אישית, העיסוק ברובוטים מצית לכם את הדמיון? נניח, מערכות יחסים עם רובוטים הם דבר שאתם יכולים לדמיין?
שלומית: "אני לא יודעת אם זה ילך דווקא לשם, אבל אני חושבת שעם מציאות כלשהי של בינה מלאכותית גבוהה כולנו נצטרך להתמודד, ממש בקרוב. אנחנו עוד לא יודעים איך זה ייראה, וכמו שאמרתי על אסימוב, אנחנו לא מנסים להתנבא פה. אנחנו רוצים להגיד משהו לא על העתיד, אלא על ההווה. יכול להיות שעוד מעט יהיה פה דור שבו ההבחנות כבר לא יהיו רלוונטיות עבורו, ויגדל עם אינטליגנציה מלאכותית לצידו. כרגע טכנולוגיה של בינה מלאכותית משמשת לזיהוי פנים בידי הממשלה הסינית יותר מאשר פיתוח רובוטים אנושיים".
כוח על פני אושר
למעט תפקידו בסדרת הטלוויזיה "האי", ישי גולן נודע עד היום בעיקר בתפקידים ריאליסטיים, בטלוויזיה ובתיאטרון. הוא שיחק בין היתר בגרסה האמריקנית לסדרה הישראלית "החממה" שנמכרה לנטפליקס ("Greenhouse Academy"), ובעשור שחלף השתתף בתוכנית האוכל "Street Food Around The World" שעסקה במזון שמאפיין אזורים שונים בעולם. "זו בעצם התוכנית הכי פופולרית שהשתתפתי בה, היא זכתה בפרסים בינלאומיים ומשודרת ברחבי הגלובוס. כל פרק התרחש בעיר אחרת. אני עדיין מקבל על זה המון תגובות, מכל מיני מקומות בעולם".
יוש גינתון: "זו תקופה שבה הרבה אנשים מרגישים את הבידוד המודרני. אנשים עושים ארוחות משפחתיות בזום ופוגשים את הפסיכולוג שלהם בזום, אבל ברור שזה לא עונה על הצורך שלהם"
עולה השאלה, מה לך ולמדע בדיוני?
"אני אוהב מאוד מדע בדיוני, ומה שמשך אותי ב'The Crown Experiments' זה דווקא האנושיות שבה. היא אמנם עוסקת במדע בדיוני, אבל יש בה איכות ריאליסטית מאוד, כך שממש לא מוזר שאני משתתף בזה".
בלי לחשוף את כל פרטי העלילה, נציין שבמהלך הסדרה הפסיכולוג עורך לכל רובוט את "מבחן הכתר", במטרה לבדוק האם הרגשות שלו אמיתיים או לא. "כל הרובוטים שסובלים מבדידות וטוענים שהרגשות שלהם אמיתיים לא עוברים את המבחן, והיחידה שעוברת את המבחן היא דווקא הרובוטית הכי פסיכופתית", אומר גולן.
היא גם היחידה שאומרת בעצמה שהרגשות שלה מזויפים.
"כן, ויש לה נטיות פתולוגיות, היא קצת סדיסטית וערמומית, אבל היא מודעת".
למה הייתה הכוונה בעצם ב"מבחן הכתר"? שהדרך לזהות רגש אנושי היא דווקא להוכיח בחירה רגשית לא רציונלית?
שלומית: "המבחן הזה אומר: רובוט הוא לא בהכרח אנושי כשיש לו סימפטיה, כי הוא תוכנת לזה. הוא אנושי כשהוא מפתח תכונות שלא אמורות להיות לו. למשל, כשהוא יעדיף כוח על פני אושר".
יוש: "הרעיון היה למצוא רובוט שמפגין תכונות שלא תכנתו אותו אליהן במקור. המבחן טוען שהרובוט יהיה עצמאי באמת כשהוא יפתח תכונות שאף אחד לא רצה שיהיו לו. למשל אם הוא פתאום יראה קנאה או חמדנות".
שלומית: "אני חושבת שבדידות וניכור מהאחר, שאלה נושאים מרכזיים בסדרה, היו רלוונטיים לפני 200 שנה ויהיו קיימים גם בעוד 200 שנה, אם נשרוד. זה נכון לאקלים הפוליטי העכשווי, אבל נכון לאקלים אנושי בכל מקום".
במהלך הסדרה מוזכרת האפשרות שקרתה תקלה אצל הרובוטים שגרמה להם לרצוח. בני האדם מתקשים להבין מה יכול לגרום לזה לקרות, אבל עם הזמן מבינים שזו לא תקלה.
"זו לא תקלה טכנית, זו מעין תקלה פסיכולוגית. הבעיה היא שהם נעשו כל כך אנושיים, שחלק מתופעות הלוואי של להיות אנושי זה לרצוח".
