תמונת השבוע שעבר היא זו של נתניהו בפגישתו עם אילון מאסק. יותר מהתמונות המדיניות היא הצביעה על שינוי מגמה אמיתי בחיינו, שמשפיע גם על המישור הפוליטי. אנחנו חיים בעולם שבו ענקי טכנולוגיה חשובים לפעמים לא פחות ממנהיגי מדינות, ואולי יותר. נתניהו מזהה את המגמה הזו ומנסה להוביל את ישראל על גל הבינה המלאכותית, "הדבר הגדול הבא".
השנה האחרונה, על עליות הריבית שלה, הביאה לשינוי במדיניות ההשקעות הגלובלית. אלה כבר לא זורמות כמים לכל סטארטאפיסט עם רעיון ומצגת, אלא הופכות לממוקדות ומדויקות יותר. קרנות, גופים ומשקיעים פרטיים מסיטים השקעות לפיתוחי בינה מלאכותית. שבע חברות הטכנולוגיה הגדולות – אפל, מיקרוסופט, אלפבית (גוגל), אנבידיה, אמזון, מטא (פייסבוק) וטסלה –אחראיות לעלייה של כ־80% מהעלייה השנתית במדד נאסד"ק, וכולן עוסקות בבינה מלאכותית. השווי המצרפי שלהן עולה לכדי 43% מהתוצר הלאומי של ארצות הברית כולה. מדובר בחברות שמגלגלות יותר כספים מחלק ממדינות העולם, וההשפעה שלהן בהתאם.
מטבע הדברים, ישראל שואפת להיות חלק מהעולם הזה. מבחינה זו לא כל כך חשוב על מה בדיוק דיברו מאסק ונתניהו, אף שהתקשורת עסקה בהרחבה בעיקר באמירות הפוליטיות שהשמיעו השניים; חשיבותה העיקרית של השיחה היא בעצם קיומה. כמו במקרה של חיסוני הקורונה ושיחות הטלפון בין נתניהו למנכ"ל פייזר אלברט בורלא, יש משמעות לכך שראש המדינה מתייצב בעצמו ומוביל את המהלך. לישראל יש כבר מוניטין של מרכז חדשנות והייטק, אבל נתניהו מסמן למשקיעים שממשלת ישראל עצמה מושקעת בתחום. בשנה של חוסר יציבות, זהו מסר שישראל ונתניהו במיוחד רוצים לשדר.
לישראל כבר יש מוניטין של חדשנות והייטק, אבל בפגישה עם מאסק נתניהו מסמן שממשלת ישראל עצמה מושקעת בבינה המלאכותית
ההזדמנויות הכלכליות שהטכנולוגיה הזו מציעה שניות רק לאיומים הגלומים בה. אלה נעים מפגיעה בפרטיות ועד השמדת האנושות, תלוי עם מי מדברים. רק לפני חצי שנה חתם מאסק, יחד עם שורה ארוכה של מנהיגי התעשייה וחוקרי הבינה המלאכותית, על מכתב שקרא לתעשייה להשהות את המשך הפיתוח בתחום עד שיפותחו כלי רגולציה ופיקוח מתאימים. לטענתם, חברות המפתחות כלי בינה מלאכותית "כלואות במרוץ שיצא משליטה לפיתוח ושיגור מוחות דיגיטליים עוצמתיים, ואף אחד – אפילו לא יוצריהם – לא יכולים להבין, לחזות או לשלוט בהם באופן אמין". לפי המכתב, כלים אלה נושאים "סיכונים עמוקים לחברה ולאנושות".
יותר ויותר נשמעים קולות הקוראים להגביל את הטכנולוגיה החדישה הזו, פיתוחיה והשימושים בה, מתוך חשש מהפוטנציאל המסוכן שלה. בינה מלאכותית היא טכנולוגיה שנועדה לחקות את בני האדם, וכדי להשתכלל היא לומדת כל העת. כלי בינה מלאכותית אוספים מידע ונתונים, מעבדים אותם, ולומדים כיצד להגיב באופן רלוונטי כמו שאדם היה מגיב, או לפעול כפי שאדם היה פועל. זה הרבה יותר מאלגוריתם. ברמה כזו של למידת מכונה, מי שמעצב אותה שולט רק על מה שנכנס אליה ועל הפרמטרים שהוא מגדיר להחלטות, אבל אין לו שליטה על התוצאה של הלמידה שהמכונה מנפיקה.
"זו מהפכה של ממש. אני לא רואה תעשיות שלא יושפעו ממנה, ועדיין קשה לצפות את האתגרים שהיא תביא", אומרת יסמין לוקץ׳, המנכ״לית והמייסדת של ICON ומשקיעת הון־סיכון. "אחד האתגרים שכבר היום דורשים התייחסות נוגע להיבטים האתיים שלה. ג'ינרוט (ייצור אוטומטי) של תמונות לדוגמה, מביא תופעות כמו פייק ניוז לרמת אמנות אחרת לחלוטין, ומדובר ביכולת שפתוחה לכל אדם עם מחשב וכמה דקות פנויות. יש שאלות נוספות כמו השפעות על שוק העבודה, קניין רוחני, ושאלות מוסריות לגבי אפליה אלגוריתמית. כל העולם מתמודד איתן, ואני מעריכה שגם המחוקק הישראלי יצטרך להיות עם יד על הדופק כדי להבין איזו רגולציה תידרש".
רואים אותנו
הנה דוגמה אחת, מהשבוע: ועדת השרים לחקיקה אישרה הצעת חוק שמאפשרת למשטרה להציב מצלמות ביומטריות במרחב הציבורי. אלו מצלמות שמשתמשות בטכנולוגיית בינה מלאכותית לזיהוי פנים, ויכולות לזהות גם מצבי רוח ומאפיינים אישיים. זו לא סתם מצלמה במרחב הציבורי, אלא מצלמה שיודעת לזהות מי אני, איפה הייתי וכיצד חשתי. כלי בינה מלאכותית מאפשרים ניטור אינטנסיבי ופלישה לפרטיות של אזרחים, וכשאלה מצטרפים לכוח ממשלתי ומצויים בידי משטרות, צבאות וגופים חשאיים – יש כאן הרחבה אדירה של הכוח המדינתי, אולי כזו שלא היינו רוצים לתת בידיה.
כלי סייבר התקפי משמשים מדינות מזמן לא רק כלפי חוץ אלא גם כלפי פנים. מדובר בכלים כמו "פגסוס" אבל גם בכלי פרופיילינג מבוססי בינה מלאכותית שפועלים בנתב"ג לאיתור הברחות; מערכת המצלמות "עין הנץ", שמאפשרת למשטרה לעקוב אחרי תנועות של אזרחים; כלי איכון שמשמשים את השב"כ ושראינו את פעולתם בתקופת הקורונה.
כלי סייבר התקפי מעניקים לממשלות ולגופים אחרים יכולת ליצור תסיסה חברתית באמצעות בינה מלאכותית. זה לא מדע בדיוני, זאת מציאות שמתקיימת באמצעות בוטים שמחדירים מסרים, כולל ידיעות שקריות ומעוצבות היטב שמחוללות השפעה פוליטית וחברתית, כזו שכבר הביאה למהומות אלימות בעולם. בוט כזה, בהפעלה איראנית, הפיץ כאן בשבוע שעבר תמונה של מפקד פיקוד מרכז מעוצב בדמותו של אדולף היטלר.
הכלים הללו, והחשש משימוש בעייתי ומדליפה של מאגרי מידע שנאספים על ידי כלי בינה מלאכותית, מביאים כאמור לקריאות הולכות וגוברות להגביל את השימוש בהם, במיוחד על ידי המדינה. הנה כמה דוגמאות להגבלות כאלה: הגדרה שהנתונים צריכים להימחק בתוך מסגרת זמן מוגדרת מראש ולא להישמר במערכת; מגבלות על המיקומים שהמצלמות יכולות להיות מוצבות בהם, ובאיזה אופן אפשר להשתמש בהן; ופיקוח אינטנסיבי על מי יכול להשתמש במידע ובאילו תנאים. למשל, חוק המצלמות כולל חובת אישור של קצין משטרה ודיווח שנתי על היקף השימוש ליועצת המשפטית לממשלה.
שאלות משפטיות מורכבות עשויות להתעורר כאשר גופים עסקיים משתמשים בכלי בינה מלאכותית לתכנון עסקי. אותם גופים יכולים להשתמש גם במידע חסוי, בפרטים אישיים של העובדים או במידע עסקי – אבל כל אלה נכנסים לתוך כלי חיצוני, ואין באמת יכולת לשלוט על המידע ולהגן עליו. המידע שהוכנס אל הכלי עשוי לשמש אותו בעתיד בעבור גורמים אחרים, והמידע הפרטי או החסוי עלול להגיע לידיים לא רצויות. באיזו מידה יש אחריות למי שמשתמש בכלי?
"כשבונים כלי שמשתמש בבינה מלאכותית עולות הרבה שאלות משפטיות", אומר עו"ד אריאל יוספי, מנהל מחלקת טכנולוגיה ורגולציה במשרד עו"ד הרצוג־פוקס־נאמן. "למשל, כלי שמחשב עבור בנקים מהם סיכויי ההחזר של לקוחות ונותן להם הלוואה מותאמת אישית. יש כאן שאלת פרטיות, אם מותר להשתמש במידע אישי של לקוחות. יש שאלה על שוויוניות השירות כלפי הצרכנים; האלגוריתם לא מספיק מוסבר, ואי אפשר לדעת על מה ההחלטה מבוססת. במקומות כאלה צריך רגולציה, למשל הסבר איך התקבלה ההחלטה ומתן אפשרות ערעור בפני בנקאי".
אימת הרובוטים
הנה עוד זווית שבה רגולציה נחוצה: חשבו על פיתוחים טכנולוגיים של בינה מלאכותית שיכולה לבצע טיפולים רפואיים או לעשות בדיקת ראייה. מה קורה כשמשהו משתבש? רופא מקבל רישיון וכפוף לתנאי אתיקה ולמערכת חוקית, ובמקרה של רשלנות רפואית אפשר גם לתבוע אותו. את מי תובעים במקרה של בדיקה או טיפול שהשתבשו? את החברה שייצרה את המכשיר? החברה שפיתחה את התוכנה?
מכונה שלומדת מבני אדם לומדת גם את ההטיות והטעויות שלהם, ובינה מלאכותית עלולה לשחזר הטיות מובנות של בני אדם. אם היא לומדת למשל שלשחורים יש נתוני פשיעה והרשעה גבוהים, היא עלולה "ללמוד" ששחורים מסוכנים יותר, ואולי לתת את המידע הזה לגורמי אכיפה שעלולים לקבל אותו כמו שהוא, בלי להבין את המשמעויות ואת הפרמטרים שבהם היא השתמשה. למכונה אין שיקול דעת, אך גם לרגולטורים אין יכולת להבין את כל ההשלכות האפשריות שלה.
האיחוד האירופי הוא הגוף המתקדם ביותר כיום בקביעת רגולציה הנוגעת לבינה מלאכותית. חוק הפרטיות החדש של האיחוד קובע למשל שכל מאגר מידע שנבנה באינטרנט חייב להיות מוגן. ישנן הגבלות על אופן השימוש במידע רפואי שספקי הבריאות שלנו אוספים עלינו, מידע שיכול להיות שווה כסף רב, אבל הרגולציה מגבילה את אפשרויות השימוש של החברות במידע הזה. יש הגבלות מיוחדות לטרגוט שחברות פרסום ושיווק עושות באמצעות כלי בינה מלאכותית.
כמו תמיד, רגולציה מתפתחת לאט וטכנולוגיה מתקדמת במהירות האור. בישראל, גם בעידן פגסוס והבינה המלאכותית עדיין עושים שימוש בחוק להאזנות סתר. בסופו של יום גוברת ההבנה שהפיקוח היעיל יהיה זה שהחברות ישיתו על עצמן, לאחר שהממשלות יחילו עליהן אחריות ויגרמו להן לחפש ולמצוא את הדרכים למנוע פגיעה אפשרית מהכלים שהן מייצרות.
נראה שמה שהכי מפחיד אותנו בבינה מלאכותית הוא אותה חרדה ישנה מעליית המכונות והאימה מהרובוט, והתחושה שמכונות יוכלו להחליף אותנו כבני אדם. היכולת של בינה מלאכותית לחקות רגשות ותגובות של בני אדם משוכללת כל כך, שהיא עלולה להחליף מערכות יחסים אנושיות. לא ירחק היום שבו כלי בינה מלאכותית יציע טיפולים פסיכולוגיים במחירים נמוכים, ואז נשאל את עצמנו אם האדם עדיף על המכונה. אם מכונה יכולה לייצר יצירות אמנות כמו בן אדם, אולי אין טעם באמנות.
אנחנו נכנסים לעידן חדש שבו מכונות יעשו רבים מהדברים שאנחנו עושים. יש בכך הרבה סיבות לחשש, אבל גם נקודות אור. כשהמכונות יחליפו הרבה מהפעולות שלנו ויעשו אותן טוב מאיתנו, נוכל להבין מה הופך אותנו לבני אנוש. אנחנו שמחים למכונה ששוטפת במקומנו את הכלים, אבל אולי לא נרצה מכונה שתקלח את הילדים שלנו במקומנו. יצירת אמנות שמאחוריה רגש אמיתי וסיפור אמיתי של אדם אמיתי, תקבל משמעות אחרת. לאותנטיות של הטיפול הרגשי תהיה משמעות גדולה יותר מעבודה לפי הספר. המכונה תחליף אותנו במקומות שבהם מכונות יהיו יעילות יותר, אבל לאדם יישאר מוֹתר מהבהמה. מה שהופך אותנו לאנשים יתחדד, והוא יהיה יקר המציאות.
