כשהמושג "מפא"ת" מגיע לחדשות, בדרך כלל נלווה אליו סרטון שמדגים יכולות של טיל מונחה מסוג חדש, טנק משוכלל ומהיר במיוחד או מערכת לייזר שיכולה להפיל מטוסים ממרחק של קילומטרים. מפא"ת – המנהל למחקר ולפיתוח אמצעי לחימה ותשתית טכנולוגית – דאג להביא לנו את החץ ואת כיפת ברזל, וגם מיזם חדשני של אילוף כלבים למניעת פיגועי טרור. אבל לאחרונה נקשר שמו של הגוף הביטחוני החשוב בפיתוח ישראלי מסוג אחר, שיעסיק דווקא גדודים של עורכי דין וגייסות של יועצים משפטיים.
"פנו אלינו ממפא"ת וסיפרו שהם מבקשים לייצר מערכת לעיבוד שפה טבעית שתבין עברית וערבית", מספרת כרמית יוליס, המשנה ליועץ המשפטי לממשלה. "זה היה פרויקט גדול שנהנה מתקציב של כ־200 מיליון שקלים. מאחר שמערכת כזאת בנויה בין השאר על ניתוחים סטטיסטיים – למשל, איזו מילה באה אחרי איזו מילה, איפה מופיעים סימני פיסוק – היה ברור שצריך להזין לתוכה כמויות עצומות של טקסטים כדי לאמן אותה. לכן הם היו זקוקים לחוות דעת משפטית בנושא של זכויות יוצרים.
"כשהשאלה הגיעה אלינו, הבנו מיד שהיא חורגת מעניינו של הגוף שהעלה אותה. הרבה חברות הזנק עשויות להיתקל בשאלות דומות, ולמסקנות שלנו תהיה השלכה לא מבוטלת גם על השוק הפרטי. שוק המערכות שיְלַמדוּ את המחשב מתפתח מאוד, וישראל היא מהמובילות בתחום".
המערכת שיוליס מתארת בנויה על בינה מלאכותית ולמידת מכונה – שניים מהביטויים החמים ביותר בעולם ההיי־טק זה זמן. לאחרונה, בעקבות פיתוח של כמה יישומים פופולריים, גם מי שאינם עוסקים בתחום באופן מקצועי יכולים להתרשם מהאפשרויות האינסופיות־כמעט הגלומות בו. אולם ההתפתחות הטכנולוגית המהירה מביאה לעולם גם אתגרים חדשים, רבים מהם בתחום המשפט. חוות הדעת שפרסמה לאחרונה המחלקה למשפט אזרחי באגף ייעוץ וחקיקה במשרד המשפטים, בראשותה של יוליס, עוסקת בשאלת זכויות היוצרים שעולה סביב ה"אימון" של מערכות ללמידת מכונה. לצידה של יוליס חתומים על המסמך עוד שניים מאנשי המחלקה למשפט אזרחי – עו"ד הווארד פולינר, העומד בראש אשכול קניין רוחני, ועו"ד ד"ר ליטל הלמן, שהיא גם מרצה למשפטים בקריה האקדמית אונו.
"חוות הדעת נכתבה אחרי סיעור מוחות נרחב, גם בתוך משרדי הממשלה וגם עם גופים חיצוניים", מסבירה לי יוליס כשאני נפגש איתה ועם שני עמיתיה. "השורה התחתונה שלנו היא שבמיזמים מהסוג הזה, אין צורך לרכוש את זכויות השימוש בכל יצירה ויצירה כדי לאמן בעזרתה את המכונה. השימוש בתכנים חוסה תחת החריגים שמופיעים בחוק זכויות יוצרים, שהמרכזי שבהם הוא 'שימוש הוגן'.
"כדי לייצר את למידת המכונה, המידע עובר הליך טרנספורמטיבי. המכונה לא מעוניינת במידע עצמו. זה לא כמו שאני אקרא טקסט ואתפעל מאופן הכתיבה שלו, או מרמת הדימויים. במקרה של מערכת השפה הטבעית, אתה מזין מילים כדי לייצר פונקציה מעשית. הפער בין שני המוצרים מצדיק את הגדרת הפעולה הזו כ'שימוש הוגן'".
כדי להסביר את המונח "הליך טרנספורמטיבי", יוליס מביאה דוגמה מתחום שונה מעט, לא טקסטואלי. "נניח שאני רואה כדור שנבעט, ואז הוא עובר מאחורי עץ שמסתיר אותו. אני לא רואה את הכדור, אבל יודעת שבעוד רגע הוא יצא מהצד השני. זה נקרא 'עקרון קביעות האובייקט', וילדים קולטים אותו בגיל צעיר מאוד. אבל כשמדובר במכונה, צריך למצוא דרך ללמד אותה איך זה עובד. יש לכך חשיבות רבה, למשל בפיתוח רכב אוטונומי: המערכת צריכה להבין שאם ילד עובר מאחורי עצם כלשהו, הוא עשוי לצאת מהצד השני, ואם לא ניקח את זה בחשבון עלולה להתחולל פגיעה. לשם כך מכניסים למערכת המון סרטי וידאו שמציגים את ה'תופעה' הזו. ברור לנו שמבחינת המערכת, לכל הסרטים הללו אין ערך אמנותי או אחר. הם נכנסו כדי לייצר תוכן מסוים, שאין דבר בינו ובין ערכה של היצירה".
כשרובוט מבקר במוזיאון
חוות הדעת החדשה, מדגישה יוליס, מגוננת על הליך הלמידה של המכונה, ולא על התוצר של הלמידה הזו. "אנחנו מבחינים בין השניים, בהבנה שבעידן של כמויות מידע אינסופיות, חלקה של כל יצירה ספציפית בתוצר הסופי הוא זניח. לעומת זאת, אם נכניס לתוך מכונה כזאת שירים של שלמה ארצי, ובסוף היא תייצר שירים שהשומע עשוי לחשוב שהם של שלמה ארצי – כאן אנחנו כבר לא בטוחים שיש הגנה. במקרה הזה החלק של יוצר מסוים הוא גדול מאוד, ולכן יעלו גם שאלות של צדק. חשוב להדגיש שלא לסוג כזה של למידה, ובוודאי לא לסוג כזה של תוצר, התכוונו במסמך שלנו. במקרים מעין אלה יחולו הדינים הכלליים של קניין רוחני, ואם אדם יצליח להוכיח העתקה ברמה גבוהה, כמו בדוגמה הזו של שלמה ארצי, תהיה לו כנראה עילה לתביעה. אגב, לא מדובר במשהו דמיוני: כבר היום יש ברשת פונקציות שכותבות שירים של אלתרמן".
אבל איך זכות הקניין הרוחני נעלמת פתאום, כשהיצירה משמשת ללמידת מכונה?
"היא לא נעלמת", חולקת יוליס. "יש מחלוקת עתיקה בין חכמי המשפט בשאלה אם זכות יוצרים דומה לכל זכות קניין, אבל לצורך השיחה נניח לרגע שהתשובה חיובית. גם בתחומים נוספים מתקיים הצורך לאזן בין זכות קניין ובין אינטרסים ציבוריים. לפעמים יש לאדם קניין פרטי ממשי, ואנחנו מכריחים אותו לעשות בו דברים שחורגים מהאינטרסים שלו.
"למשל, נניח שיש מתחם של שישים דירות שאמור לעבור תהליך של התחדשות עירונית, כי קיים מחסור בקרקעות ואנחנו צריכים לבנות עוד דירות, אבל הבעלים של אחת הדירות מסרב. לו זה ממש לא מתאים, הוא רוצה את הדירה שלו כמו שהיא. כאן יש לנו התנגשות קלאסית, ואנחנו צריכים להעמיד מול זכות הקניין והאינטרסים של האדם הספציפי את האינטרסים של הציבור.
כרמית יוליס, המשנה ליועמ"ש: "חלקה של כל יצירה ספציפית בתוצר הסופי הוא זניח. אם נכניס לתוך המכונה שירים של שלמה ארצי, ובסוף היא תייצר שירים שהשומע עשוי לחשוב שהם של שלמה ארצי – לא בטוח שיש הגנה"
"חוות הדעת שלנו מגיעה מאותו המקום: מהרצון לאפשר את פיתוח תעשיית ההיי־טק, ולתת לחברות ההזנק להתרומם. מכיוון שאין שוק של תכנים, ואני לא יכול לאתר בקלות את הבעלים של כל תוכן ולרכוש ממנו זכויות, זה לא נכון ולטעמנו גם לא צודק לדרוש מהמתכנתים לרכוש זכויות בכל יצירה, למעט כמובן חריגים כמו זה שהזכרנו".
כל ההתפלספויות האלה יפות מאוד, אבל בסופו של דבר אני היוצר של הטקסט המקורי, ואני רואה שלקחתם משהו ששייך לי והשתמשתם בו בלי אישור ובלי לרכוש ממני זכויות. לא זו המשמעות של "גנבה"?
המילה האחרונה גורמת לבני שיחי להזדעק. "לא לחינם המחוקק מכנה פגיעה בזכויות יוצרים 'הפרה', ולא 'גנבה'", אומרת ד"ר הלמן. "דיני זכויות היוצרים בנויים כך שיש רשימה של דברים שאסור לעשות ביצירות של הזולת: העתקה, פרסום, ביצוע פומבי, שידור ועוד. זו רשימה מוגבלת. למשל, מותר לי לצטט עכשיו שורה משיר של אלתרמן, וזו לא תהיה הפרה של הזכויות. 'לְלֹא מַרְאוֹת וָצֵל שָׁעָה בָּעִיר עוֹבֶרֶת', מאיפה זה?"
"עיר היונה"?
"לא, 'תמצית הערב'. אתה רואה, מותר לנו לעשות את זה. זה קניין, אבל לא במובן של בית שאסור לך להיכנס אליו ללא רשות, ובטח שלא לצבוע את הדלת שלו.
"לצד רשימת ההפרות יש חריגים שקובעים מתי מותר לעשות את הדברים הללו. מתוך ההפרות שהחוק מונה, מה שרלוונטי לעניינו הוא האיסור על העתקה. אסור לי להעתיק יצירות – אבל יש בחוק פרק שלם שמפרט מתי כן מותר לי להעתיק. למשל, אם השכנה שלך מתכננת לעשות שיפוץ בבית, ואתה חושש שהוא יפגע ברכוש שלך, מותר לך ללכת לעירייה ולצלם את התוכניות, אף שהתוכנית מוגנת בזכויות יוצרים. היתר נוסף, רחב הרבה יותר, הוא ההיתר של שימוש זמני. וישנה ההגנה שאנחנו מדברים עליה במקרה של למידת מכונה, כמו שכרמית אמרה – ההגנה של שימוש הוגן. אם חל כאן החריג של שימוש הוגן ביצירה, אין הפרה של זכויות היוצרים".
אז את בעצם אומרת שקניין רוחני חלש יותר מכל קניין אחר?
"זו לא הנקודה. גם קניין אחר לא מעניק לי זכות אבסולוטית על מה שהוא שלי. אם הבית שייך לי, עדיין אסור לי לחשמל את מי שנוגע בידית הדלת. בזכויות יוצרים זה באמת בולט הרבה יותר".
בהקשר הזה מזכיר פולינר שזכות יוצרים, בניגוד לכל שאר זכויות הקניין, תקפה לזמן מוגבל. "אחרי תקופה מסוימת היא פגה, והיצירה הופכת לנחלת הכלל. זה נעשה מתוך רצון לא לפגוע בחדשנות, כי כל יצירה בנויה על מה שהיה. אנחנו לא יוצרים בחלל ריק. הבדל נוסף בין סוגי הזכויות הוא שבקניין רגיל, כשאני משתמש – אתה לא יכול להשתמש. אם ילד מקבל ממתק, ברגע שהוא מסיים לאכול אותו, כל ילד אחר כבר לא יכול לעשות בו כלום. קניין רוחני, לעומת זאת, שייך אומנם למישהו, אבל הרבה מאוד אנשים יכולים להשתמש ביצירה בו זמנית בלי למנוע זה מזה את ההנאה. זה אולי מפחית את הרווחיות, אבל אני ואתה יכולים להדפיס את אותו הספר בו זמנית. לעומת זאת, אנחנו לא יכולים לגור באותו הבית בו זמנית".
"גם אייזק ניוטון אמר 'אני עומד על כתפי ענקים'", מזכירה הלמן בהמשך להבחנתו של פולינר. "איש לא יוצר יש מאין. כולנו בעצם עושים פעולה של למידה מהמון דברים שאנחנו רואים".
אז אולי בעצם אין שום צורך בחוות דעת משפטית מיוחדת? במה שונה למידת מכונה מביקור של צייר במוזיאון, אם בתוך המוח שלו מתרחש תהליך דומה?
"זה באמת אחד הרציונלים בבסיס חוות הדעת שלנו. העניין הוא שאדם שרוצה ללמוד יכול להיחשף באקראי להמון דברים. אי אפשר לאמן ככה מכונה. השיטה המשמשת ללמידת מכונה היום מחייבת העתקה, ולכן עלינו לברר אם זו העתקה אסורה או לא. אילו יכולתי לקחת רובוט למוזיאון ולהגיד לו 'תראה, פיקאסו צייר ככה, ואן־גוך עשה ככה, והגישה של רמברנדט היא כזו וכזו', לא הייתה לנו בעיית זכויות יוצרים בשלב הלמידה. אבל זה לא עובד ככה".
אנטי־מחיקון
שאלת הפרת הזכויות בידי הבינה המלאכותית, כפי שאפשר לנחש, עולה לדיון לא רק בישראל אלא בעולם כולו. "היקף שוק למידת המכונה הוא 15.7 טריליון דולר, והוא צפוי לגדול", אומרת הלמן. "בכל העולם מבינים שיש בעיות משפטיות שצריך לפתור, ובעיית זכויות היוצרים היא רק אחת מהן. אז יש מדינות בעולם שיצרו חקיקה שמאפשרת את למידת המכונה. כך למשל נעשה באיחוד האירופי, ביפן ובסינגפור. אבל לחקיקה יש גם חסרונות, ובאיחוד האירופי כבר רואים אותם. למשל, אתה חייב להגדיר בחוק מהי למידת מכונה, וזה בעייתי כי אנחנו יודעים איך למידת מכונה נראית היום, אבל אנחנו לא יודעים איך היא תיראה בעוד חמש שנים. אפשר לומר בוודאות שהיא תהיה שונה. אם ננסה להגדיר אותה בחוק, זה יעודד חברות הזנק ישראליות להיצמד לטכנולוגיות ישנות, כדי לקבל הגנה מתביעות בגין הפרת זכויות. התוצאה תהיה שכל העולם ישעט קדימה, ואצלנו עורכי הדין יגידו 'אם אתה רוצה להיות בטוח מבחינה משפטית, עדיף שלא תעשה את זה'. כל עוד אתה בשלב הגראז' תרוץ קדימה, אבל כשתגיע לשלב של גיוס הכסף, עורכי הדין יאלצו את החברה שלך ללכת אחורה.
עו"ד ליטל הלמן, המחלקה למשפט אזרחי בייעוץ וחקיקה: "אנחנו לא יודעים איך תיראה למידת מכונה בעוד חמש שנים. אם נגדיר אותה בחוק, זה יעודד חברות הזנק להיצמד לטכנולוגיות ישנות, כדי להיות מוגנות מתביעות. כל העולם ישעט קדימה, ואצלנו עורכי הדין יגידו 'כדי להיות בטוח מבחינה משפטית, אל תעשה זאת'"
"האיחוד האירופי כבר משלם מחיר על החקיקה. למשל, יש שם הוראה שמחייבת למחוק את המידע שהועתק לצורך למידת המכונה. בתחום הזה רוב התשומות מושקעות בבניית המאגרים. זה המון כוח אדם, המון התעסקות והמון כסף. אף אחד לא מוחק מאגר מידע, זה אחד הנכסים של המיזם. לכן כבר היום ההוראה הזאת אינה רלוונטית".
יוליס מציינת שבמסמך הישראלי יש התייחסות לנושא: הכלל שנקבע הוא שכל עוד נמשך השימוש במאגר באותו המיזם, מותר להחזיק את המידע ואין צורך למחוק אותו. אבל יש אפשרות שמדאיגה אותה יותר מהחזקת מאגרים אחרי תום השימוש בהם, והיא העברת מאגרים מיד ליד. "שם כבר רצינו להיות על הצד הזהיר. שלא יקרה שעל סמך חוות הדעת שלנו, שהתמקדה בנושא מסוים מאוד, יתפתח פתאום סחר במאגרים. צריך גם לשים לב שמעבר לנושא של זכויות יוצרים, בבניית מאגרים עשויות לעלות שאלות נוספות כמו פרטיות, חופש ביטוי וחיסיון. בכל ההיבטים האלו לא עסקנו, וחשוב להדגיש את זה".
גם בארה"ב בחרו לא לעגן בחקיקה חדשה את נושא למידת המכונה, ולהישען על עקרון השימוש ההוגן. הלמן מציינת שבבית המשפט האמריקני נקבע תקדים חשוב ביותר בנושא זכויות היוצרים בעקבות Google Books. "כשאתה מחפש באתר, הוא מציג קטעים מספרים. לשם כך גוגל הייתה צריכה לצלם את כל הספרים. בעלי הזכויות מחו, וגוגל לעומתם טענה שזו מצב של ניצחון לשני הצדדים, כי מי שמקבל את הקטע הקצר עשוי לרצות לקנות את הספר כולו. בעלי הזכויות לא השתכנעו וטענו שהצגת קטע מספר היא אולי שימוש הוגן, אבל צילום הספר כולו אינו שימוש הוגן. הנושא הגיע לערכאות בארה"ב, וההכרעה הייתה שזה כן שימוש הוגן. הסיפור הזה כבר ישן, אבל הוא דוגמה טובה לכך שההחלטה לא לייצר חקיקה חדשה מאפשרת לשמר דינמיות".
משפט הקופים
אם כבר מדברים על הבינה המלאכותית, למה לא להכניס אותה ממש לתוך השיחה ולתת לה להפגין את יכולותיה? ביקשתי ממערכת OpenAI לכתוב לי חוות דעת מנומקת בת 500 מילים על שימוש בתוכן המוגן בזכויות יוצרים לצורך למידת מכונה במסגרת מיזמי בינה מלאכותית. כשקראתי את התשובה לצוות המשפטנים, הם נראו משועשעים ומסוקרנים בו זמנית. בניגוד אליהם, המערכת לא הייתה מוכנה לתת שורה תחתונה חד־משמעית בחוות הדעת שלה, אולם השיקולים שהעלתה היו דומים מאוד: השימוש הטרנספורמטיבי והגנת השימוש ההוגן, וגם הצורך לאפשר התקדמות טכנולוגית במקביל להגנה על זכויות קניין.
טביעת האצבע הסגנונית של בינה מלאכותית בולטת פה מאוד, אבל זה בהחלט טקסט קוהרנטי ומעניין, שכמעט היה יכול להיכתב בידי משפטנים. אז למי שייכת חוות הדעת הזו? בידי מי נמצאות זכויות היוצרים עליה?
"האם יצירה שלא נוצרה בידי אדם, יש בה בכלל זכויות יוצרים? זו שאלה מעניינת מאוד, אבל לא חדשה", מציינת הלמן. "היא עלתה בפעם הראשונה לפני כעשור, בתביעה שהגיש צלם בריטי שעבד עבור 'נשיונל ג'יאוגרפיק'. סיפור המעשה, כפי שסופר תחילה, היה כזה: הצלם הציב את המצלמה שלו על חצובה בלב הג'ונגל, והלך לרגע לתיק לקחת משהו. בינתיים קופת מקוק לקחה את המצלמה וצילמה את עצמה בצילום סלפי (הצלם, דיוויד סלייטר, אמר שהתרחק בכוונה מהמצלמה, כדי שהקופים ישתעשעו בה – ש"פ). התמונה הייתה מדהימה, ואחרי שפורסמה בעיתון אנשים השתמשו בה. הצלם הגיש תביעות כדי לקבל תשלום, ואז התחילה הטרללת. היו שטענו שהתמונה היא נחלת הכלל, מתוך גישה שאומרת שתכנים צריכים להיות נגישים לכולם, ולא רק לעשירים. ארגוני זכויות בעלי חיים טענו שאין סיבה לא לתת גם לקופים זכויות יוצרים. זה הגיע לכמה ערכאות, וההכרעה הייתה שרק לבני אדם יש זכויות יוצרים".
פולינר מחדד: "הנקודה היא שאם היוצר אינו אדם, אין פה זכות יוצרים, ולכן שאלת הבעלות כלל לא מתחילה. הדיון בבעלות מתקיים רק אם יש זכות".
הלמן: "במקרה של חוות הדעת שקראת לנו, יש לכאורה כמה אפשרויות לקבוע מי מחזיק את הזכויות עליה. האפשרות הראשונה היא שהן שייכות לך, כמי ששאל את השאלה, אבל זה כנראה לא רלוונטי: הרי אם אני אשאל אותך שאלה ואתה תענה לי תשובה, אני לא הופך לבעלים במשותף איתך על התשובה. במקרה שהצגת יש גם מרחק גדול בין השאלה לתשובה, כך שברור שצריך לגזור את חבל הטבור הזה. אפשרות נוספת היא שהזכויות שייכות למי שפיתח את המערכת, אבל גם בזה אין היגיון, כי כל הרעיון של מערכות כאלו הוא האוטונומיה שלהן. האפשרות השלישית היא להגדיר את המערכת הממוחשבת כבעלת הזכויות, אלא שהמחשב הוא לא יצור שיש לו חובות וזכויות. כשאני מנתקת אותו מהחשמל, אני לא מואשמת ברצח.
"כאמור, ההיגיון מאחורי זכויות יוצרים הוא הרצון לעודד יצירה חדשה. אם ניתן זכויות על יצירות של מכונה, איך נעודד בזה יצירה? הרי הגבלת השימוש ביצירות קודמות לא מספקת למכונה תמריץ לייצר יותר יצירות. כל מבנה התמריצים יהיה שונה מזה שקיים ביצירות אנושיות. לכן המסקנה היא שיצירות של בינה מלאכותית הן נחלת הכלל".
אבל מה קורה כשאני מבקש מהבינה המלאכותית ליצור לי ציור בסגנון של צייר מסוים, או שיר בסגנון של משורר שאני אוהב את השירים שלו? האם הזכויות שלהם לא מופרות?
"קודם כול, חשוב להגיד שוב שלא בזה עוסקת חוות הדעת שלנו. אנחנו התייחסנו רק לתהליך הלמידה. זה מותר כמו שמותר לקחת את הילד למוזיאון ולהראות לו איך אמן כזה או אחר מצייר, אבל זה לא אומר שמותר לך לעשות כל דבר בידע הזה. אם אני מאכילה מכונה בכמויות של חומרים, ובסוף אבקש ממנה לייצר משהו שמפר זכויות יוצרים, זו תיחשב הפרה".
יש זכויות יוצרים על סגנון?
"יש בפסיקה מדדים מקובלים לנושא הזה. הוגשה למשל תביעה נגד היוצרים של השיר 'טוי', בטענה שהמוזיקה דומה לשיר Seven Nation Army של The White Stripes. מה עשו? הביאו מוזיקולוגים ושאלו אותם: האם זה דומה רק בסגנון, או שיש כאן חיקוי? האם לקחו את הרעיון, או שלקחו את הביטוי הממשי שלו? בהתאם לכך צריך להכריע אם התקיימה העתקה ואם ההעתקה פסולה. במקרה של טוי זה נגמר בפשרה, אבל יש כללים להכרעה בשאלות כאלו. בהיבט הזה לא שינינו שום דבר מהמצב הנוכחי".
לרוץ, אבל לא להשתולל
כל עניין למידת המכונה מעלה גם שאלות כבדות של אחריות: מי אחראי לתוצרי האלגוריתמים? אם הם גרמו נזק, פגיעה בשם טוב וכדומה, מי יצטרך לפצות את הנפגע? "זו שאלה סבוכה שכרוכה גם בסוגיות של משפט בינלאומי: המפתח יושב במדינה אחת, המשתמש במדינה אחרת, והשרתים בכלל באיזו מדינה באפריקה; מה הדין שחל כאן?", אומרת הלמן. "הנטייה היום היא לא לתת תשובה אחת לשאלה של אחריות האלגוריתם, אלא לפרק את זה, לשאול 'אחריות למה?', ובכל נושא ניתן תשובה אחרת. למשל, אנחנו עושים פה עכשיו במחלקה עבודה מעניינת בעניין פגיעות גוף על ידי רכב אוטונומי".
כאן התשובה לכאורה פשוטה, כי החוק הישראלי העביר למבטחים את האחריות לתשלום פיצויים בכל תאונת דרכים, במנותק מסוגיית האשמה.
יוליס: "נכון, אנחנו נותנים לחוק שלנו (חוק הפיצויים לנפגעי תאונות דרכים – ש"פ) פרשנות רחבה, והוא מחיל את המשטר של אחריות מוחלטת גם על רכב אוטונומי. הרעיון באחריות כזאת הוא שאנחנו פחות שואלים שאלות של אשמה ושל אחריות לתאונה, אלא נותנים פיצוי לכל אחד, מטעמים סוציאליים. כעת אנחנו אומרים שאם החוק אצלנו הוא ממילא כזה, יש מקום להחיל אותו גם כשאין נהג בכלי הרכב. אבל השאלות הקשות של דיני הנזיקין בכל הנוגע לאחריות של אלגוריתם עוד לא לובנו".
הלמן מציינת שהמגמה במשרד המשפטים היא לתת מענה ספציפי לכל בעיה הקשורה בבינה מלאכותית, ולא לנסח הגדרות רחבות ומוחלטות. "התחלנו בנושא הרכב האוטונומי, שהוא מערכת סדורה מאוד, וכמובן יהיו עוד תחומים שנצטרך לטפל בהם. הצד השווה בכולם הוא שצריך לתת לשוק לרוץ, ויחד עם זאת להגדיר לו גבולות גזרה, שלא ישתולל ויפגע יותר מדי. מצד שני, בכל תחום רמת הפגיעה האפשרית שונה, הרגולציה הקיימת שונה, סוגי הגופים שמפעילים את המערכות שונים. לפעמים השאלה החשובה היא מי הגוף שמפעיל את המערכת, ולפעמים מי ייצר את המערכת. גם הקביעה מיהו בדיוק המפעיל לא תמיד פשוטה. רכב אוטונומי, מוקדים טלפוניים ומערכות תומכות החלטות ברפואה – אלה תחומים שונים מאוד זה מזה, ואין היגיון במתן תשובה אחת לכולם רק משום שכולם מבוססים למידת מכונה".
בעבר חשבו שמערכות בינה מלאכותית לא יסבלו מדעות קדומות, הטיות תרבותיות וכדומה, אך עם התפתחות הטכנולוגיה התברר שהמערכות הללו מקבלות בתהליך החינוך שלהן גם דברים כאלה. איך מתמודדים עם זה?
יוליס: "אלה שאלות כבדות מאוד בכל מה שקשור למערכות תומכות קבלת החלטות. מדברים בהקשר הזה בעיקר על קבלת עובדים, אבל הסוגיה רלוונטית לא רק בשוק הפרטי, אלא גם כאשר הרשויות משתמשות בכלי הזה. למשל, מערכת שתסייע בהחלטה אם לתת לך רישיון לנשק באמצעות הערכת מסוכנות. פה כבר מדובר בהפעלת סמכות שלטונית, וזה מורכב".
הלמן מציינת מנגד שלבינה המלאכותית יש גם פוטנציאל לסנן הטיות. "דניאל כהנמן טוען בספרו החדש שהחלטות אנושיות מושפעות ממה שהוא מגדיר 'רעש'. למשל, הוא בדק החלטות של שופטי הגירה בארצות הברית, וגילה שאחרי ארוחת צהריים הם נוטים יותר להורות על שחרור ממעצר. או, למשל, אם הם שחררו כבר ארבעה עצירים היום, סיכויי השחרור של העציר החמישי יורדים חדות. אלה משתנים אקראיים שמשפיעים עלינו, ואלגוריתמים יכולים להפחית את ההטיות.
עו"ד הווארד פולינר, ראש אשכול קניין רוחני בפרקליטות: "אם ילד מקבל ממתק, ברגע שהוא מסיים לאכול אותו כל ילד אחר כבר לא יכול לעשות בו כלום. קניין רוחני, לעומת זאת, שייך אומנם למישהו, אבל הרבה מאוד אנשים יכולים להשתמש ביצירה בו זמנית בלי למנוע זה מזה את ההנאה"
"הביקורת על כהנמן אומרת שיש הטיות שהאלגוריתמים דווקא מחזקים, כי הם עובדים על סטטיסטיקה. סטטיסטית, נשים מגיעות פחות למשרות בכירות, אז האלגוריתם מנבא שהסיכוי של מועמדת לטפס בהיררכיה הארגונית נמוך מסיכוייו של מועמד גבר. אני לא בטוחה שמי שצריך להתמודד עם השאלות האלו הם משפטנים, ולא תמיד הכלים שבידיהם הם הכי טובים. ייתכן שהפתרון נמצא בתחום האלגוריתמים, וכאן יש הרבה מקום לשיתופי פעולה בין־תחומיים.
"לפעמים אנחנו מתייאשים מבני אדם, ופונים לבינה המלאכותית בתקווה שהיא תפתור עבורנו את הבעיות שבינה אורגנית לא יכולה לפתור. אבל אנחנו שוכחים שבינה מלאכותית נשענת על בינה אורגנית, ולכן אי אפשר להניח שהיא תצליח היכן שבני אדם כשלו".
אפר ומאבק
לפני חודשים אחדים, כשהבאזז בתחום ה־NFT ("אסימון חסר תחליף", Non Fungible Token) היה בשיאו, נדרשו משפטני המחלקה גם לנושא הזה. מאז שכך העיסוק התקשורתי בנכס הווירטואלי שנוצר בטכנולוגיית הבלוקצ'יין, אך הוא עצמו בהחלט לא נעלם מהעולם. "NFT צמח מתוך צורך אמיתי של השוק לייצר נדירות", אומרת הלמן. "בעולם האינטרנטי מי שיוצר יצירה דיגיטלית לא יכול למכור אותה, כי ברגע שהיא ברשת כולם יכולים להוריד אותה, ואין שום הבחנה בין המקור להעתק. את הדבר הזה פתר ה־NFT, כי הוא יצר שכבה של מסחר בלינקים ליצירות המקוריות. לדבר הזה עדיין יש ערך. יש חברות אופנה שמוציאות קולקציות שלמות שהן רק ב־NFT. נייקי מוכרת כך נעליים שלא קיימות במציאות. זה נשמע אולי מטופש, אבל אנשים קונים את זה בהרבה מאוד כסף. כי אם יש לי נעלי נייקי, אתה רואה אותן רק כשאני יוצאת איתן לרחוב, ולא כשאני נועלת את המגפיים שלי. אבל אם הנעליים נמצאות בארנק שלי, והארנק הזה הוא גם ציבורי, אתה תראה אותן תמיד.
"בגלל ההייפ סביבו, ה־NFT התפתח לכל מיני כיוונים שחלקם באמת מיותרים. אלה מן הסתם ייעלמו בהמשך. אבל שימושים אחרים של הטכנולוגיה הזו הולכים לצמוח מאוד. היום, אחרי ש־22 מדינות העבירו את מרשם המקרקעין שלהן לבלוקצ'יין, תחשוב מה אפשר לעשות ב־NFT. נוכל לעשות פירוק של זכויות באופנים שלא יכולנו אפילו לדמיין בעבר. אז יש כמה דברים שבאמת היו סתם פלופ, למשל הסיפור הזה של אבני הכותל (יזמים ישראלים יצרו הדמיית תלת־ממד של כל אחת מהאבנים, ומכרו אותן כ־NFT באלפי דולרים – ש"פ). אבל הצורך לייצר נדירות בעולם וירטואלי לא נעלם לשום מקום, והוא ימשיך לעורר שאלות משפטיות".
בעוד כחודשיים צפויים משפטני המחלקה לפרסם חוות דעת שתיתן מענה לחלק ניכר מהסוגיות המשפטיות שעולות סביב ה־NFT. "כולם מציינים את נושא זכויות היוצרים", אומרת יוליס, "אבל נעסוק גם בהיבטים נוספים של התחום, כמו הגנת הצרכן".
למה צריך חוות דעת בנושא קניין רוחני ב־NFT? הרי כל הרעיון הוא שסוגיית הקניין מוסדרת טכנולוגית, בלי צורך במעורבות משפטית.
"יש הרבה שאלות שדורשות מענה", מסבירה הלמן. "ראשית, האם רק ליוצר מותר לעשות NFT ליצירה שלו? בסעיף 11 לחוק זכויות יוצרים לא כתוב שאסור לעשות NFT מיצירה של מישהו אחר. אני הרי לא מעתיקה את היצירה, ולא עושה לה שום דבר. שאלה נוספת היא מה קורה אם אני מעתיקה לעולם הווירטואלי משהו שקיים בעולם האמיתי. למשל, אם אני מעתיקה אליו את התכנון של מגדלי עזריאלי – האם זה נחשב שימוש הוגן, כי שיניתי את הקונטקסט? האם אני יכולה להיות, למשל, בעלים של המותג גוצ'י במטאוורס? או להפך, אם אני לוקחת משהו מהמטאוורס ומעתיקה אותו לעולם האמיתי שלנו, האם זה מותר או אסור?
"קח למשל מקרה שאירע לא מזמן: אדם קנה יצירה, שרף אותה, והעלה את תמונת האפר כ־NFT. עכשיו היוצר המקורי תובע אותו על שרפת היצירה, וגם דורש בעלות על ה־NFT. בימים אלו מתחיל להיכתב בקיימברידג' ספר שעוסק בשאלות הללו. הנושא הזה חי ובועט, והעיסוק האקדמי־משפטי בו בקושי התחיל".
לסיום מבקש פולינר לציין שחוות הדעת הישראלית בנושא הבינה המלאכותית כבר מעוררת הדים גם מחוץ לגבולותינו. "ההשתתפות של ישראלים בפורומים בינלאומיים היא חשובה, ויש לנו יכולת להרשים מעבר לגודל היחסי שלנו. חווֹת הדעת שהוצאנו בנושאים האלו מתפרסמות בעולם, שמות אותנו על המפה ומוסיפות לתדמית של ישראל כ'אומת הסטארט־אפ'. גם זה דבר חשוב".
"נושא זכויות היוצרים בלמידת מכונה נידון בכל העולם, אבל בתחום ההיי־טק יש לישראל מעמד מיוחד", אומרת גם הלמן. "אנחנו נחשבים למעצמה, וכשמדברים כאן על סוגיות כאלה, העולם מקשיב בתשומת לב".
לתגובות: dyokan@makorrishon.co.il
