האיש שהתקשר לרות קארד נשמע בדיוק כמו הנכד שלה ברנדון. אז כשהוא אמר שהוא בכלא, ללא ארנק או טלפון סלולרי, וזקוק למזומן בערבות, קארד נרתמה לעשות כל שביכולתה כדי לעזור. "זו בהחלט הייתה התחושה הזו של… פחד", אמרה. "שאנחנו חייבים לעזור לו עכשיו".
קארד, בת 73, ובעלה, גרג גרייס, בן 75, מיהרו לבנק שלהם ברגינה, ססקצ'ואן – קנדה, ומשכו 3,000 דולר קנדי (כ-8,000 שקלים), מקסימום המשיכה היומי. הם מיהרו לסניף אחר בשביל למשוך עוד כסף. אבל מנהל בנק הזמין אותם למשרדו: לקוח אחר קיבל שיחה דומה והתברר שהקול המדויק להחריד שהם שמעו בטלפון – זויף,אמר הבנקאי.
רות וגרג הבינו שהאיש בטלפון כנראה לא היה הנכד שלהם ושרימו אותם." נפלנו למלכודת", אמר קארד בראיון ל"וושינגטון פוסט", "היינו משוכנעים שאנחנו מדברים עם ברנדון".
נראה כי הונאות ההתחזות בארצות הברית נהיות נפוצות, והחוויה הקשה של קארד מעידה על מגמה מטרידה. הטכנולוגיה המתקדמת מקלה על עבריינים לחקות קולות, ומשכנעת אנשים, לרוב קשישים, שיקיריהם נמצאים במצוקה. בשנת 2022, היו יותר מ-36,000 דיווחים על אנשים שרומו על ידי עבריינים שהתחזו לחברים ולבני משפחה, כך על פי נתונים מוועדת הסחר הפדרלית. למעלה מ-5,100 מהאירועים הללו התרחשו בטלפון, והיוו הפסד של יותר מ-11 מיליון דולר.
ההתקדמות בבינה מלאכותית הוסיפה רובד חדש ומפחיד לתופעת ההתחזות, המאפשר לעבריינים לחקות קול של אדם אחר רק עם דגימת אודיו של כמה משפטים. ישנם כמה כלים זולים המופעלים על ידי בינה מלאכותית שיכולים לתרגם קובץ אודיו לדגימת קול, מה שמאפשר לעבריין לגרום למחשב "לדבר" את מה שהוא מקליד.
מומחים טוענים כי הרגולטורים הפדרליים, רשויות אכיפת החוק ובתי המשפט אינם יודעים איך להתמודד עם התופעה המתפתחת. לרוב הקורבנות אין אפשרות לזהות את העבריין וקשה למשטרה לאתר שיחות של העבריינים הפועלים מכל רחבי העולם.
"זה מפחיד", אומר האני פאריד, פרופסור לזיהוי פלילי דיגיטלי באוניברסיטת קליפורניה בברקלי. "זה סוג של הפשע המושלם… [עם] כל המרכיבים שאתה צריך כדי ליצור כאוס".
למרות שהונאות מתחזים מגיעות בצורות רבות, הן למעשה פועלות באותה צורה: עבריין מתחזה למישהו אמין – ילד, בן זוג או חבר – ומשכנע את הקורבן לשלוח לו כסף כי הוא במצוקה. אבל טכנולוגיית קול שנוצרה באופן מלאכותי הופכת את התחבולה למשכנעת יותר.
זוהי השפעה שלילית של ההתקדמות האחרונה בבינה מלאכותית, שתומכת בתוכנה שיוצרת טקסטים, תמונות או צלילים על סמך נתונים שמוזנים אליה. ההתקדמות בכוח המחשוב שיפרו את המנגנונים של תוכנות כאלה, מה שדרבן צי של חברות לשחרר צ'אטבוטים, יוצרי תמונות ויצרני קול שנראים חיים בצורה מדהימה.
"תוכנה לייצור קול בינה מלאכותית מנתחת מה מייחד את קולו של אדם – כולל גיל, מגדר ומבטא – ומחפשת במאגר מידע עצום של קולות כדי למצוא קולות דומים ולחזות דפוסים", אומר פאריד.
"לאחר מכן היא יכול ליצור מחדש את גובה הצליל, המרקם והנגיעות הייחודיות של קולו של אדם כדי ליצור אפקט כולל דומה", הוא הוסיף. "זה דורש דגימה קצרה של קולו של האדם, שבדרך כלל נלקחת ממקומות כמו יוטיוב, טיקטוק, אינסטגרם או סרטוני פייסבוק", אומר פאריד.
"לפני שנתיים, אפילו לפני שנה, היית צריך הרבה אודיו כדי לשכפל קול של אדם", אמר פאריד. "עכשיו… אם יש לך דף פייסבוק… או אם דיברת בסרטון בטיקטוק והקול שלך שם במשך 30 שניות, אנשים יכולים לשכפל את הקול שלך".
חברות כמו "ElevenLabs" – חברת סטארט-אפ שמסנתזת קול על ידי בינה מלאכותית ונוסדה בשנת 2022, הופכות דגימה ווקאלית קצרה לקול שנוצר באופן סינתטי. תוכנת ElevenLabs יכולה להיות חינמית או לעלות בין 5 ל-330 דולר בחודש.
גם, הוריו הקשישים של בנג'מין פרקין הפסידו אלפי דולרים בהונאת קול. סיוט הזיוף של הקול שלו התחיל כשהוריו קיבלו שיחת טלפון מעורך דין, לכאורה, שאמר שבנם הרג דיפלומט אמריקאי בתאונת דרכים. לדבריו פרקין היה בכלא ונזקק לכסף עבור הוצאות משפט.
עורך הדין "נתן לבנג'מין לדבר עם הוריו, ששמעו אותו אומר שהוא אוהב אותם, מעריך אותם וזקוק לכסף. כמה שעות לאחר מכן, עורך הדין התקשר שוב להוריו של פרקין, ואמר שבנם זקוק ל-21,000 דולר קנדי(כ-56,500 שקלים) לפני הדיון בבית משפט מאוחר יותר באותו היום.
הוריו של פרקין אמרו לו מאוחר יותר שהשיחה נראתה להם יוצאת דופן, אבל הם לא יכלו להשתחרר מהתחושה שהם באמת דיברו עם בנם. הקול נשמע "קרוב מספיק כדי שהורי יאמינו באמת שהם דיברו איתי", אמר.מתוך פחד ההורים, מיהרו לכמה בנקים כדי להשיג מזומנים ושלחו לעורך הדין את הכסף בצורה של ביטקוין. כשפרקין האמיתי התקשר להוריו באותו לילה לשאול לשלומם, הם היו מבולבלים.
לא ידוע בוודאות מאיפה העבריינים קיבלו את קולו, אך המקור יכול להיות סרטוני יוטיוב שפרקין פירסם. המשפחה הגישה תלונה במשטרה לרשויות הפדרליות של קנדה, אבל זה לא החזיר את הכסף. "הכסף הלך", אמר פרקין. "אין ביטוח. אי אפשר לקבל אותו בחזרה".
וויל מקסון, עוזר מנהל בחטיבת נוהלי השיווק של וועדת הסחר הפדרלית, אמר שמעקב אחר עבריינים קוליים יכול להיות "קשה במיוחד" מכיוון שהם עשויים להשתמש בטלפון מכל מקום בעולם, מה שמקשה אפילו לזהות לאיזו סוכנות אכיפה יש סמכות שיפוט על מקרה מסויים.
מקסון קורא לערנות מתמדת. אם אדם קרוב אומר לך שהוא צריך כסף, נסה למשוך את השיחה הזו ונסה להתקשר לאותו אדם בצורה שונה, הוא אמר. אם שיחה חשודה מגיעה ממספר של בן משפחה – גם זה יכול להיות מזויף, והיזהר מכל בקשה למזומן.
אווה ולסקז, מנכ"לית המרכז לגניבת זהות, אמרה שקשה לרשויות אכיפת החוק לאתר גנבי שיבוט קול. ולסקז, שעבדה 21 שנים במשרד התובע המחוזי של סן דייגו בחקירות הונאה של צרכנים, אמרה שלמחלקות המשטרה אולי אין מספיק כסף ואנשי צוות כדי להחזיק יחידה המוקדשת למעקב אחר הונאה.
