
זינוק של כ-395% בדיווחים על הונאות AI חושף כיצד עבריינים משבטים קולות מסרטונים ברשת או משיחות סקר תמימות. חן ברקת מסביר מדוע הטכנולוגיה משנה את כללי המשחק — ואיך מתגוננים.
ציטוטים מדבריו של חן ברקת
קטעים נבחרים מדבריו בכתבה.
כבר לא צריך לפרוץ לחשבון של אדם או להשתלט על הטלפון שלו כדי להתחזות אליו. אפשר להשתמש בדגימת קול כדי לייצר חיקוי שנשמע אמין, ולעיתים לשלב אותו עם מידע אישי שמצאנו ברשתות החברתיות
עד היום התרגלנו להסתמך על סימנים אנושיים כדי לדעת עם מי אנחנו מדברים: הקול, צורת הדיבור, המראה ואפילו האופן שבו אדם מגיב. הבינה המלאכותית מאפשרת לייצר את הסימנים האלה באופן מלאכותי, ולפעמים ברמת דיוק שקשה להבחין בה. זה שינוי עמוק, כי הוא לא רק מאפשר לזייף אדם מסוים, הוא מערער על הדרך שבה אנחנו קובעים מה אמיתי ומה לא. האתגר הוא להבין שסימן שנראה לנו אותנטי כבר לא בהכרח מעיד על מקור אותנטי
אנחנו נכנסים למציאות שבה היכולת לייצר תוכן משכנע מתקדמת מהר יותר מהיכולת שלנו לבדוק אותו
כשקול מוכר כבר אינו הוכחה לזהות, ההגנה מתחילה בהרגלים: לעצור, לנתק ולאמת בערוץ נפרד. לצד כלים טכנולוגיים, אוריינות דיגיטלית היא קו ההגנה הראשון — לכל גיל.