מניפולציה של AI וההשפעה עלינו: איום חדש על הפרטיות והאמת הדיגיטלית

הכתבה מציגה את דפדפן ה-AI החדש "OpenAI אטלס" ואת פירצת האבטחה שנחשפה על ידי LayerX Security, המאפשרת לתוקפים להזין קוד זדוני עם "הוראות זיכרון קבועות" למערכות AI. פירצה זו, המכונה "הרעלת נתונים" (Data Poisoning), מאיימת לעוות את המציאות הדיגיטלית על ידי גרימת מערכות AI להסתמך על מידע שגוי או מטעה, מה שעלול להוביל לנזקים תדמיתיים, משפטיים ועסקיים. הכתבה מדגישה את הסכנה בהזנה מכוונת של מידע שגוי, ומביאה כדוגמה את הפוטנציאל להשפעה זרה על מועמדים פוליטיים במערכות בחירות, תוך פגיעה בדמוקרטיה. היא קוראת לרגולטורים בישראל, כמו הרשות להגנת הפרטיות ומערך הסייבר הלאומי, לפעול בדחיפות ולדרוש שקיפות כדי למנוע מ-AI להפוך לכלי דיסאינפורמציה מסוכן.