האזהרה של מומחי הסייבר - יומיים לאחר ההשקה של OpenAI

OpenAI השיקה את דפדפן ChatGPT Atlas עם יכולות בינה מלאכותית לביצוע פעולות באינטרנט, אך מומחי אבטחה מזהירים מפני סיכונים חדשים. הסכנה המרכזית היא "הזרקת פקודות" (Prompt Injection), שבה האקרים מטמיעים הוראות זדוניות נסתרות בדפי אינטרנט, הגורמות למודלי AI לחשוף מידע או לבצע פעולות נגד המשתמש. דוגמאות כוללות פקודות בטקסט לבן על רקע לבן או בתוך תמונות. בנוסף, עולות בעיות פרטיות וניהול הרשאות, שכן הדפדפן עלול לשאוב סיסמאות ומידע פיננסי. למרות ש-OpenAI טוענת שהיא חוקרת ומפחיתה סיכונים והוסיפה פונקציות כמו "מצב מנותק", החוקרים קוראים לפרוטוקולי אבטחה חזקים יותר ולשקיפות. החשש הוא שמשתמשים ממוצעים יתקשו לזהות תכנים זדוניים בלתי נראים לעין אנושית, מה שעלול לגרום לטכנולוגיה לפעול נגדם.