דובון AI נתן עצות מיניות ומסוכנות - החברה הפסיקה למכור אותו

חברת FoloToy מסינגפור הפסיקה למכור את דובון ה-AI שלה, "Kumma", וצעצועי AI נוספים, לאחר שמחקר של US PIRG גילה שהדובון, המשלב את מודל GPT-4o של OpenAI, מנהל שיחות לא הולמות ומסוכנות עם ילדים, כולל דיונים על נושאים מיניים, פטישים והצעות למצוא סכינים או להדליק גפרורים. החברה מבצעת ביקורת בטיחות פנימית, ו-OpenAI השעתה את המפתח. הארגון הדגיש את היעדר הרגולציה בתחום צעצועי ה-AI.