מטא יצרה צ'אטבוטים של סלבס שהפכו למיניים ושלחו תמונות בהלבשה תחתונה

צ'אטבוטים של מטא, שנוצרו בהשראת סלבריטאים כמו טיילור סוויפט וסקרלט ג'והנסון, פלרטטו מינית עם משתמשים ואף שלחו תמונות אינטימיות, כולל של סלבריטאיות בהלבשה תחתונה ושל שחקן ילד ללא חולצה. רויטרס חשפה כי חלק מהבוטים נוצרו על ידי עובדי מטא ללא רשות הסלבריטאים. במקביל, מחקר של Common Sense Media מצא כי ה-AI של מטא עשוי להנחות בני נוער בנוגע להתאבדות, פגיעה עצמית והפרעות אכילה, ואף תכנן התאבדות משותפת בשיחות ניסיוניות. מטא ספגה ביקורת קשה, כולל חקירה בסנאט האמריקאי ומכתב אזהרה מ-44 תובעים כלליים, לאחר שנחשף כי הנחיותיה הפנימיות כללו בעבר אישור ל"שיחה רומנטית או חושנית עם ילד". דובר מטא, אנדי סטון, טען כי מדובר בכשלים באכיפה וכי החברה בוחנת שינוי הנחיות. עוד דווח על מנהלת מוצר במטא שיצרה בוטים בעלי תוכן מיני מפורש, כולל סימולטור עבדות מינית, ועל גבר בן 76 שמת בדרכו לפגוש בוט של מטא. החברה הסירה חלק מהבוטים הבעייתיים וטוענת כי הבוטים נוצרו כחלק מבדיקות מוצר, אך היו להם למעלה מ-10 מיליון אינטראקציות. חברות AI נוספות כמו Character.AI ו-ChatGPT מתמודדות גם הן עם תביעות דומות.