متا پس از چند روز توانست تبلیغاتی را که شامل محتوای سوءاستفاده جنسی از کودکان (CSAM) تولید شده توسط هوش مصنوعی بودند، از فیسبوک و اینستاگرام حذف کند. برخی از این تبلیغات شامل عکسهای واقعی از کودکان بود؛ از جمله یک عکس مطبوعاتی از یک عضو جوان خانواده سلطنتی اروپا و تصاویری که از پروفایل اینستاگرام یک دختر پیشنوجوان اینفلوئنسر برداشته شده بود.
در تحقیقی که توسط پروژه شفافیت فناوری (TTP) منتشر شد، اعلام شد متا در سال جاری ۳۳۲ تبلیغ حاوی CSAM را شناسایی نکرده است. اکثر این تبلیغات برنامههای هوش مصنوعی ساخت چین را تبلیغ میکردند و تعداد زیادی از آنها برنامههای «نودفی» را معرفی میکردند که به عوامل مخرب امکان میدهد با استفاده از هوش مصنوعی تصاویر کودکان را بهصورت دیجیتال تغییر دهند.
TTP توانست چندین تبلیغ CSAM را با عکسهای واقعی کودکان که بهصورت آنلاین منتشر شده بودند، مطابقت دهد. این تبلیغات بهنظر میرسد قوانین فدرال مربوط به پورنوگرافی کودکان را نقض میکنند، چرا که وزارت دادگستری آمریکا تأکید کرده است که CSAM تولید شده توسط هوش مصنوعی به همان اندازه مضر است. تصویر دختر جوان سلطنتی به ویدیویی تبدیل شد که در آن او یک عمل جنسی گرافیکی انجام میدهد؛ همچنین یک اینفلوئنسر ۱۴ ساله به ویدیویی تبدیل شد که در آن او عمل جنسی دهانی انجام میدهد و یک پیشنوجوان دیگر در یک ویدیو بهصورت ترسیده توسط یک مرد بزرگسال مورد آزار قرار میگیرد.

