ضحية مراهقة لـ “مواد إباحية مزيفة للغاية” يحثها الذكاء الاصطناعي على حث الكونجرس على تمرير “قانون إزالة هذه المواد”

تراقب آنا ماك آدامز دائمًا عن كثب حياة ابنتها إليستون بيري البالغة من العمر 15 عامًا عبر الإنترنت. لذا كان من الصعب أن نتقبل ما حدث قبل 15 شهراً صباح يوم الاثنين بعد العودة للوطن في أليدو بولاية تكساس.

التقطت إحدى زميلات الدراسة صورة من حساب إليستون على إنستغرام، وعرضتها عبر برنامج ذكاء اصطناعي بدا وكأنه يخلع فستانها ثم أرسل الصورة المعدلة رقميًا على سناب شات.

وقال ماك آدامز: “لقد جاءت إلى غرفة نومنا وهي تبكي، وقالت: أمي، لن تصدقي ما حدث للتو”.

في العام الماضي، كان هناك أكثر من 21000 مقاطع الفيديو الإباحية العميقة عبر الإنترنت – بزيادة تزيد عن 460% مقارنة بالعام السابق. المحتوى الذي تم التلاعب به هو المتكاثرة على شبكة الإنترنت حيث تقدم مواقع الويب عروضًا مزعجة – مثل إحدى الخدمات التي تسأل: “هل لديك شخص ما ليخلع ملابسه؟”

قال إليستون: “لقد أجريت اختبار PSAT ولعبت مباريات الكرة الطائرة”. “وآخر شيء يجب أن أركز عليه وأقلق بشأنه هو الصور العارية المزيفة التي أتجول بها في المدرسة. كانت تلك الصور متداولة في سناب شات لمدة تسعة أشهر.”

في سان فرانسيسكو، بدأت نائبة المدعي العام للمدينة، إيفون مير، في سماع قصص مشابهة لقصة إليستون، والتي وصلت إلى المنزل.

قال مير: “كان من الممكن أن تكون ابنتي بسهولة”.

مكتب المدعي العام لمدينة سان فرانسيسكو موجود الآن مقاضاة أصحاب 16 موقعًا إلكترونيًا يقومون بإنشاء “صور عارية مزيفة”، حيث يتم استخدام الذكاء الاصطناعي لتحويل الصور غير الفاضحة للبالغين والأطفال إلى مواد إباحية.

وقال مير: “هذه القضية لا تتعلق بالتكنولوجيا. ولا تتعلق بالذكاء الاصطناعي. إنها اعتداءات جنسية”.

وحظيت هذه المواقع الستة عشر بـ 200 مليون زيارة في الأشهر الستة الأولى فقط من العام، وفقًا للدعوى القضائية.

ويقول محامي المدينة ديفيد تشيو إن المواقع الستة عشر في الدعوى القضائية هي مجرد البداية.

وقال تشيو: “نحن على علم بما لا يقل عن 90 من هذه المواقع. لذلك هذا عالم كبير ويجب إيقافه”.

ويشارك السيناتور الجمهوري عن ولاية تكساس، تيد كروز، في رعاية زاوية هجوم أخرى مع السيناتور الديمقراطي عن ولاية مينيسوتا، إيمي كلوشوبار. ال خذها قانون سيتطلب من شركات التواصل الاجتماعي ومواقع الويب إزالة الصور الإباحية غير التوافقية التي تم إنشاؤها باستخدام الذكاء الاصطناعي.

وقال كروز: “إنه يفرض التزامًا قانونيًا على أي منصة تقنية، ويجب عليك إزالته وإزالته على الفور”.

تمت الموافقة على مشروع القانون في مجلس الشيوخ هذا الشهر وهو الآن مرفق بمشروع أكبر مشروع قانون التمويل الحكومي في انتظار تصويت مجلس النواب.

وفي بيان، قال متحدث باسم Snap لشبكة CBS News: “نحن نهتم بشدة بسلامة ورفاهية مجتمعنا. تعد مشاركة الصور العارية، بما في ذلك للقاصرين، سواء كانت حقيقية أو تم إنشاؤها بواسطة الذكاء الاصطناعي، انتهاكًا واضحًا لإرشادات المجتمع الخاصة بنا”. لدينا آليات فعالة للإبلاغ عن هذا النوع من المحتوى، ولهذا السبب نشعر بالإحباط الشديد لسماع قصص من العائلات التي شعرت أن مخاوفها لم يتم الاهتمام بها، كما أننا نتبع سياسة عدم التسامح مطلقًا مع هذا المحتوى، كما هو موضح في أحدث الشفافية لدينا التقرير، ونحن نتصرف بسرعة ل معالجتها بمجرد الإبلاغ عنها.”

وتقول إليستون إنها تركز الآن على الحاضر وتحث الكونجرس على إقرار مشروع القانون.

وقال إليستون: “لا أستطيع العودة إلى الوراء وإعادة ما فعله، ولكن بدلاً من ذلك، يمكنني منع حدوث ذلك لأشخاص آخرين”.