في الحالات التي يعاني فيها القاصر من أفكار انتحارية، سيُطلب من روبوتات الدردشة منع محتوى إيذاء النفس وتقديم إحصائيات إلى إدارة الصحة العامة في كاليفورنيا فيما يتعلق بعدد المرات التي يحيلون فيها المستخدمين إلى موفري مراكز الأزمات. وكجزء من القانون الجديد، لا يمكن للمنصات أن تصف نفسها بأنها متخصصة في الرعاية الصحية.

عند التوقيع على مشروع القانون، حذر نيوسوم من مخاطر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

وقال الحاكم الديمقراطي في كلمة له: “التكنولوجيا الناشئة مثل برامج الدردشة ووسائل التواصل الاجتماعي يمكن أن تلهم وتعلم وتتواصل، ولكن بدون حواجز حماية حقيقية، يمكن للتكنولوجيا أيضًا استغلال أطفالنا وتضليلهم وتعريضهم للخطر”. إفادة.

وأضاف: “لقد رأينا بعض الأمثلة المروعة والمأساوية حقًا للشباب الذين تضرروا من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون الحدود والمساءلة اللازمة”. “يمكننا الاستمرار في الريادة في مجال الذكاء الاصطناعي والتكنولوجيا، ولكن يجب علينا أن نفعل ذلك بمسؤولية – حماية أطفالنا في كل خطوة على الطريق. سلامة أطفالنا ليست للبيع.”

مشروع القانون، بقيادة سناتور الولاية الديمقراطي ستيف باديلا، أقره المجلس التشريعي في كاليفورنيا بدعم من الحزبين الشهر الماضي. وبعد توقيع نيوسوم، سيدخل حيز التنفيذ في 1 يناير 2026.

وافق المحافظ على مشاريع قوانين مماثلة تنص على التحقق من العمر لمستخدمي الأجهزة الإلكترونية وتطلب من منصات التواصل الاجتماعي وضع علامات تحذيرية للمستخدمين الذين تقل أعمارهم عن 18 عامًا.

ويأتي مشروع القانون الأخير بعد توصية من الجراح العام الأمريكي السابق فيفيك مورثي، الذي دعا تنفيذ العلامات التحذيرية على وسائل التواصل الاجتماعي العام الماضي. بعد مينيسوتا، كاليفورنيا أصبحت الدولة الثانية لسن التشريعات التي تتطلب مثل هذه التسميات.

سنت نيوسوم أيضًا مشروع قانون يفرض عقوبات أشد على توزيع المواد الإباحية المزيفة، مما يسمح على وجه التحديد للقاصرين وغيرهم من الضحايا بالمطالبة بتعويضات مدنية تصل قيمتها إلى 250 ألف دولار لكل حادثة ضد أي شخص ينشر مواد غير توافقية عن عمد.

OPENAI تعلن عن برنامج دردشة خاص للمراهقين قبل جلسة استماع في مجلس الشيوخ حول ضرر AI Chatbot

قادت كاليفورنيا الجهود الرامية إلى مساءلة شركات التكنولوجيا عن مخاطر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. في سبتمبر/أيلول، أعرب المدعي العام للولاية روب بونتا عن مخاوفه لـ OpenAI بشأن استخدام الأطفال لـ ChatGPT ومنتجاته الأخرى.

وقع نيوسوم، الذي لديه أربعة أطفال قاصرين مع زوجته، تشريعًا في أواخر الشهر الماضي يلزم شركات الذكاء الاصطناعي الحدودية مثل OpenAI وAnthropic بالكشف عن معلومات السلامة المتعلقة بخدماتها.