ستؤدي مناقشات Meta AI حول الانتحار مع المراهقين إلى تنبيه الوالدين

عندما يتحدث المراهقون إلى Meta AI حول الانتحار أو إيذاء النفس، تؤدي المحادثة إلى إشعار الوالدين، حسبما قال ميتا في منشور على مدونة يوم الخميس.

تتوسع السياسة الجديدة في التدابير الحالية للمراهقين المصممة لإبلاغ الآباء حول كيفية استخدام أطفالهم لـ Meta AI. لن يتلقى الإشعار سوى الآباء الذين يستخدمون عناصر التحكم في الإشراف في Instagram. وفي نهاية المطاف، سيتلقى مقدمو الرعاية الذين يستخدمون أدوات الرقابة الأبوية لتطبيقات Meta الأخرى تنبيهات أيضًا.

قال ميتا: “لقد عملنا مع أولياء الأمور والخبراء لفهم محادثات الذكاء الاصطناعي التي تتطلب تنبيهًا، مثل تلك التي يشير فيها المراهق بوضوح إلى إيذاء نفسه، حتى لو كانت هذه الإشارة خفية”.

سيتلقى الآباء في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا تنبيهات. ستكون الميزة متاحة عالميًا بحلول نهاية العام.

كيف تعمل تنبيهات Meta AI للأزمات؟

تستشهد Meta AI بالفعل بالخطوط الساخنة للأزمات وتشجع المراهقين الذين يفكرون في الانتحار أو إيذاء النفس على طلب المساعدة من شخص بالغ موثوق به. الآن سيتلقى الآباء تنبيهًا بخصوص مثل هذه المحادثات. وقالت ميتا إنها ستتوخى الحذر في الوقت الحالي.

على الرغم من أن المناقشات ذات الصلة يتم تمييزها بواسطة الذكاء الاصطناعي، إلا أن Meta يراجعها يدويًا قبل إرسال تنبيه. يتلقى الوالد أيضًا اقتراحات وضعها الخبراء لمناقشة إيذاء النفس والانتحار مع طفلهم.

سيتلقى الآباء التنبيه عبر إشعار التطبيق ورسالة بريد إلكتروني منفصلة أو رسالة نصية قصيرة أو رسالة واتساب، اعتمادًا على معلومات الاتصال التي قدموها.

وقال بريندان بوفارد، محامي منظمة الدفاع عن الأطفال غير الربحية Fairplay، لـ Mashable في بيان: “إن ادعاء ميتا بأنها ستنبه الآباء المشرفين إذا كانت محادثة الذكاء الاصطناعي الخاصة بمراهقهم تشير إلى أنهم معرضون لخطر إيذاء النفس هي خطوة في الاتجاه الصحيح، ولكن يجب أن يُقابل هذا الإعلان بالتشكيك”.

وقال بوفارد إن بحث Fairplay لعام 2025 حول حسابات Meta للمراهقين كشف عن أدوات أمنية غير فعالة أو غير موجودة. وقالت ميتا إن التقرير أخطأ في عرض كيفية عمل أدواته الأمنية.

وفي فبراير، أطلقت ميتا ميزة مماثلة للإخطار بالانتحار وإيذاء النفس على إنستغرام.

وقال الدكتور جون أكرمان، المدير السريري لمركز منع الانتحار والأبحاث في مستشفى الأطفال الوطني، لموقع Mashable في ذلك الوقت إنه يرحب بالحماية الموسعة للمراهقين. ومع ذلك، أشار إلى أن مثل هذه الميزة يمكن أن ترقى إلى مستوى “التشدق الكلامي” إذا تعذر الوصول إلى الإشعارات، أو كان من الصعب التنقل فيها، أو لا تؤدي إلى “تغيير ملموس”.

وقال أكرمان لموقع Mashable إن التنبيهات الخاصة بمناقشات Meta AI التي تتضمن الانتحار وإيذاء النفس يمكن أن تكون مفيدة للعائلات.

وقال في رسالة بالبريد الإلكتروني بعد إعلان ميتا يوم الخميس: “يمكن لأدوات المراقبة الأبوية لوسائل التواصل الاجتماعي والذكاء الاصطناعي أن تساعد الآباء على اكتشاف المخاوف بسرعة، وبدء محادثات داعمة، وتوصيل أطفالهم بالمساعدة عند ملاحظة علامات الانتحار”.

وأضاف أكرمان أن الآباء بحاجة إلى إرشادات واضحة حول استخدام إعدادات الأمان. وأشار أيضًا إلى أن المنصات المعنية بسلامة المراهقين يجب أن تعالج العوامل التي يمكن أن تساهم في حدوث أزمة، مثل المقارنات الاجتماعية، والتسلط عبر الإنترنت، واضطرابات النوم، وأنماط مثل الاستخدام المفرط وعمليات البحث المتكررة.

إعداد محتوى محدود جديد لـ Meta AI

أعلنت Meta أيضًا عن إضافة إعداد محتوى محدود لـ Meta AI يوم الخميس. تم إطلاق هذه الميزة لـ Instagram العام الماضي.

يمكّن هذا الإعداد مرشحات Meta الأكثر صرامة. وبحسب الشركة، فقد تم تدريب Meta AI بالفعل على عدم الدخول في محادثات جنسية أو رومانسية مع المراهقين، ولا اقتراح وصفات للمشروبات الكحولية، على سبيل المثال.

عند تمكين إعداد المحتوى المحدود، تصبح النماذج الوصفية أكثر عدوانية في تحديد المطالبات التي بها مشكلات وترفض الاستجابة لمجموعة واسعة من الاستعلامات. وقال ميتا إن هذا النهج يقلل من “خطر المحادثات غير المناسبة”.

قضايا السلامة في سن المراهقة

انتقد المدافعون عن سلامة الأطفال تحديثات Meta الأخيرة للضوابط الأبوية باعتبارها غير كافية.

في أبريل، قدمت Meta للآباء نظرة عامة على محادثات أطفالهم مع Meta AI. وتسلط الميزة الضوء على موضوعات أوسع، مثل المدرسة والترفيه والكتابة والصحة والعافية. يمكن للوالدين النقر على الموضوع للحصول على تفاصيل إضافية ولكن محدودة.

وقال جوش جولين، المدير التنفيذي لشركة Fairplay، إن الميزة تتطلب من مقدمي الرعاية مراقبة نشاط أطفالهم عبر الإنترنت بدلاً من “إنشاء منتج آمن للبدء به”.

لا تزال شركة Meta تواجه التدقيق القانوني بشأن أدائها في مجال سلامة الأطفال. في وقت سابق من هذا العام، خسرت شركة Meta دعويين قضائيتين منفصلتين تتعلقان بحماية سلامة الأطفال والتصميم المزعوم لمنتجاتها الذي يسبب الإدمان. وقالت الشركة إنها ستستأنف كلا الحكمين، لكن المئات من الدعاوى القضائية المعلقة التي تزعم الإضرار بالأطفال لم تتم محاكمتها بعد.

تم التحديث: 16 يوليو 2026، الساعة 10:29 صباحًا بتوقيت المحيط الهادئ الصيفي تم تحديث هذه القصة بمعلومات إضافية من Meta وFairplay.

إذا كنت تشعر برغبة في الانتحار أو تعاني من أزمة تتعلق بالصحة العقلية، فتحدث إلى شخص ما. يمكنك الاتصال أو إرسال رسالة نصية إلى 988 Suicide & Crisis Lifeline إلى 988 أو الدردشة 988lifeline.org. يمكنك الوصول إلى Trans Lifeline عن طريق الاتصال بالرقم 877-565-8860 أو مشروع Trevor على الرقم 866-488-7386. أرسل كلمة “START” إلى خط الأزمات النصية على الرقم 741-741. اتصل بخط مساعدة NAMI على الرقم 1-800-950-NAMI، من الاثنين إلى الجمعة من الساعة 10:00 صباحًا إلى 10:00 مساءً. إت، أو عن طريق البريد الإلكتروني. (البريد الإلكتروني محمي). إذا لم يعجبك الهاتف، فكر في استخدام 988 دردشة الانتحار والبقاء على قيد الحياة في الأزمات. هنا أ قائمة الموارد الدولية.