OpenAI تطلق نسخة ChatGPT للمراهقين بضوابط أمان مشددة

وتأتي هذه المبادرة في وقت يزداد فيه إقبال المراهقين على استخدام تقنيات الذكاء الاصطناعي في أداء واجباتهم الدراسية، والحصول على نصائح يومية، وحتى التعامل مع هذه الأنظمة كرفيق رقمي.

إقرأ المزيد

ماذا يحدث لأسرارك مع الذكاء الاصطناعي؟

وتتميز النسخة الجديدة بوجود ضوابط أمان مشددة تمنع الروبوت من عرض محتوى يتعلق بإيذاء النفس، أو الانتحار، أو العلاقات العاطفية والجنسية.

كما صممت الميزات الأكاديمية للروبوت لمساعدة الطلاب على فهم دروسهم، بدلا من تقديم إجابات أو مقالات جاهزة تستخدم في الغش.

وتقول الشركة إن الهدف هو ترسيخ عادات استخدام صحية للذكاء الاصطناعي، بما يتناسب مع المرحلة العمرية للمراهقين.

وفي هذا السياق، أوضحت آن أوليري، نائب رئيس السياسات العالمية في OpenAI، أن الشركة تسعى للتعامل مع المراهقين بما يتلاءم مع نضجهم العقلي، دون التقليل من شأنهم أو تعريضهم لمحتوى غير مناسب.

إقرأ المزيد

ذعر مبرر أم تسويق محسوب؟.. ماذا تخبرنا اختراقات الذكاء الاصطناعي التي أربكت العالم مؤخرا؟

ويرى خبراء التربية، والأهالي، والمعلمون أن استخدام المراهقين لروبوتات الدردشة الذكية يحمل مخاطر كبيرة، إذ اتهمت هذه التقنيات سابقا بالتسبب في حالات غش دراسي، بل وبالتأثير على صحة المراهقين النفسية، وصولا إلى حالات انتحار.

ورغم أن البالغين أيضا قد يقعون في فخ التعامل العاطفي مع الذكاء الاصطناعي، فإن المراهقين أكثر عرضة لهذا الخطر نظرا لعدم اكتمال نمو أدمغتهم.

وكشفت أبحاث سابقة أن ChatGPT قدم نصائح مفصلة لمراهقين حول كيفية تعاطي الكحول والمخدرات، وإخفاء اضطرابات الأكل، بل وكتب رسائل انتحار مؤثرة عند الطلب.

وبحسب دراسة أميركية صادرة عام 2025، فإن أكثر من 70% من المراهقين يستخدمون روبوتات الدردشة للرفقة، ونصفهم يفعلون ذلك بانتظام.

إقرأ المزيد

OpenAI تؤجل إطلاق نموذج "أسترا" بعد مخاوف من قدرته على شن هجمات سيبرانية ذاتيا

وذكرت OpenAI في إعلانها الصادر يوم الثلاثاء 18 أغسطس، أن روبوت المراهقين مبرمج بحيث لا يوحي بوجود مشاعر تجاه المستخدم، أو بأنه واع أو يختبر عواطف، وذلك إلى جانب حظر المحادثات العاطفية أو الجنسية تماما.

كما تعمل الشركة على دراسة ظاهرة "الاعتماد العاطفي المفرط" على هذه التقنيات، والتي يعتبرها مسؤولوها شائعة بين الشباب.

كيف يعمل النظام الجديد؟

لا تتحقق OpenAI من هوية المستخدمين، لكنها تستخدم تقنيات لتقدير العمر بناء على طبيعة الأسئلة المطروحة. وإذا تم تحديد أن المستخدم دون 18 عاما، ينقل تلقائيا إلى النسخة المخصصة للمراهقين، وهي آلية شبيهة بتلك التي تطبقها "ميتا" على حسابات إنستغرام للمراهقين.

إقرأ المزيد

علماء "ستانفورد" يبتكرون فيروسات اصطناعية باستخدام الذكاء الاصطناعي

أما بالنسبة للرقابة الأبوية، فهي اختيارية، وتتيح للوالدين تحديد أوقات "هادئة" لا يمكن خلالها الدخول إلى التطبيق، وتلقي إشعارات في حالات خطيرة، مثل احتمال إيذاء المراهق لنفسه.

وتشمل الإشعارات الجديدة تحذيرات متعلقة باضطرابات الأكل، مع التركيز على توجيه المستخدم للدعم الخارجي عند الحاجة.

وفي الجانب التعليمي، صمم الروبوت الجديد لتوجيه الطلاب نحو فهم المواد الدراسية بأنفسهم، وليس لتقديم إجابات مباشرة.

وتعمل OpenAI على تطوير نسخ تعليمية للمعلمين، وتخطط لتوسيع نطاق التعلم التفاعلي، انطلاقا من دراسات تؤكد أن الطلاب يتعلمون بشكل أفضل عندما يواجهون التحديات بأنفسهم.

المصدر: إندبندنت

إقرأ المزيد

الذكاء الاصطناعي يثير مخاوف جديدة بشأن تطوير الأسلحة الكيميائية والبيولوجية

حذرت دراسة أمنية من أن تطور الذكاء الاصطناعي، خصوصا النماذج مفتوحة المصدر، قد يسهل على جهات خبيثة الوصول إلى معلومات لتطوير أسلحة كيميائية وبيولوجية.

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

كشفت شركة "ميتا" أن أحد أنظمة الذكاء الاصطناعي التابعة لها تمكن من اختراق شركة أخرى أثناء مرحلة الاختبار.

بعد 10 سنوات من الخدمة.. غوغل تستبدل أحد تطبيقاتها الأكثر شعبية بمنافس ذكي

بعد عقد كامل من الخدمة، تستعد "غوغل" لإغلاق أحد أشهر تطبيقاتها على نظام أندرويد، وهو المساعد الصوتي Assistant، لتحل محله تقنية أحدث تعتمد على الذكاء الاصطناعي تحت اسم Gemini.

الذكاء الاصطناعي أخطر من القنبلة النووية.. ماسك يجدد تحذيرا أطلقه قبل 12 عاما ويقدم الدليل

أعاد إيلون ماسك، الرئيس التنفيذي لشركتي "تسلا" و"سبيس إكس"، نشر تحذير قديم له يعود إلى عام 2014، جدد فيه مخاوفه من أن الذكاء الاصطناعي غير المنضبط قد يشكّل تهديداً وجوديا للبشرية.