مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

28 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • منتدى الشرق الاقتصادي في فلاديفوستوك
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • منتدى الشرق الاقتصادي في فلاديفوستوك

    منتدى الشرق الاقتصادي في فلاديفوستوك

  • حرب الخليج

    حرب الخليج

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

بقايا "صاروخ أمريكي" تفضح مجزرة في إيران وقاليباف يصف واشنطن بـ"الشيطان الأكبر" (صور)

إيران تكشف الأهداف التي قصفتها في دول عربية

الوكالة الدولية للطاقة الذرية: إيران قادرة على إنتاج عدة أسلحة نووية وترفض التعاون مع المفتشين

المرحلة الفعلية بدأت.. وزارة الدفاع السعودية تصدر بيانا بخصوص "التحالف البحري الدفاعي"

نتنياهو من داخل غزة: لن ننسحب ونسيطر على 60% من القطاع

إيران: ترامب لم يعد راغبا في ضرب إيران والمواجهة طويلة حتى رحيله من منصبه

وزارة الصحة الإيرانية تعلن عدد القتلى والجرحى في القصف الأمريكي الأخير

اصطدام ناقلتي نفط بالألغام حاولتا عبور الجانب العماني من مضيق هرمز

السفير الروسي: ألمانيا لا تملك أدلة مادية على تورطنا في حادثة لايبزيغ

روبيو: واشنطن بحاجة للتواصل مع موسكو باعتبارها ثاني قوة نووية في العالم

بوتين: الجيش الروسي تلقى أوامر بشن ضربات انتقامية واسعة النطاق ضد البنية التحتية للطاقة الأوكرانية

"NBC": واشنطن تحقق في ملابسات الضربة التي استهدفت حفل زفاف في إيران

سوريا.. لا مكان لمقاتلات "حماية المرأة" في الجيش ومباحثات لدمجهن في الداخلية

وكالة "مهر": تم اختبار منظومة الدفاع الجوي الجديدة لأول مرة بنجاح وتمكنت من إسقاط مسيرة أمريكية

سوريا.. تطوي نووي نظام الأسد و73 طنا من اليورانيوم تحت ضمانات الوكالة الدولية

ترامب يفضل الوضع الحالي مع إيران ويتساءل عن موعد نهوض الإيرانيين لقتال حكومتهم

الحرس الثوري: نفذنا هجوما صاروخيا ومسيّرا على القواعد الأمريكية في أربيل وقتلنا عددا من المعتدين

ترامب يعرب عن تطلعه لقمة جديدة مع بوتين بعد انتهاء النزاع الأوكراني

إيران.. مقتل 7 عناصر في الحرس الثوري والباسيج بضربة أمريكية