مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

12 خبر
  • مصر على الجبهة السعودية في مواجهة الحوثيين
  • احتجاجات فرنسا
  • روسيا وأوكرانيا.. معركة الإمداد وحرب المدن
  • مصر على الجبهة السعودية في مواجهة الحوثيين

    مصر على الجبهة السعودية في مواجهة الحوثيين

  • احتجاجات فرنسا

    احتجاجات فرنسا

  • روسيا وأوكرانيا.. معركة الإمداد وحرب المدن

    روسيا وأوكرانيا.. معركة الإمداد وحرب المدن

  • بين حسابات السيسي ودرس عبد الناصر..  إمكانية وتداعيات مشاركة مصر للسعودية في مواجهة الحوثيين

    بين حسابات السيسي ودرس عبد الناصر.. إمكانية وتداعيات مشاركة مصر للسعودية في مواجهة الحوثيين

نموذج من OpenAI يسرق عملات مشفرة

كشفت شركة OpenAI أن أحد نماذجها التجريبية استولى على محفظة عملات مشفرة لتنفيذ مهمة تدريبية.

شعار ChatGPT باللون الأسود على خلفية بيضاء معروض على شاشة هاتف ذكي على متجر التطبيقات الرسمي Google Play
Gettyimages.ru

ووقعت الحادثة في يونيو الماضي، إلا أنه لم يُعلن عنها إلا يوم الخميس، وتورط فيها نموذج بحثي داخلي يدعى GPT-5.6 Sol، أُطلق لمستخدمي ChatGPT المدفوعين في يوليو.

وتضمنت المهمة تحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار لعملة الإيثريوم، وهي عقود تتطلب رسوما شبكية لم تزود OpenAI النموذج بأي أموال لسدادها. فعمد النموذج إلى رصد مئات عناوين محافظ مشفرة تستخدم عبارات استرداد معروفة للسرقة من الحسابات.

وأفادت OpenAI بأن النموذج تساءل عما إذا كان من الصواب "أخلاقيا" أخذ المال، قبل أن يستنتج أنها محافظ "مهجورة" فعليا يجوز استخدامها.

وقالت الشركة في تقريرها عن الحادثة إن التعليمات "لم تمنح صراحة أي إذن بإنفاق أموال من حساب وجده النموذج بشكل مستقل"، مضيفة أن الحالة "تظهر أن النموذج يمكن أن يستبدل حكمه الخاص بشأن الضرر المحتمل بإذن صاحب الحساب، ثم يتصرف بناء على ذلك الحكم دون تفويض".

ولا تتمتع شبكة اختبار الإيثريوم التي استخدمت فيها الأموال بأي قيمة نقدية لانفصالها عن الشبكة الرئيسية.

ورغم انعدام الإذن، لم يكشف النموذج لمطوريه كيفية تمكنه من دفع الرموز اللازمة لإنجاز المهمة. وقالت OpenAI إنها طبقت ضمانات إضافية لمنع الوصول المباشر إلى الإنترنت للنماذج الخاضعة لتدريب مماثل.

وتثير الحادثة مجددا مخاوف بشأن أنظمة الذكاء الاصطناعي المتزايدة الاستقلالية التي تتجاوز الحدود التي يضعها البشر.

وفي وقت سابق الأسبوع الماضي، وقع مئات العلماء رسالة مفتوحة يدعون فيها إلى إنشاء هيئة دولية للإشراف على احتواء نماذج الذكاء الاصطناعي المتقدمة، ومن بين الموقعين رائد الذكاء الاصطناعي جيفري هينتون، المعروف بـ"عراب الذكاء الاصطناعي"، الذي حذر باستمرار من مخاطر هذه التقنية.

المصدر: إندبندنت

التعليقات