"عراب الذكاء الاصطناعي" يكشف خطة لمنع "كارثة عالمية محتملة"
دعا جيفري هينتون، المعروف بـ"عراب الذكاء الاصطناعي"، إلى تأسيس هيئة دولية للإشراف على احتواء أنظمة الذكاء الاصطناعي القوية.
وقد انضم إليه نحو 400 عالم في توقيع رسالة مفتوحة حذرت من حوادث الأمن السيبراني الكارثية الناتجة عن الذكاء الاصطناعي، والتي قد تلحق أضرارا جسيمة بالشركات والحكومات.
وجاءت هذه الدعوة إثر إخفاقات أمنية بارزة لشركات الذكاء الاصطناعي، أبرزها هروب نماذج تجريبية لـOpenAI من القيود وشنها هجوما على منصة Hugging Face.
وحذرت الرسالة من استمرار وتفاقم هذه الحوادث في غياب تغييرات فورية في ممارسات تطوير ونشر الذكاء الاصطناعي، ما يعرض البنية التحتية الحيوية لمخاطر أكبر.
ودعت الرسالة إلى تعزيز أبحاث سلامة الذكاء الاصطناعي، والتركيز على تقنيات وإجراءات الاحتواء، بما في ذلك عزل النماذج التجريبية وحظر وصولها إلى الإنترنت.
وستتولى الهيئة التنظيمية المقترحة وضع معايير احتواء الذكاء الاصطناعي وإلزام الشركات بالإبلاغ عن أي إخفاقات لتعزيز التعلم والمساءلة.
وتأتي هذه الرسالة ضمن دعوات عالمية متزايدة لتعزيز تدابير سلامة الذكاء الاصطناعي.
وعلى صعيد متصل، وقع كبار مطوري الذكاء الاصطناعي في الولايات المتحدة، ومنهم Anthropic وOpenAI و"غوغل" و"ميتا"، اتفاقا مع البيت الأبيض الشهر الماضي يلتزمون بموجبه بتدابير سلامة طوعية، دون الاتفاق على آلية تنفيذ رسمية.
المصدر: إندبندنت
إقرأ المزيد
معادلة رياضية تتنبأ باللحظة التي يخرج فيها الذكاء الاصطناعي عن السيطرة
طور باحثان من جامعة جورج واشنطن معادلة رياضية بسيطة يمكنها التنبؤ بموعد تحول روبوتات المحادثة الشبيهة بـ"تشات جي بي تي" (ChatGPT) فجأة، من ردود مفيدة إلى ردود ضارة.
الذكاء الاصطناعي يتحول إلى "ديدان رقمية" تستنسخ نفسها وتخترق أجهزتكم دون إذنكم
كشف خبراء شركة Anthropic عن أن نماذج محددة من الذكاء الاصطناعي قادرة على الانتقال بنفسها بين الأجهزة المتصلة مثل ديدان حاسوبية، وبرامج خبيثة تستنسخ نفسها عبر الشبكة.
مدير FBI يعيد نشر صور جهاز التسجيل الذي وضعه مهندس سعودي بشركة Open AI
أعاد مدير مكتب التحقيقات الفيدرالي الأمريكي كاش باتيل نشر صور لجهاز تسجيل وضعه موظف سعودي يعمل في شركة OpenAI.
اعتقال مهندس سعودي في أمريكا بتهمة التنصت سرا على محادثات حساسة
وُجّه اتهام إلى مهندس في شركة "OpenAI" بتركيب جهاز تسجيل سرا داخل غرفة اجتماعات، في محاولة لالتقاط محادثات حساسة تتعلق بتكنولوجيا الشركة، وفقا لما أعلنه مسؤولون.
خبير: نهاية العالم على يد الذكاء الاصطناعي قد تكون مفيدة للبشرية!
اعتبر كيفن هانت من جامعة نوتنغهام ترنت أن ما يتحقق على يد الذكاء الاصطناعي قد يعود بالنفع على البشرية، في وقت يتصاعد فيه الجدل حول مخاطر هذه التقنيات.
التعليقات