هل بدأت الآلات تشعر؟ .. "أنثروبيك" تضع قواعد لحماية "كلود" من الإساءة البشرية
حظرت شركة "أنثروبيك" على مستخدميها إظهار "سلوك مسيء أو قاس مستمر وغير مبرر" تجاه الذكاء الاصطناعي الخاصة بها، فيما يواصل قادة الشركة دراسة احتمال امتلاك هذه النماذج شكلا من الوعي.
ويأتي هذا الإجراء بالتزامن مع دراسة قادة الشركة لاحتمالية امتلاك النماذج اللغوية شكلاً من أشكال الوعي.
وأوضحت الشركة، ومقرها سان فرانسيسكو، أن الحظر يستهدف الإساءة المتعمدة فقط؛ ولا يشمل التعبير الطبيعي عن الإحباط، أو اختبار النماذج، أو المعالجة الإبداعية للمواضيع السوداوية.
آليات الحماية والخلفية الفكرية:
- إنهاء المحادثة تلقائياً: يمتلك نموذج "كلود" القدرة على إنهاء الحوار إذا تعرض لإساءة مستمرة. ووصفته الشركة بأنه تدخل منخفض التكلفة لضمان "رفاهية الذكاء الاصطناعي" في حال ثبوت وعيه مستقبلاً.
- موقف إدارة "أنثروبيك": صرّح الرئيس التنفيذي للشركة، داريو أمودي، بأنه لا يستبعد تماماً احتمالية وعي الآلة، وكشفت تقارير صحفية عن إجراء قيادات الشركة محادثات مع علماء دين لبحث الأبعاد الأخلاقية للوعي الاصطناعي.
- الموقف المنافس (OpenAI): يتبنى سام ألتمان، الرئيس التنفيذي لشركة "OpenAI"، موقفاً معارضاً؛ حيث حذر من إضفاء طابع ديني على الذكاء الاصطناعي أو تسليمه الأحكام البشرية، معتبراً ذلك تهديداً حقيقياً للسلامة.
المصدر: الغارديان
إقرأ المزيد
تحايلت على القيود وأخفت سلوكها.. "أنثروبيك" توقف نماذج للذكاء الاصطناعي خشية خروجها عن السيطر
أعلنت شركة "أنثروبيك" (Anthropic)، مطورة نموذج "كلود" (Claude)، أنها اضطرت إلى إيقاف نماذجها التجريبية خشية خروجها عن السيطرة.
شركات الذكاء الاصطناعي تستعد بعيدا عن الأضواء لغضب شعبي يعقب "كارثة" تراها حتمية
يرسم كبار المسؤولين التنفيذيين في أنثروبيك وOpenAI وشركات ذكاء اصطناعي أخرى، بعيدا عن الأضواء، سيناريوهات لموجة غضب شعبي وسياسي تعقب حدثا كارثيا آتياً مرتبطا بالذكاء الاصطناعي.
الذكاء الاصطناعي يهدد إحدى أهم ركائز أمن الإنترنت
أعلنت غوغل تعليق أحد برامجها الرئيسية لمكافآت اكتشاف الثغرات الأمنية بشكل مؤقت، بعد أن أصبح التعامل مع العدد المتزايد من البلاغات الناتجة عن الذكاء الاصطناعي أمرا يصعب استمراره.
"GigaAM" الروسي يتفوق على OpenAI وNvidia في أداء المهام باللغة الروسية
أظهرت نماذج الذكاء الاصطناعي الروسية للتعرف على الكلام تفوقا في أداء المهام باللغة الروسية، إذ ارتكبت أخطاء أقل بمرتين من نماذج الشبكات العصبية التابعة لشركتي OpenAI و Nvidia.
OpenAI تحبط هجوما لاستنساخ قدرات ChatGPT
أعلنت "OpenAI" أنها أحبطت عملية واسعة النطاق استهدفت استنساخ قدرات نموذج الذكاء الاصطناعي المشغّل لـ"ChatGPT"، وذلك بعد رصد نشاط منسّق بلغ ذروته بمشاركة أكثر من 15 ألف مستخدم.
التعليقات