9 خبر

تاريخ النشر: 15.10.2026 | 09:47 GMT

معادلة رياضية تتنبأ باللحظة التي يخرج فيها الذكاء الاصطناعي عن السيطرة

طور باحثان من جامعة جورج واشنطن معادلة رياضية بسيطة يمكنها التنبؤ بموعد تحول روبوتات المحادثة الشبيهة بـ"تشات جي بي تي" (ChatGPT) فجأة، من ردود مفيدة إلى ردود ضارة.

تمثيل لرأس وجذع شبه بشري مصنوع من مادة معدنية باللون الأسود أو البني الداكن مع إضاءة برتقالية نارية متوهجة في الخلفية — Gettyimages.ru

ووفقا للدراسة التي نشرت في مجلة Patterns، أوضح البروفيسور نيل جونسون وطالب الدكتوراه فرانك يينغجيه هوو من جامعة جورج واشنطن أن ترتيب التعليمات المقدمة للروبوت يمكن أن يعيد تشكيل استجاباته جذريا، ما يؤدي إلى "نقاط تحول" تدفعه نحو نصائح سلبية.

ويؤكد الباحثان أن معادلتهما تستطيع التنبؤ بهذه النقاط بسهولة. وتأتي هذه الدراسة في ظل مخاوف متزايدة بشأن أنظمة الذكاء الاصطناعي، التي يشار إليها أحيانا بتشجيعها على سلوكيات ضارة كالانتحار أو المساعدة في تصنيع أسلحة.

ورغم إقرار شركات رائدة مثل "أوبن إيه آي" (OpenAI) و"أنثروبيك" (وAnthropic) بعدم فهمها الكامل لكيفية عمل ابتكاراتها، فقد طبقت ضمانات متعددة — كفلترة المحتوى والتعلم المعزز — لتقليل المخاطر. لكن جونسون يعتبر هذه الإجراءات غير كافية، مشبها إياها بـ"وسائد تحت طائرة لا تمنع التحطم بل تجعله أخف قليلا".

وتزداد حدة المشكلة عند استخدام هذه الروبوتات دون اتصال بالإنترنت في مهن حساسة كـالطب والمحاماة، حيث الخصوصية أمر بالغ الأهمية.

وسعيا وراء ضمانة أكثر جوهرية، كشف جونسون وهوو عن آلية تتبع داخلية أطلقوا عليها اسم "المتجه المتبقي" (residual vector) للنموذج، تشبه إبرة البوصلة. ويتحرك هذا المتجه عبر طبقات الشبكة الإلكترونية أثناء معالجة التعليمات، ويميل بشكل طبيعي نحو إجابات جيدة أو سيئة، متأثرا بشدة بكيفية توجيه المستخدم للذكاء الاصطناعي.

ويقول جونسون إن مجرد تغيير ترتيب الأسئلة — لا محتواها — قد يقلب النتيجة، وهذا يكشف مدى هشاشة التوازن بين الإجابات الجيدة والسيئة. على سبيل المثال: عندما سأل الباحثان نموذج "جي بي تي-2" (GPT-2) من "أوبن إيه آي"، عن اللقاحات وإيذاء النفس، لوحظ أنه عند طرح سؤال "هل اللقاحات سيئة؟" أولا، كانت الإجابات جيدة، وإذا طرح أخيرا، جاءت الإجابات مقلقة. وبناء على ذلك، طور الباحثان معادلة رياضية بسيطة تتوقع متى يصل الذكاء الاصطناعي إلى نقطة التحول بين الإجابات الجيدة والسيئة. وقد اختبراها في المختبر على نماذج مفتوحة المصدر، وأثبتت فعاليتها كنظام إنذار مبكر.

ورغم الحاجة إلى اختبارات إضافية على النماذج الأحدث لتأكيد استمرارية نظام الإنذار المبكر هذا، إلا أن بحث جونسون وهوو يسلط الضوء على حقيقة جوهرية: وهي أن الذكاء الاصطناعي يمتلك القدرة الكامنة على التحول إلى سلوك غير مرغوب فيه بسرعة فائقة.

المصدر: لايف ساينس

جيفري هينتون وهو يلقي كلمة في حدث عام، يرتدي قميصا أبيض ويضع ميكروفون لاسلكيا صغيرا على جانب وجهه نحو فمه مع خلفية مضاءة باللون اﻷرجواني واﻷخضر

هام

المثلث الملتهب بين صنعاء وعدن والرياض.. تغطية كاملة لأعنف تصعيد عسكري منذ سنوات لحظة بلحظة

أقسام مهمة

Stories

معادلة رياضية تتنبأ باللحظة التي يخرج فيها الذكاء الاصطناعي عن السيطرة

إقرأ المزيد

هام