مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

72 خبر
  • هدنة وحصار المضيق
  • منتدى بطرسبورغ الاقتصادي الدولي
  • فيديوهات
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • منتدى بطرسبورغ الاقتصادي الدولي

    منتدى بطرسبورغ الاقتصادي الدولي

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • نبض الملاعب

    نبض الملاعب

  • إيران تدين الهجمات الأمريكية على ناقلة نفط وبرج اتصالات وتحمل الكويت والبحرين المسؤولية

    إيران تدين الهجمات الأمريكية على ناقلة نفط وبرج اتصالات وتحمل الكويت والبحرين المسؤولية

  • أسرع من بولت في عمره.. اعتماد الرقم القياسي العالمي الجديد لغاوت غاوت (فيديو)

    أسرع من بولت في عمره.. اعتماد الرقم القياسي العالمي الجديد لغاوت غاوت (فيديو)

  • أزمة تهدد مواعيد مباريات كأس العالم 2026

    أزمة تهدد مواعيد مباريات كأس العالم 2026

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

"هذا ما يجب على طهران فعله".. وزير الخارجية الأمريكي يحدد شرطين لرفع الحصار عن إيران

وزارة الدفاع الكويتية: نتعرض لهجوم بالصواريخ والطائرات المسيرة (صورة + فيديو)

تنم عن عدم ثقة.. قناة عبرية تكشف تفاصيل اتفاق بين ترامب ونتنياهو سبق المكالمة الكارثية

"نافيا المحادثة البذيئة".. مسؤول إسرائيلي: ترامب لم يوبخ نتنياهو

وكالة "مهر": سماع دوي انفجارات قرب جزيرة قشم الإيرانية

حان الوقت لإبرام صفقة.. ترامب ينفي توقف المحادثات بين واشنطن وطهران

مكالمة مليئة بالألفاظ النابية.. الرئيس ترامب ينفجر غضبا ويوبخ نتنياهو بسبب لبنان

"إي بي سي نيوز": ترامب يطالب طهران بتقديم تنازلات نووية محددة كتابيا كجزء من اتفاق مبدئي

سيناتور أمريكي لروبيو: نحن أقوى دولة ومع ذلك وصلنا إلى طريق مسدود مع إيران

أبو عبيدة: عدونا الجبان يتوهم إضعافنا باغتيال قادتنا لكن دماءهم هي الوقود الذي يحرك سفينتنا (فيديو)