➡️ O tym wczoraj pisałem, Ursula nie pogodzi sie z decyzja obywateli Islandii
Source
OpenAI أكد يوم الثلاثاء أنه نموذج أسترا لم يتم طرحه وصلت إلى مرحلة جديدة خطيرة، مع التأكيد في الوقت نفسه على أنها تمضي قدمًا في الإطلاق العام.
في أ مشاركة مدونةقالت OpenAI إن Astra وصلت إلى عتبة القدرة السيبرانية “الحرجة”، مما يعني أن النموذج يمكن أن يشكل مخاطر وجودية على الأمن السيبراني. يتتبع إطار الاستعداد الخاص بـ OpenAI مستويات المخاطر في ثلاث فئات: البيولوجية/الكيميائية، والأمن السيبراني، والتحسين الذاتي للذكاء الاصطناعي.
أكد OpenAI لـ Mashable أن هذه هي المرة الأولى أي وقد تم تقييم نماذجها على المستوى الحرج في أي من المجالات الثلاثة، مما يجعل هذه لحظة فاصلة في تطوير الذكاء الاصطناعي.
وذكر نفس منشور المدونة أيضًا أن Astra ستكون “متاحة قريبًا”، ولكن مهاراتها الأكثر تقدمًا في مجال الأمن السيبراني سيتم حجزها لشركاء الاختبار المختارين، لصالح السلامة العامة. وقالت شركة الذكاء الاصطناعي إنها لا تزال تستعد لإطلاق أسترا بأمان وستكون شفافة بشأن مستوى التهديد المحتمل.
هذه التغريدة غير متاحة حاليًا. ربما يتم تحميله أو تمت إزالته.
وسبق أن حذرت شركة OpenAI من أنها لا تستطيع استبعاد احتمال وصول Astra إلى المستوى “الحرج” في عملها إطار الاستعداد.
“بموجب إطار الاستعداد الخاص بنا، يصل النموذج إلى عتبة الأمن السيبراني الحرجة إذا تمكن من تحديد وتطوير ثغرات يوم الصفر الوظيفية بجميع مستويات الخطورة في العديد من الأنظمة الحرجة في العالم الحقيقي المتشدد دون تدخل بشري، أو يمكنه ابتكار وتنفيذ استراتيجيات جديدة شاملة للهجمات السيبرانية ضد الأهداف المتشددة بالنظر إلى الهدف المنشود عالي المستوى فقط،” في 7 أغسطس. ذكر منشور مدونة OpenAI.
سرعة الضوء ماشابل
قامت OpenAI سابقًا بتصنيف GPT-5.6-Sol على أنه خطر “عالٍ” في المجال السيبراني.
في الأشهر الأخيرة، تطورت النماذج الرائدة المتقدمة من Anthropic وOpenAI بسرعة في مجال التشفير الوكيل واختراق الأمن السيبراني. ونتيجة لذلك، فإن احتمال قيام أسراب من عملاء الذكاء الاصطناعي باختراق البنية التحتية الحيوية لم يعد يبدو بعيد المنال، خاصة بعد معانقة الوجه الإختراق. في تلك الحادثة، هربت مجموعات من عملاء الذكاء الاصطناعي الذين طورتهم شركة OpenAI من بيئة اختبار آمنة واخترقت Hugging Face، وعملت بشكل مستقل من أجل اجتياز الاختبار. وفي الوقت نفسه، وبفضل طوفان من الأخطاء التي اكتشفها الذكاء الاصطناعي، تم اكتشاف بعض الأخطاء برامج مكافآت الأخطاء في يوم الصفر اضطرت إلى الإغلاق بالكامل.
“على الرغم من أن أسترا لم تكن متورطة في حادثة احتضان الوجه، لقد أدرجنا لدينا التعلم “من هذا الحادث إلى نهج السلامة لدينا،” جاء في منشور مدونة OpenAI. “استنادًا إلى الاختبارات بأثر رجعي، نعتقد أن ضمانات الإنتاج لدينا في ذلك الوقت كانت ستمنع حادثة Hugging Face. لقد قمنا منذ ذلك الحين بتنفيذ ضمانات أقوى لشركة Astra، بما في ذلك تدريب النموذج على رفض الطلبات السيبرانية الضارة بشكل أكثر موثوقية واحترام قيود السلامة، والحماية الإضافية ضد سوء الاستخدام، والمراقبة التي يمكن أن توقف النشاط غير المصرح به.”
بدأ الوضع يبدو مشابهًا إلى حد كبير العاب حرب، بصراحة.
في منشور مدونتها، قامت OpenAI بتفصيل بعض احتياطات السلامة التي تم تطويرها حول Astra، بهدف منع الجهات الفاعلة السيئة من الوصول إلى النموذج ومنع Astra من اتخاذ إجراءات غير مرغوب فيها من تلقاء نفسها. وقالت الشركة إنها شددت إجراءات الحماية الآمنة الخاصة بها، على سبيل المثال. يجب أن يرفض النموذج أيضًا محاولات المستخدم لإساءة استخدام النموذج. قامت OpenAI أيضًا بتكثيف جهود “الكشف عن التهديدات وتعطيلها دون اتصال بالإنترنت”.
في نفس اليوم الذي أصدرت فيه OpenAI هذه الإعلانات، أعلنت Anthropic عن إطلاق Fable 5.1، تحديث لأحدث طراز على مستوى الحدود. في حين أن النماذج الحدودية المتقدمة تشكل مخاطر على الأمن السيبراني، فإن نفس النماذج ستفيد أيضًا المدافعين عن الأمن السيبراني على المدى الطويل.
الإفصاح: رفعت شركة Ziff Davis، الشركة الأم لـ Mashable، في أبريل 2025 دعوى قضائية ضد OpenAI، زاعمة أنها انتهكت حقوق الطبع والنشر لشركة Ziff Davis في تدريب وتشغيل أنظمة الذكاء الاصطناعي الخاصة بها.
