Anthropic يقول أن التراجع في علم الأحياء في الخرافة 5 انخفض بنسبة 85%

ماذا حدث

تم تحديث Anthropic Claude الضمانات البيولوجية لـ Fable 5 في 7 أغسطس، مما أدى إلى تضييق نطاق المصنف الذي أعاد توجيه كل استعلام بيولوجي تقريبًا إلى نموذج أقل قدرة بيولوجيًا.

عندما يشير المصنف إلى طلب ما، يقوم Anthropic بتوجيهه من Fable 5 إلى Opus 5. وتقول الشركة إن Opus 5 يظل قادرًا على الاستخدام العام ولكنه يوفر مساعدة تشغيلية أقل في علم الأحياء المتقدم، مما يقلل من قيمة النظام لشخص يسعى إلى عمل ضار.

تقول Anthropic إنها أعادت كتابة دستور المصنف، وجمعت تعليقات من خبراء داخليين وخارجيين، وأنشأت بيانات تدريب جديدة، وأعادت تدريب المصنف، وتأكدت من أنه لا يزال يتم تشغيله بشكل عام في طلبات البحث الضارة والمزدوجة الاستخدام. وفي اختبار الشركة، أدى التحديث إلى تقليل التراجعات المتعلقة بالبيولوجيا بنحو 85% عبر منتجاتها.

The change follows a deliberately conservative launch posture. Anthropic says Fable 5 initially routed almost every biology request to Opus 5 because the company preferred a broad safety boundary while it learned where benign health and education questions were being caught. The August update narrows that boundary through a separate classifier instead of changing the model's underlying biology capability. That makes the release a policy-and-routing change, not evidence that Fable 5 has become a clinically validated biology assistant.

يهدف التغيير إلى السماح لـ Fable 5 بالإجابة على المزيد من الأسئلة الصحية والسريرية والتعليمية اليومية. يقول Anthropic إن الوصول العادي لا يزال يقتصر على المجالات ذات الاستخدام المزدوج بما في ذلك علم الفيروسات وعلم السموم والتصميم الجزيئي، وبالتالي فإن النموذج ليس متاحًا بعد من خلال هذا المسار لأبحاث البيولوجيا المهنية أو تطوير الأدوية.

تفاصيل المصدر: Anthropic's Fable 5 biology safeguards announcement ↗

لماذا يهم

ويشكل التحديث اختبارا عمليا لما إذا كان من الممكن أن تصبح ضمانات النموذج الحدودي أكثر دقة دون الاختيار ببساطة بين الوصول على نطاق واسع أو الرفض على نطاق واسع.

يمكن أن يؤدي المرشح الخشن إلى تقليل المخاطر بسرعة، ولكنه يمكنه أيضًا منع الطلاب والمرضى والمعلمين ومتخصصي الرعاية الصحية الذين تستخدم أسئلتهم نفس اللغة التقنية التي تستخدمها الأبحاث الحساسة. اختارت Anthropic نقطة البداية المحافظة هذه عندما أصدرت Fable 5، ثم استخدمت سياسة أكثر تفصيلاً وأمثلة تدريب جديدة لتحريك حدود الطلبات الحميدة.

يختلف تغيير تجربة المستخدم حسب المنتج لأن علم الأحياء ليس سوى سبب واحد للتراجع. تشير تقديرات Anthropic إلى أن إجمالي التراجعات بجميع أنواعها سينخفض ​​بنسبة 67% تقريبًا على Claude.ai، و55% في Cowork، و17% في كود Claude، و7% على منصة Claude. هذه قياسات الشركة، وليست نتائج تدقيق مستقلة.

الآلية مهمة أيضًا: تتم إعادة توجيه الطلب الذي تم وضع علامة عليه بدلاً من الرد عليه بواسطة الخرافة 5. وهذا يحافظ على الوصول إلى نموذج عام بينما يعتبر حجب القدرة Anthropic الأكثر إثارة للقلق، لكنه لا يثبت أن كل إجابة صحية مسموح بها دقيقة أو مناسبة لاتخاذ قرار سريري.

For organizations, the practical question is how the boundary behaves across contexts. A student asking for a plain-language explanation, a clinician checking terminology, and a researcher requesting an experimental protocol may use overlapping words while presenting very different risk. Anthropic's routing approach can preserve a safer general answer for the first two cases, but only if the classifier recognizes intent, conversation history, and requested operational detail without turning a legitimate professional workflow into an opaque denial.

ماذا تشاهد بعد ذلك

راقب الأدلة التي تشير إلى أن معدل التراجع المنخفض يقابله اكتشاف قوي للطلبات الخطيرة حقًا، بالإضافة إلى قواعد واضحة للوصول الموثوق إلى الأبحاث.

لم يقم Anthropic بنشر مجموعة التقييم أو المعدل السلبي الخاطئ أو النسخ المتماثل المستقل مع هذا الإعلان. تقول الشركة إن النتائج الإيجابية الكاذبة ستبقى وأن المصنفات يجب أن تصمد أيضًا أمام محاولات كسر الحماية، لذا فإن الرقم 85% يقيس عددًا أقل من التراجعات بدلاً من مقايضة الأمان الكاملة.

ستُظهر عمليات الكشف المفيدة التالية الأداء عبر إعادة الصياغة، واللغات، والمحادثات متعددة المنعطفات، وسير العمل الممكّن بالأداة. يحتاج الباحثون أيضًا إلى معرفة عدد المرات التي يعبر فيها الطلب الضار الحدود الجديدة ومدى سرعة تحديث المصنف عند ظهور تجاوزات جديدة.

تقول Anthropic إنها تعمل على تطوير مسارات وصول موثوقة لقدرات البيولوجيا الحدودية. وستعتمد مصداقيتهم على من هو المؤهل، وما هي إجراءات المراقبة وحماية الخصوصية المطبقة، وكيفية مراجعة الحوادث، وما إذا كان الباحثون الشرعيون قادرين على تحدي القيود غير الصحيحة.

The next disclosure should also explain how the classifier is evaluated after deployment. A lower fallback rate can be achieved by reducing false positives, by shifting difficult cases to another model, or by missing more harmful requests; those outcomes have very different safety meanings. Useful reporting would include false-positive and false-negative estimates by request type, performance under multi-turn escalation and paraphrase, language coverage, handling of tool calls, and the process for updating the boundary after a jailbreak or an incident.

The user-facing promise should be tested with the same care as the safety boundary. Anthropic says the update should help with everyday health, clinical, and educational questions, but a lower fallback rate does not establish medical accuracy, appropriate triage, or suitability for professional decisions. Independent reviewers should sample allowed answers for unsupported certainty, missing safety advice, and harmful procedural detail, while also checking whether the fallback model communicates its limits clearly. The strongest evidence would compare matched requests before and after the classifier change and publish enough anonymized examples for outside researchers to understand both the gains and the new failure modes.

That evidence should be reported separately for consumer chat, coding, agentic workflows, and the API because the same classifier boundary may carry different tools, context windows, and user expectations in each product. A single blended fallback percentage can hide a meaningful regression in one surface behind improvement in another. Publishing the denominator, confidence intervals, and product-level counts would make the result useful to educators, clinicians, developers, and safety researchers rather than only to readers comparing one headline number.

الأدلة والاختبارات ذات الصلة