الأنظمة
شغّل الذكاء الاصطناعي، تحت السيطرة.
ينقل قدرة واعدة إلى إنتاج محوكم: متكاملة، ومحددة الصلاحيات، ومقيَّمة، ومرصودة، مع تحكم إنساني ومعالجة محددة للأعطال — واقتصاديات تصمد عند الحجم الحقيقي.
متى يناسب
متى يكون هذا النظام مناسبًا
- نموذج أولي يعمل لكن لا يمكن الوثوق به بعد في العملية.
- يجب أن تكون الاستقلالية محدودة بعاقبة الخطأ.
- تحتاج القدرة إلى تقييم ورصد وتعافٍ قبل الإطلاق.
- يجب معرفة التكلفة والكمون والجودة عند الحجم الحقيقي.
الهندسة المعمارية
الهندسة المعمارية والحدود
يعمل النموذج أو الوكيل داخل حد تحكم: صلاحيات محددة، والأدوات والاسترجاع المسموح له باستخدامها، وتقييم قبل الإنتاج وخلاله، ورصد وتعافٍ. السلطة متناسبة مع العاقبة — من النصيحة إلى الاستقلالية المحدودة — ولا تتجاوز أبدًا ما تدعمه الأدلة.
حدّ التحكم
وصف نصي لهذا الرسم التخطيطي
يقع النموذج أو الوكيل داخل حدّ تحكم ومحاط بالحوكمة التي يحتاجها للعمل بأمان: صلاحيات محددة، والأدوات والاسترجاع المسموح له باستخدامها، والتقييم، والرصد، والتعافي.
لا تخرج الإجراءات ذات العواقب من الحدّ بمفردها — بل تمر ببوابة موافقة إنسانية. السلطة متناسبة مع العاقبة.
استقلالية متناسبة مع العاقبة
- نصيحة فقط النظام يُعلِم؛ وشخص يقرر ويتصرف.
- إجراء مقترح النظام يقترح؛ وشخص يراجع وينفّذ.
- إجراء مشروط بالموافقة النظام يُحضّر، ولا يتصرف إلا بعد موافقة إنسانية.
- إجراء مستقل محدود النظام يتصرف ضمن حدود صريحة، تحت الرصد، مع تعافٍ.
- استقلالية مستمرة فقط للسلوك القابل للرصد والتراجع ومنخفض العاقبة، مع تعافٍ مُثبَت.
الأدوار البشرية
الأدوار البشرية ومعالجة الأعطال
يبقى البشر مسؤولين عن القرارات ذات العواقب الجوهرية. يقترح النظام أو يتصرف فقط ضمن سلطته المحدودة، ويحجب الخطوات ذات العواقب حتى الموافقة، ولديه مسار محدد ومختبَر عند الفشل أو عدم التيقن.
التقييم
التقييم والقبول
يتطلب القبول مجموعة تقييم، ومعايير جودة وسلامة متفق عليها، وتعافيًا مُثبتًا — تُقاس قبل الإنتاج وتُرصد باستمرار. لا شيء يُطلق بناءً على عرض تجريبي فقط.
النشر
النشر والملكية
يعمل في بيئتك مع حدود صريحة للبيانات والهوية والصلاحيات. النظام وتقييماته وسجل تدقيقه مملوكة لك.
الأدلة والالتزام
الأدلة والالتزام
يحلّ هذا المجال بشكل مباشر أكثر الذكاء الاصطناعي ينجح في العرض التجريبي لا في العملية . والدليل المنشور هو مخطط الذكاء الاصطناعي والوكلاء المحوكمين، الذي يستوفي المعيار المحدد في صفحات الأدلة.
يبدأ الالتزام بوصف التحدي — يحدد استقبال المهمة العملية المستهدفة ونموذج التحكم قبل أي بناء.
التكليف
ابدأ بما يجب أن يتغيّر.
إذا كانت قدرة واعدة عالقة خارج الإنتاج، فالخطوة الأولى هي تحديد حدّ التحكم الذي يجب أن تعبره.