الحوكمة
ذكاء اصطناعي مصمَّم لبيئات خاضعة للمساءلة.
النموذج الذي لا يمكن تفسيره ومراقبته وإدارة إصداراته وتدقيقه لا مكان له في مؤسسة منظَّمة. تصف هذه الصفحة القيود التي تُبنى TasawurAI مقابلها. وهي ليست طموحات أُضيفت لاحقاً بل متطلبات تشكّل المعمارية.
- القرار
- دائماً شخص
- الأدلة
- محفوظة مع كل درجة
- الإطلاقات
- متحقَّق منها ومعتمَدة
- السجل
- قابل لإعادة البناء لاحقاً
الحكم البشري يبقى ضمن الحلقة.
TasawurAI طبقة دعم للقرار. تُقيّم وتفسّر وتوصي؛ ولا تتّخذ إجراءً تجاه عميل ولا تُغلق حساباً ولا تُصدر حكماً. هذا الحدّ قيد تصميمي، لا قصور نعتزم إزالته.
- 01
النموذج
ينتج درجة
- 02
الأدلة
تحتفظ بما استُخدم
- 03
التفسير
يصوغه بعبارات قابلة للمراجعة
- 04
المحلِّل
يقرأ ويحقّق ويحكم
- 05
القرار
يُسجَّل مع سببه
المحلِّل هو صاحب القرار
صُمِّم كل تنبيه ليصل إلى شخص مخوَّل ومعه الأدلة. ومُخرَج المنصة مدخل إلى حكمه، لا بديل عنه.
الأسباب ترافق الدرجات
تصل الدرجة مصحوبة بالإشارات التي أنتجتها ووزن كلٍّ منها، فيمكن مساءلتها لا مجرّد قبولها.
النتائج تُسجَّل
يُحتفظ مع الحالة بالقرار ورمز سببه ودور المراجِع، وهذا ما يجعل المراجعة اللاحقة ممكنة.
المبادئ التي يخضع لها البناء
عشرة قيود تحدّد ما يُنفَّذ وما لا يُنفَّذ.
- 01
القابلية للتفسير
صُمِّمت كل درجة مخاطر لتصل مصحوبة بالإشارات التي أنتجتها ووزن كلٍّ منها، بلغة يستطيع المراجِع التصرّف بناءً عليها.
- 02
الإشراف البشري
المنصة طبقة دعم للقرار. يبقى التحقيق والقرار النهائي لدى موظفي البنك المخوَّلين.
- 03
قابلية التدقيق
يُقصد بأن تُسجَّل التنبيهات والأدلة وإجراءات المحلِّلين وإصدارات النماذج كمسار غير قابل للتعديل يمكن إعادة بنائه لاحقاً.
- 04
الوصول القائم على الأدوار
يُحدَّد الوصول إلى الحالات وبيانات العملاء وضوابط النماذج بحسب الدور، فيبقى التحقيق وإدارة النماذج منفصلَين.
- 05
مراقبة النماذج
يُقصد بأن يُتابَع أداء النموذج باستمرار مقابل النتائج الفعلية بدل تقييمه مرة واحدة عند النشر.
- 06
كشف الانجراف
تُراقَب التحوّلات في توزيعات المدخلات وفي سلوك الاحتيال، لأن دقّة النموذج دالّة على العالم الذي دُرِّب عليه.
- 07
التحكّم في الإصدارات
يخضع كل نموذج ومجموعة خصائص وتهيئة قواعد لإدارة إصدارات، فيمكن ربط أي قرار تاريخي بالمنطق الذي أنتجه بالضبط.
- 08
تحديثات مضبوطة
صُمِّمت تغييرات النماذج لتمرّ عبر التحقّق والموافقة المؤسسية قبل أن تؤثر في قرارات الإنتاج.
- 09
تقليل البيانات
صُمِّمت المنصة لمعالجة السمات التي يتطلّبها الكشف، لا لتراكم بيانات العملاء افتراضياً.
- 10
معالجة آمنة
تُعامَل حماية البيانات كقيد معماري. تُحدَّد طوبولوجيا النشر وحدود الوصول ومدد الاحتفاظ بالاتفاق مع المؤسسة.
تحديثات مضبوطة للنماذج
النموذج داخل بنك ليس برمجية تُطلَق حين تجهز. إنه تغيير في كيفية اتخاذ القرارات، ويمرّ عبر التحقّق والموافقة قبل أن يؤثر في أي شيء.
- التطويرخصائص ونماذج مرشَّحة تُبنى على بيانات المؤسسة
- التحقّقتقييم الأداء والاستقرار والتحيّز قبل الإطلاق
- الاعتمادموافقة مؤسسية تُسجَّل كجزء من الإطلاق
- النشرإطلاق مُدار بالإصدارات مع الاحتفاظ بالإصدار السابق
- المراقبةمتابعة مستمرة للأداء الفعلي والانجراف
- المراجعةإعادة النتائج والمخرجات إلى النموذج المرشَّح التالي
لا يصل أي نموذج إلى الإنتاج دون تحقّق وموافقة مؤسسية
المراقبة والانجراف
دقّة النموذج دالّة على العالم الذي دُرِّب عليه، وذلك العالم يتغيّر. يُقصد بأن تُتابَع توزيعات المدخلات واستقرار الخصائص والاتساق مع النتائج الفعلية باستمرار، فيكتشف النظامُ تراجعَ الأداء بدل أن يُكتشف عبر خسارة.
إدارة الإصدارات وإعادة البناء
يخضع كل نموذج ومجموعة خصائص وتهيئة قواعد لإدارة إصدارات، ويُحتفظ مع الحدث بالإصدار الذي قيّمه. والقصد بسيط: يمكن ربط أي قرار تاريخي بالمنطق الذي أنتجه بالضبط، بعد أشهر أو سنوات.
معالجة البيانات والوصول إليها
يتطلّب الكشف بيانات عملاء. وهذا يجعل التقليل والحدود وضبط الوصول أسئلة معمارية لا وثائق سياسات تُكتب لاحقاً.
تقليل البيانات
صُمِّمت المنصة لمعالجة السمات التي يتطلّبها الكشف، لا لتراكم بيانات العملاء افتراضياً.
الوصول القائم على الأدوار
يُحدَّد الوصول إلى الحالات وبيانات العملاء وإدارة النماذج كلٌّ على حدة، فلا يكون التحقيق والتحكّم في النماذج صلاحية واحدة.
حدّ النشر
مكان المعالجة يُتفق عليه مع المؤسسة. ولا نؤكّد أن البيانات يجب أن تغادر بيئة ما أو أن تبقى داخلها.
الاحتفاظ
تُضبَط مدد الاحتفاظ بالأحداث والحالات والأدلة وفق التزامات المؤسسة، لا وفق إعداد افتراضي للمنتج.
مسار الإجراءات
يُقصد بأن تُسجَّل التنبيهات والأدلة وإجراءات المحلِّلين وإصدارات النماذج كمسار غير قابل للتعديل.
فصل المهام
صُمِّم إطلاق النماذج واتخاذ قرار الحالة كدورين متمايزين بموافقات متمايزة.
الموقف الرقابي
نفضّل التقليل من شأن موقفنا على الإيحاء بوضع لا نملكه.
تسعى TasawurAI إلى تحقّق مضبوط عبر إطار البيئة التنظيمية التجريبية لسلطة النقد الفلسطينية. ومنهجنا المقترح للاختبار مبنيّ حول التحقّق المضبوط والإشراف البشري والاتساق مع المتطلبات الرقابية.
هذا يصف منهجنا المقترح للاختبار. وهو ليس ادّعاءً بموافقة أو تأييد أو اعتماد أو شراكة من أي جهة رقابية أو إشرافية.
ما لا ندّعيه
- لا موافقة رقابية ولا تأييد ولا اعتماد
- لا شهادات أمنية أو شهادات امتثال
- لا عملاء مُشغَّلين ولا شراكات مصرفية
- لا أرقام عن دقّة الكشف أو الاحتيال المُمنَع أو الأحجام
- لا معايير أداء منشورة
متى تغيّر أيٌّ من ذلك، سيُذكر هنا مع الأدلة التي تسنده.
مبنية لذكاء اصطناعي خاضع للمساءلة.
إن كنتم تقيّمون هذا من موقع المخاطر أو التدقيق أو الإشراف، يسعدنا أن نستعرض المعمارية بالتفصيل.