رافق التوسع السريع في استخدام الذكاء الاصطناعي اهتمام متزايد بضبطه وحوكمته. ولم تكن المملكة بعيدة عن هذا المسار؛ فقد أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» مبادئ أخلاقيات الذكاء الاصطناعي وضوابطه، وإطار تبني الذكاء الاصطناعي، ومبادئ خاصة باستخدام الذكاء الاصطناعي التوليدي في الجهات الحكومية وللعموم، بما يعزز الاستخدام المسؤول، ويحفظ الخصوصية، ويرسخ المساءلة والسلامة والشفافية. كما تحتضن الرياض المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي ICAIRE، الذي اعتمدته اليونسكو مركزًا من الفئة الثانية تحت رعايتها، ليكون منبرًا للبحث والتعاون في أخلاقيات الذكاء الاصطناعي وحوكمته.

وقد وضعت هذه الجهود أساسًا مهمًا لما نريده من الذكاء الاصطناعي المسؤول، وما ينبغي أن يلتزم به عند استخدامه. غير أن نضج الأطر واتساع نطاق التطبيق يفتحان أمامنا سؤالًا آخر لا يقل أهمية: كيف نضمن أن ما أُقر في مبادئ وأطر الحوكمة يُطبق فعلًا داخل بيئة العمل الرقمية؟

فليس كل ما يكتب في وثيقة للحوكمة يتحول تلقائيًا إلى قاعدة يلتزم بها النظام عند تشغيله. فعندما تقرر إحدى السياسات حماية البيانات، أو تشترط المساءلة، أو توجب تدخل الإنسان في القرارات الحساسة، فإن النظام البرمجي لا يفهم هذه المبادئ ولا يفسرها كما يفعل الإنسان، وإنما يحتاج إلى ترجمتها إلى شروط وصلاحيات وإجراءات واضحة يستطيع التعامل معها أثناء العمل.

وهنا يلزم التفريق بين النموذج، والنظام الذي يستخدم هذا النموذج، والبيئة التي يعمل فيها النظام. فالنموذج هو الجزء الذي يحلل أو يولد أو يتنبأ، أما النظام فهو التطبيق الذي يوظف هذا النموذج ويربطه بالبيانات والمستخدمين والخدمات الأخرى. ثم تأتي بيئة العمل بما فيها من أنظمة المؤسسة، وصلاحيات موظفيها، ومسؤولياتهم، والمتطلبات النظامية والتنظيمية للقطاع الذي تعمل فيه.

وتجدر الإشارة إلى أن مطوري نماذج الذكاء الاصطناعي يضعون فيها أصلًا ضوابط متعددة لتوجيه سلوكها، والحد من بعض الاستخدامات الضارة، ورفع مستوى سلامتها. وهذا جانب أساسي من تطوير النماذج الحديثة. غير أن هذه الضوابط لا تكفي وحدها لضمان التزام النظام بسياسات كل مؤسسة تستخدمه؛ فالنموذج لا يعرف من تلقاء نفسه أن جهة معينة تخضع لضوابط محددة، أو أن موظفًا بعينه لا يملك حق الاطلاع على نوع من البيانات، أو أن قرارًا معينًا لا يجوز تنفيذه قبل أن يراجعه مسؤول مختص.

فالنموذج الواحد قد تستخدمه مؤسسة مالية أو مستشفى أو جامعة أو جهة حكومية، بينما تختلف في كل منها طبيعة البيانات، وحدود الصلاحيات، وحساسية القرارات، والمسؤوليات المترتبة عليها. وما يجوز استخدام النموذج فيه في بيئة معينة قد لا يجوز في بيئة أخرى، كما أن الاستعانة به في صياغة رسالة تختلف اختلافًا جوهريًا عن إشراكه في قرار يمس مال إنسان أو صحته أو وظيفته.

وهنا تكمن الفجوة التي تحتاج إلى مزيد من العمل. فأطر الحوكمة تصاغ بلغة المبادئ والحقوق والمسؤوليات، بينما تعمل الأنظمة الرقمية وفق قواعد محددة تتعلق بالصلاحيات والبيانات وإصدارات النماذج والموافقات وإجراءات التشغيل. وما لم نترجم متطلبات الحوكمة، حيثما أمكن، إلى ضوابط واضحة داخل هذه البيئة، فقد تظل المؤسسة ملتزمة بالحوكمة على مستوى الوثائق، من غير أن تستطيع إثبات أن النظام طبق.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الوطن السعودية