لماذا المساءلة هي مسعى بعيد المنال على نحو متزايد

ابق على اطلاع بالتحديثات المجانية

ببساطة قم بالتسجيل في تكنولوجيا myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.

تخيل – أو، إذا كنت تسافر بشكل متكرر ولم يحالفك الحظ بشكل خاص، تذكر – هذا السيناريو. رحلتك محجوزة بشكل زائد، ومن أجل توفير مساحة، تتم إزالة الركاب. يتم إرسال الأشخاص الذين لديهم أقل عدد من أميال المسافر الدائم أولاً. يمكنك تقديم شكوى بالطبع، لكن الشخص الذي ينفذ السياسة لم يضعها، ولا يمكنه تغييرها. حتى لو كان لديك رقم الهاتف المحمول للرئيس التنفيذي لشركة الطيران، فهذا ليس خطأها: إنها سياسة الشركة.

هذه هي التجربة الفكرية التي يستخدمها دان ديفيز في كتابه الجديد الممتع، آلة عدم المساءلةلتوضيح ما يسميه “مصرف المساءلة”: قواعد وإجراءات، وفي بعض الحالات مؤسسات بأكملها في الحياة الحديثة، والتي أزالت بشكل أساسي المسؤولية الفردية عن اتخاذ القرار. المضيفة التي ترافقك من الطائرة ليست مسؤولة، ولا مديرها كذلك. ففي النهاية، لقد قمت بالتسجيل في هذه الإمكانية عندما قمت بحجز تذكرتك.

على الرغم من أن “حوض المساءلة” هو مصطلح جديد، إلا أن مفكرون آخرين يتحدثون عن مشاكل مماثلة. FAT ML (العدالة والمساءلة والشفافية في التعلم الآلي) يتحدث الباحثون عن كل من “المسؤولية” (وجود فكرة واضحة عن الشخص الذي يجب التعامل معه عندما تصدر الخوارزمية قرارًا لا يعجبك) و”قابلية التفسير” (يجب أن يكون هذا الشخص قادرة على شرح سبب التوصل إلى القرار بلغة يسهل الوصول إليها) لهذا السبب. ويشعر آخرون بالقلق من أن التعلم الآلي يخلق “فجوة المسؤولية” حيث لم يعد صناع القرار من البشر مضطرين إلى تفسير، أو حتى فهم، القرارات التي ينفذونها.

هناك أشياء أسوأ في الحياة من رحلة متأخرة. ومن بين الأمثلة الأكثر خطورة على غرق المساءلة فضيحة ويندراش، حيث عانى عشرات الآلاف من البريطانيين المولودين في جزر الهند الغربية من سوء المعاملة، حيث فقد العديد منهم وظائفهم ومنازلهم، وتم ترحيل بعضهم خطأً من المملكة المتحدة. على من كان الخطأ؟ مهندسو سياسة البيئة المعادية، التي نقلت حدود لوائح حدود البلاد إلى كل مكان عمل ومالك وخدمة عامة؟ البيروقراطيون الذين مزقوا بطاقات الوصول التي ربما كانت بمثابة أشكال بديلة لبطاقات الهوية؟ مجموعة الحكومات التي سنت تشريعات لتقييد حق مواطني الإمبراطورية البريطانية في التنقل بحرية داخلها؟ وكانت الشخص الوحيد الذي استقال بسبب الظلم هو أمبر رود، التي كانت جريمتها الرئيسية هي كونها وزيرة للداخلية عندما انتشرت الفضيحة في الأخبار، بدلاً من تنفيذ أي من السياسات المسيئة، وسرعان ما عادت إلى منصبها الرفيع بعد غياب قصير، لتتولى منصباً آخر. قسم كبير. والآن يعمل حوض مساءلة مماثل في خطة تعويضات ويندراش، التي عانت من التأخير.

ولكن ليست كل أحواض المساءلة سيئة. إن عملية التوظيف التي تسمح لصديقي المدير التنفيذي بفحص الطلب المقدم من ابن أخي غير الكفء دون الإساءة إلي هي أيضًا بمثابة بالوعة للمساءلة. فالقواعد الواضحة المنصوص عليها في كتب القواعد والإجراءات والخوارزميات يمكن أن تؤدي إلى ظلم حاد. لكنها، على الأقل، قابلة للقياس والاكتشاف، على عكس الأحكام السريعة التي نصدرها جميعًا كل يوم. إن المبادئ التوجيهية لإصدار الأحكام في القضايا الجنائية هي في جزء منها وسيلة لإزالة التحيزات الشخصية والظلم التعسفي من عملية العدالة، على الرغم من أنها يمكن أن تؤدي إلى ظلم تعسفي من جانبها.

إن أحواض المساءلة هي نتيجة ثانوية للعيش في مجتمع أكثر تعقيدا، وسوف يؤدي نشر التعلم الآلي واتخاذ القرارات الخوارزمية في السياسة العامة إلى خلق المزيد منها. إن القاضي، الذي تكون استقلاليته مقيدة بشدة في جميع المجتمعات تقريبًا من خلال المبادئ التوجيهية لإصدار الأحكام والحدود الإلزامية، قد يظل هو صاحب القرار النهائي حتى لو كان مدعومًا بنماذج خوارزمية. ولكن على من يقع اللوم إذا ما ساءت هذه الأنظمة، أو انحرفت بشدة في اتجاه أو آخر؟

ويمكن رؤية أحد الأمثلة الجيدة على الفوائد والصعوبات في استخدام برامج التعرف على الوجه. على الرغم من أن أداء هذه التكنولوجيا دائمًا أفضل من الحكم البشري وحده، إلا أنها لا تزال أكثر عرضة للخطأ في التعرف على الأشخاص ذوي البشرة الداكنة والنساء. وعلى من يقع اللوم إذا أدى ذلك إلى إجهاض العدالة؟ ومن يجب أن يكون مسؤولاً عن ضمان أن تكون البرمجيات غدًا أفضل مما هي عليه اليوم؟

لكن الإنسان العادي، غير المقيد بكتاب القواعد، سوف يرتكب الكثير من الأخطاء أيضًا. وأنا أفضل أن أخضع نفسي للظلم العرضي في كتاب القواعد العادي – والذي في الممارسة العملية هو مجرد خوارزمية – بدلاً من إخضاع نفسي لعملية صنع القرار البشرية غير المقيدة. ولكن بالنسبة للقادة، سواء كانوا قادة الشركات أو الدول، فإن شرح الأخطاء التي حدثت في عملية صنع القرار بمساعدة الآلة يعني القدرة على التحدث بطلاقة حول معنى مغاسل المساءلة، ولماذا نمتلكها، وما إذا كان ينبغي لنا أن نتخلص منها.

stephen.bush@ft.com