احذروا بيروقراطيي الذكاء الاصطناعي

الكاتب مؤرخ وفيلسوف ومؤلف

مع تسارع ثورة الذكاء الاصطناعي، نتعرض للقصف بالرؤى الطوباوية ونبوءات يوم القيامة. ومن الصعب أن نقيم حجم التهديد، لأننا تعودنا على الخوف من السيناريو الخطأ. لقد حذرنا الخيال العلمي مرارًا وتكرارًا من ثورة الروبوتات الكبيرة. في العديد من روايات وأفلام الخيال العلمي – مثل ال المنهي و ال مصفوفة – تقرر الذكاء الاصطناعي والروبوتات السيطرة على العالم، والتمرد على أسيادهم من البشر واستعباد البشرية أو تدميرها. ومن غير المرجح أن يحدث مثل هذا الشيء في أي وقت قريب. التكنولوجيا ليست هناك. في الوقت الحاضر، الذكاء الاصطناعي هم علماء أغبياء. ربما أتقنوا بعض المجالات الضيقة مثل لعب الشطرنج، أو طي البروتينات، أو تأليف النصوص، لكنهم يفتقرون إلى الذكاء العام اللازم للأنشطة المعقدة للغاية مثل بناء جيش من الروبوتات والسيطرة على بلد ما. لسوء الحظ، عدم احتمال حدوث تمرد الروبوتات الكبيرة لا يعني أنه لا يوجد ما يدعو للخوف. لأنه ليس الروبوتات القاتلة هي ما يجب أن نقلق بشأنه؛ بل هم البيروقراطيون الرقميون. كافكا المحاكمة هو دليل أفضل لعسر الذكاء الاصطناعي من المنهي.

لقد تكيف البشر عبر ملايين السنين من التطور على الخوف من الحيوانات المفترسة العنيفة مثل تلك الموضحة في الصورة المنهي. ونحن نجد صعوبة أكبر في فهم التهديدات البيروقراطية، لأن البيروقراطية هي تطور جديد للغاية في تطور الثدييات وحتى الإنسان. إن عقولنا مهيأة للخوف من الموت على يد نمر، وليس الموت على يد وثيقة.

بدأت البيروقراطية في التطور منذ حوالي 5000 سنة فقط، بعد اختراع الكتابة في بلاد ما بين النهرين القديمة. لكن البيروقراطية غيرت المجتمعات البشرية بسرعة بطرق جذرية وغير متوقعة. لنتأمل، على سبيل المثال، تأثير الوثائق المكتوبة والبيروقراطيين الذين يستخدمونها على معنى الملكية. قبل اختراع الوثائق المكتوبة، كانت الملكية تعتمد على الإجماع المجتمعي. إذا كنت “تملك” حقلاً، فهذا يعني أن جيرانك وافقوا على أنه حقلك، من خلال أقوالهم وأفعالهم. لم يبنوا في ذلك الحقل مسكنًا، ولم يحصدوا ثماره، إلا إذا سمحت لهم بذلك.

الطبيعة الجماعية للملكية حدت من حقوق الملكية الفردية. على سبيل المثال، ربما وافق جيرانك على أن لك الحق الوحيد في زراعة حقل معين، لكنهم لم يعترفوا بحقك في بيعه للأجانب. وفي الوقت نفسه، طالما كانت الملكية مسألة إجماع مجتمعي، فإنها أعاقت أيضًا قدرة السلطات المركزية البعيدة على السيطرة على الأرض. وفي غياب السجلات المكتوبة والبيروقراطية المتقنة، لم يتمكن أي ملك من تذكر من يملك أي حقل في مئات القرى النائية. ولذلك وجد الملوك صعوبة في زيادة الضرائب، الأمر الذي منعهم بدوره من الاحتفاظ بالجيوش وقوات الشرطة.

ثم اخترعت الكتابة، وتلاها إنشاء الأرشيفات والبيروقراطيات. كانت التكنولوجيا في البداية بسيطة للغاية. استخدم البيروقراطيون القدماء في بلاد ما بين النهرين عصيًا صغيرة لطبع العلامات على الألواح الطينية، والتي كانت في الأساس مجرد قطع من الطين. لكن في سياق الأنظمة البيروقراطية الجديدة، أحدثت قطع الوحل هذه ثورة في معنى الملكية. وفجأة، أصبح امتلاك حقل يعني أنه مكتوب على لوح من الطين أنك تمتلك هذا الحقل. إذا كان جيرانك يقطفون الفاكهة هناك لسنوات، ولم يقل أي منهم مطلقًا أن قطعة الأرض ملكك، لكنك مع ذلك تمكنت من إنتاج قطعة طين رسمية تفيد أنك تملكها، فيمكنك تنفيذ مطالبتك في المحكمة. وعلى العكس من ذلك، إذا اعترف المجتمع المحلي بأنك تمتلك حقلاً، ولكن لم يكن هناك مستند يمنحه ختمًا رسميًا بالموافقة – فأنت لا تملكه. ولا يزال الأمر نفسه صحيحا اليوم، باستثناء أن وثائقنا المهمة مكتوبة على قطع من الورق أو رقائق السيليكون بدلا من الطين.

وبمجرد أن أصبحت الملكية مسألة وثائق مكتوبة وليس موافقة جماعية، أصبح بإمكان الناس البدء في بيع حقولهم دون طلب الإذن من الجيران. لبيع حقل، ما عليك سوى نقل لوح الطين المهم إلى شخص آخر. ولكنه يعني أيضًا أن الملكية يمكن تحديدها الآن من خلال البيروقراطية البعيدة التي أنتجت الوثائق ذات الصلة، وربما احتفظت بها في أرشيف مركزي. وفتح الطريق لجباية الضرائب ودفع الجيوش وإقامة دويلات مركزية كبيرة. لقد غيرت الوثيقة المكتوبة كيفية تدفق السلطة في العالم، ومنحت نفوذاً هائلاً للبيروقراطيين مثل جباة الضرائب، وممولي الرواتب، والمحاسبين، وأمناء المحفوظات، والمحامين. لقد أصبحوا سباكين شبكة المعلومات، الذين يتحكمون، سواء في الخير أو الشر، في حركة الضرائب والمدفوعات وحتى الجنود من خلال التلاعب بالوثائق والنماذج والقوانين والأدوات البيروقراطية الأخرى.

هذه هي القوة التي يستعد الذكاء الاصطناعي الآن للاستيلاء عليها. إن البيروقراطية عبارة عن بيئة مصطنعة، حيث تكون السيطرة على مجال ضيق كافية لإحداث تأثير هائل على العالم الأوسع، من خلال التلاعب بتدفق المعلومات. إذا قمت بإلقاء الذكاء الاصطناعي الحالي في عالم فوضوي وغير منظم، فمن المحتمل ألا يكون قادرًا على إنجاز الكثير، وبالتأكيد لن يكون قادرًا على تكوين جيش من الروبوتات. ولكن هذا يشبه إلقاء محامي شركة في السافانا الفوضوية وغير المنظمة. هناك، قدرات المحامي لا تعني شيئًا، ولا تضاهي فيلًا أو أسدًا. ولكن إذا قمت أولاً ببناء نظام بيروقراطي وفرضته على السافانا، يصبح المحامي أقوى بكثير من كل أسود العالم مجتمعين. في أيامنا هذه، يعتمد بقاء الأسود على قيد الحياة على المحامين الذين يقومون بتأليف ونقل الوثائق في البيروقراطيات المعقدة. والأهم من ذلك، أنه في هذه المتاهة، من المرجح أن يصبح الذكاء الاصطناعي أقوى بكثير من أي محامٍ بشري.

وفي السنوات المقبلة، سوف يتخذ الملايين من بيروقراطيي الذكاء الاصطناعي على نحو متزايد قرارات بشأن حياة الأسود، وليس فقط حياة البشر. سيقرر مصرفيو الذكاء الاصطناعي ما إذا كانوا سيمنحونك قرضًا أم لا. ستقرر أنظمة الذكاء الاصطناعي في النظام التعليمي ما إذا كنت ستقبلك في الجامعة أم لا. سوف يقرر الذكاء الاصطناعي في الشركات ما إذا كان سيمنحك وظيفة أم لا. سوف يقرر الذكاء الاصطناعي في نظام المحكمة ما إذا كان سيتم إرسالك إلى السجن أم لا. سوف تقرر أنظمة الذكاء الاصطناعي العسكرية ما إذا كانت ستقصف منزلك أم لا. أنظمة الذكاء الاصطناعي هذه ليست سيئة بالضرورة. وربما تجعل الأنظمة أكثر كفاءة وأكثر عدالة. يمكنهم أن يقدموا لنا رعاية صحية وتعليمًا وعدالة وأمنًا متفوقًا. لكن إذا سارت الأمور على نحو خاطئ، فقد تكون النتائج كارثية. وفي بعض المجالات، سارت الأمور بشكل خاطئ بالفعل.

ولعل المثال الأكثر دلالة حتى الآن هو قصة خوارزميات وسائل التواصل الاجتماعي. لقد أعادت أنظمة الذكاء الاصطناعي البدائية هذه تشكيل العالم بالفعل، ومارس تأثيرًا هائلاً على المجتمع البشري. تم تكليف خوارزميات شركات مثل Facebook وX وYouTube وTikTok بهدف ضيق جدًا، مثالي للعلماء الأغبياء: زيادة تفاعل المستخدم. كلما زاد الوقت الذي يقضيه المستخدمون على وسائل التواصل الاجتماعي، زادت الأموال التي تجنيها الشركات. وفي سعيها لجذب المستخدمين، قامت الخوارزميات باكتشاف خطير. من خلال التجارب على الملايين من البشر، تعلمت خوارزميات وسائل التواصل الاجتماعي أن الجشع والكراهية والخوف يزيد من تفاعل المستخدم. إذا ضغطت على زر الجشع أو الكراهية أو الخوف في عقل الإنسان، فإنك تجذب انتباه ذلك الإنسان وتبقيه ملتصقًا بالشاشة. ولذلك بدأت الخوارزميات في نشر الجشع والكراهية والخوف عمدًا. وكان هذا سببًا رئيسيًا للوباء الحالي لنظريات المؤامرة والأخبار المزيفة والاضطرابات الاجتماعية التي تقوض المجتمعات في جميع أنحاء العالم.

إن خوارزميات وسائل التواصل الاجتماعي عبارة عن أنظمة ذكاء اصطناعي محدودة للغاية ولا يمكنها البقاء في السافانا أو تنسيق تمرد الروبوتات الكبيرة. ولكن ضمن البنية البيروقراطية لمنصات التواصل الاجتماعي، يتمتع هؤلاء العلماء الأغبياء بسلطة هائلة، والتي كانت في السابق حكراً على البشر. لعدة قرون، كان المحررون البشريون يقررون ما يجب تضمينه في نشرات الأخبار على الراديو والتلفزيون، وما يجب وضعه على الصفحة الأولى من الصحف، وبالتالي تشكيل المحادثة العامة. لقد جعل المحررين شخصيات قوية. شكل جان بول مارات مسار الثورة الفرنسية من خلال تحرير الصحيفة المؤثرة لامي دو بوبل. لقد شكّل إدوارد برنشتاين الفكر الديمقراطي الاجتماعي الحديث من خلال التحرير دير سوزيالديموكرات. أهم منصب شغله فلاديمير لينين قبل أن يصبح دكتاتورًا سوفيتيًا كان رئيس تحرير الصحيفة إيسكرا. اكتسب بينيتو موسوليني الشهرة والنفوذ كمحرر للصحيفة اليمينية المثيرة للجدل إيل بوبولو ديتاليا. ومن المثير للاهتمام أن واحدة من أولى الوظائف في العالم التي تمت أتمتتها بواسطة الذكاء الاصطناعي لم تكن سائقي سيارات الأجرة أو عمال النسيج، بل محرري الأخبار. إن الوظيفة التي كان يؤديها لينين وموسوليني في السابق يمكن أن يؤديها الآن الذكاء الاصطناعي.

إن الخراب الذي أحدثه المحررون الخوارزميون في المجتمعات البشرية هو علامة تحذير. إن العالم البشري عبارة عن شبكة من البيروقراطيات المتعددة، حيث يمكن للذكاء الاصطناعي أن يكتسب قوة هائلة حتى لو كان غير قادر تمامًا على شن تمرد الروبوتات الكبير. لماذا تتمرد على النظام إذا كان بإمكانك الاستيلاء عليه من الداخل؟