لقد خسر “المُحكمون بالذكاء الاصطناعي” هذه المعركة
ابق على اطلاع بالتحديثات المجانية
ببساطة قم بالتسجيل في الذكاء الاصطناعي myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
الكاتب محلل تكنولوجي
خلال الأسبوع الماضي، مر مجلس إدارة OpenAI بأربعة رؤساء تنفيذيين في خمسة أيام. واتهمت الرئيس التنفيذي الأصلي، سام ألتمان، بالكذب، لكنها تراجعت عن ذلك فيما بعد ورفضت أن تقول ما يعنيه ذلك. ووقع تسعون في المائة من موظفي المنظمة على خطاب مفتوح قائلين إنهم سيستقيلون إذا لم يفعل مجلس الإدارة ذلك. كان وادي السليكون في حالة من الانفعال والرعب في نفس الوقت. بحلول يوم الأربعاء، عاد ألتمان، وتم استبدال اثنين من أعضاء مجلس الإدارة الخارجيين الثلاثة، وتمكن الجميع من الحصول على قسط من النوم.
سيكون من السهل أن نقول إن هذه الفوضى أظهرت أن كلاً من مجلس إدارة شركة OpenAI وبنيتها الفرعية غير الربحية والربحية غير الملائمة لم تكن مناسبة للغرض. ويمكن للمرء أن يشير أيضاً إلى أن أعضاء مجلس الإدارة الخارجيين لم يكن لديهم الخلفية أو الخبرة المناسبة للإشراف على شركة تبلغ قيمتها 90 مليار دولار كانت تضع جدول الأعمال لتحقيق اختراق تكنولوجي بالغ الأهمية. ربما يمكن للمرء أن يقول أشياء أقل أدبًا أيضًا، وقد يكون كل ذلك صحيحًا، لكنه سيكون أيضًا ناقصًا.
على حد علمنا (وحقيقة أنني يجب أن أقول أن هذه مشكلة أيضًا)، كان الصراع الأساسي داخل OpenAI هو الصراع الذي أشار إليه الكثير من الناس وسخروا منه بالفعل خلال العام الماضي. تم إنشاء OpenAI لمحاولة بناء نسخة آلية لشيء يقترب من الذكاء البشري (ما يسمى “AGI”، أو الذكاء العام الاصطناعي). كانت الفرضية هي أن هذا كان ممكنًا في غضون سنوات وليس عقودًا، ومن المحتمل أن يكون جيدًا جدًا ولكن من المحتمل أيضًا أن يكون خطيرًا للغاية، ليس فقط على الأشياء البسيطة مثل الديمقراطية أو المجتمع ولكن على الإنسانية نفسها.
وهذا هو السبب وراء الهيكل التنظيمي الغريب – للسيطرة على المخاطر. لقد قام ألتمان ببناء هذا الشيء في أسرع وقت ممكن، بينما كان يقول أيضًا بصوت عالٍ جدًا وفي كثير من الأحيان أن هذا الشيء خطير للغاية ويجب على الحكومات التدخل للسيطرة على أي محاولات لبنائه. حسنا، ما هو؟
يعتقد الكثيرون في مجال التكنولوجيا أن التعبير عن مثل هذه المخاوف هو محاولة واضحة للاستيلاء على الهيئات التنظيمية المناهضة للمنافسة. وينطبق هذا بشكل خاص على التحركات الأوسع ضد نماذج الذكاء الاصطناعي مفتوحة المصدر (التي شوهدت في الأمر التنفيذي الذي أصدره البيت الأبيض بشأن الذكاء الاصطناعي الشهر الماضي): يعتقد الناس أن OpenAI تحاول إقناع الحكومات بحظر المنافسة.
قد يكون هذا صحيحًا، لكنني شخصيًا أعتقد أن الأشخاص الذين يزعمون أن الذكاء الاصطناعي العام قريب وخطير في نفس الوقت هم صادقون، وهذا يجعل رغبتهم في بنائه أكثر تضاربًا. يبدو أن هذا هو أفضل تفسير لما حدث في OpenAI: أولئك الذين يعتقدون أننا يجب أن نتباطأ ونكون حذرين، قاموا بانقلاب ضد أولئك الذين يعتقدون أننا يجب أن نسرع ونكون حذرين.
جزء من المشكلة والصراع عندما يتعلق الأمر بمناقشة الذكاء الاصطناعي العام هو أنه مفهوم مجرد – تجربة فكرية – دون أي نموذج نظري واضح أو مفهوم جيدًا. كان المهندسون في برنامج أبولو يعرفون مدى بعد القمر ومدى قوة دفع الصاروخ، لكننا لا نعرف مدى بعد الذكاء الاصطناعي العام (AGI)، ولا مدى قرب النماذج اللغوية الكبيرة لـ OpenAI، ولا ما إذا كان بإمكانهم الوصول إلى هناك.
يمكنك قضاء أسابيع من حياتك في مشاهدة مقاطع فيديو لعلماء التعلم الآلي وهم يتجادلون حول هذا الأمر، ثم تستنتج فقط أنهم لا يعرفون ذلك أيضًا. قد يتوسع ChatGPT حتى يصل إلى Terminator خلال خمس سنوات، أو خلال خمسة عقود، أو قد لا يحدث ذلك. قد يكون هذا مثل النظر إلى طائرة ذات سطحين تعود إلى العشرينيات من القرن الماضي والقلق من إمكانية دخولها إلى مدارها. نحن لا نعرف.
وهذا يعني أن معظم المحادثات حول خطر الذكاء الاصطناعي تتحول إلى عمليات بحث عن الاستعارات (إنها “مثل” الأسلحة النووية، أو النيزك، أو في الواقع برنامج أبولو). أو يستخرجون دروس الفلسفة الجامعية شبه المنسية (رهان باسكال! كهف أفلاطون!)، أو يلجأون إلى حجة السلطة (جيف هينتون قلق! يان ليكون ليس كذلك!). في النهاية، يعود هذا إلى الطريقة التي تشعر بها، غريزيًا، تجاه المخاطرة. إذا كنت لا تستطيع معرفة ما هو قريب أم لا، فهل هذا سبب للقلق أم سبب لعدم القلق؟ لا توجد إجابة صحيحة.
ولسوء حظ “المنكوبين”، فقد أدت أحداث الأسبوع الماضي إلى تسريع كل شيء. نُقل عن أحد أعضاء مجلس الإدارة المستقيلين قوله إن إغلاق OpenAI سيكون متسقًا مع المهمة (السلامة أفضل من الأسف). لكن مئات الشركات التي كانت تعتمد على واجهات برمجة تطبيقات OpenAI تتدافع للحصول على بدائل، سواء من منافسيها التجاريين أو من الموجة المتزايدة من المشاريع مفتوحة المصدر التي لا يسيطر عليها أحد. سيتحرك الذكاء الاصطناعي الآن بشكل أسرع وسيكون أكثر تشتتًا وأقل تحكمًا. غالبًا ما تعمل الانقلابات الفاشلة على تسريع الأمور التي كانت تحاول منعها.
في الواقع، أحد الانتقادات الشائعة الموجهة للمهزومين هو أن فكرتهم القائلة بأن برنامجًا قويًا واحدًا وعدد قليل من المهندسين اللامعين يمكنهم تحويل العالم هي مجرد شكل آخر من أشكال الطوباوية التكنولوجية الساذجة والمبسطة – فهي تفشل في فهم الطبيعة الحقيقية للقوة والتعقيد والطبيعة. الأنظمة البشرية. وقد أثبت المحكومون على السبورة ذلك بالضبط، إذ لم يعرفوا كيف تعمل القوة.
