تخطط Google لطرح AI chatbot للأطفال دون سن 13 عامًا | أخبار التكنولوجيا

وقالت الشركة في رسالة بالبريد الإلكتروني هذا الأسبوع إلى والد طفل يبلغ من العمر 8 سنوات: “ستكون تطبيقات الجوزاء متاحة قريبًا لطفلك”. “هذا يعني أن طفلك سيكون قادرًا على استخدام الجوزاء” لطرح الأسئلة والحصول على مساعدة في الواجب المنزلي وتكوين القصص.

سيكون chatbot متاحًا للأطفال الذين يستخدم آباؤهم رابط الأسرة ، وهي خدمة Google التي تمكن العائلات من إعداد Gmail واختيار خدمات مثل YouTube لطفلهم. للتسجيل للحصول على حساب الطفل ، يزود الآباء بشركة التكنولوجيا بيانات شخصية مثل اسم طفلهم وتاريخ الميلاد.

وقال كارل ريان ، المتحدث الرسمي باسم Google ، إن Gemini لديه قضبان محددة للحراسة للمستخدمين الأصغر سناً لإعاقة chatbot من إنتاج محتوى غير آمن معين. وأضاف أنه عندما يستخدم طفل لديه حساب رابط عائلي الجوزاء ، لن تستخدم الشركة تلك البيانات لتدريب الذكاء الاصطناعي.

يمكن أن يؤدي تقديم الجوزاء للأطفال إلى تسريع استخدام الدردشة بين السكان المستضعفين حيث تتصارع المدارس والكليات والشركات وغيرها مع آثار تقنيات الذكاء الاصطناعي الشائعة. تدرب على كميات هائلة من البيانات ، يمكن لهذه الأنظمة إنتاج نصًا شبكيًا وصورًا ومقاطع فيديو ذات مظهر واقعي.

يتم تأمين Google وغيرهم من مطوري chatbot منظمة العفو الدولية في منافسة شرسة لالتقاط المستخدمين الشباب. حث الرئيس دونالد ترامب المدارس مؤخرًا على تبني أدوات التدريس والتعلم. يستخدم ملايين المراهقين بالفعل chatbots كمساعدات للدراسة ، وكتابة المدربين والرفقة الافتراضية. تحذر مجموعات الأطفال من أن الدردشة يمكن أن تشكل مخاطر خطيرة على سلامة الطفل. الروبوتات أيضا في بعض الأحيان تصنع الأشياء.

لاحظت اليونيسف ، وكالة الأطفال في الأمة المتحدة ، وغيرها من مجموعات الأطفال أن أنظمة الذكاء الاصطناعى يمكن أن تخلط وتضلل الأطفال الصغار والتلاعب بهم الذين قد يجدون صعوبة في فهم أن مفاتيح الدردشة ليست إنسانية.

وقال مكتب البحوث العالمي في اليونيسف في منشور حول مخاطر وفرص الأطفال: “لقد أنتجت الذكاء الاصطناعى التوليدي محتوى خطيرًا”.

اعترفت Google ببعض المخاطر في بريدها الإلكتروني للعائلات هذا الأسبوع ، بتنبيه الآباء إلى أن “الجوزاء يمكن أن يرتكب أخطاء” ويقترحون أنهم “يساعدون طفلك على التفكير بشكل نقدي” في chatbot.

أوصت البريد الإلكتروني أيضًا بأن يعلم الآباء أطفالهم كيفية التحقق من إجابات Gemini. واقترحت الشركة أن الآباء يذكرون طفلهم بأن “الجوزاء ليست إنسانية” و “عدم إدخال معلومات حساسة أو شخصية في الجوزاء”.

على الرغم من جهود الشركة لتصفية مواد غير لائقة ، أضاف البريد الإلكتروني ، أن الأطفال “قد يواجهون محتوى لا تريدهم رؤيته”.

على مر السنين ، طور عمالقة Tech مجموعة متنوعة من المنتجات والميزات والحماية للمراهقين والأطفال. في عام 2015 ، قدمت Google YouTube Kids ، وهو تطبيق فيديو مستقل للأطفال يحظى بشعبية بين العائلات المصابة بالأطفال الصغار.

دفعت الجهود الأخرى لجذب الأطفال عبر الإنترنت مخاوف من المسؤولين الحكوميين ودعاة الأطفال. في عام 2021 ، أوقفت Meta خططًا لتقديم خدمة Kids Instagram – وهي نسخة من تطبيق Instagram الخاص بها المخصصة لأولئك الذين تقل أعمارهم عن 13 عامًا – بعد أن أرسل المحامون العامون لعشرات من الدول رسالة إلى الشركة قائلة إن الشركة “فشلت تاريخياً في حماية رفاهية الأطفال على منصاتها”.

كما دفعت بعض شركات التكنولوجيا البارزة-بما في ذلك Google و Amazon و Microsoft-غرامات بملايين الدولارات لتسوية الشكاوى الحكومية التي تنتهك قانون حماية الخصوصية عبر الإنترنت للأطفال. يتطلب هذا القانون الفيدرالي الخدمات عبر الإنترنت التي تهدف إلى الحصول على إذن من الوالد قبل جمع المعلومات الشخصية ، مثل عنوان المنزل أو صورة شخصية ، من طفل يقل عن 13 عامًا.

بموجب برنامج Gemini Flad ، سيتمكن الأطفال الذين لديهم حسابات Google التي تديرها الأسرة في البداية من الوصول إلى chatbot بمفردهم. لكن الشركة قالت إنها ستنبه أولياء الأمور وأنه يمكن للآباء بعد ذلك إدارة إعدادات ChatBot لأطفالهم ، “بما في ذلك إيقاف الوصول”.

وقالت البريد الإلكتروني للشركة إلى الآباء: “سيكون طفلك قادرًا على الوصول إلى تطبيقات الجوزاء قريبًا”. “سنخبرك أيضًا عندما يصل طفلك إلى الجوزاء لأول مرة.”

وقال ريان ، المتحدث الرسمي باسم Google ، إن نهج توفير الجوزاء للمستخدمين الشباب امتثلت لقانون الخصوصية على الإنترنت للأطفال الفيدراليين.

ظهرت هذه المقالة في الأصل في صحيفة نيويورك تايمز.