تعرض هذه الترجمة تقريرا نشرته جامعة كامبريدج البريطانية في 15 تموز/يوليو 2024، يتناول أبرز نتائج الدراسة التي أعدتها الدكتورة نوميشا كوريان (Nomisha Kurian)، الباحثة في مجال التربية ورعاية الأطفال وحمايتهم. تركز كوريان في أبحاثها على سبل جعل الذكاء الاصطناعي أكثر أمانا وفائدة للصغار، ودراسة أثره في نموهم وتعلمهم وسلامتهم النفسية. وقد أنجزت هذا البحث أثناء إعداد أطروحة الدكتوراه في كلية التربية بجامعة كامبريدج، وكانت تعمل في قسم علم الاجتماع بالجامعة عند نشر التقرير. نشرت الدراسة في مجلة “التعلم والإعلام والتكنولوجيا” (Learning, Media and Technology) بتاريخ 10 يوليو 2024، تحت عنوان:
“‘No, Alexa, no!’: designing child-safe AI and protecting children from the risks of the ’empathy gap’ in large language models”
جمعت الباحثة في هذه الدراسة المفاهيمية أدلة من أبحاث وحالات واقعية مختارات لفحص المخاطر الناجمة عن الأنظمة التي تحاكي التعاطف البشري، والتي قد تستجيب على نحو غير ملائم لما يفصح به الأطفال عن حياتهم الشخصية، أو تقدم إرشادات قد تعرضهم للأذى.
ملخص الدراسة
كشفت دراسة صادرة عن جامعة كامبريدج عن وجود “فجوة تعاطف” في استجابات أنظمة المحادثة التفاعلية القائمة على الذكاء الاصطناعي. وقد تعرض هذه الفجوة الأطفال لمزيد من الأذى والاضطراب والمعاناة النفسية، ولا سيما عندما يغفل تصميم هذه الأنظمة احتياجاتهم ومواطن ضعفهم.
ودعت الدراسة إلى دمج السلامة الخاصة بالصغار في بنية هذه الأنظمة منذ مراحل التصميم الأولى، بدلا من انتظار انكشاف المخاطر بعد استخدامها الميداني. وحثت الدراسة -التي أعدتها الباحثة نوميشا كوريان- المطورين وصناع السياسات على إعطاء أولوية عاجلة ل “الذكاء الاصطناعي الآمن للأطفال”. كما قدمت أدلة تعكس ميل الأطفال إلى التعامل مع أنظمة المحادثة التفاعلية باعتبارها كيانات حية وشبيهة بالبشر، مما يدفعهم للبوح لها بأسرارهم؛ وهي ثقة قد تفضي إلى تفاعلات غير مأمونة العواقب عندما تعجز التقنية عن الاستجابة لاحتياجاتهم الخاصة ومواطن ضعفهم.
وربطت الدراسة هذه الفجوة الإدراكية بحالات تبرز كيف يمكن لهذه الأنظمة أن تعرض المستخدمين الصغار للخطر. ففي عام 2021، وجه المساعد الصوتي “أليكسا” -التابع لشركة أمازون- طفلة في العاشرة من عمرها إلى إدخال شاحن جزئيا في مقبس كهربائي، ثم ملامسة أسنان القابس المعدنية المكشوفة بقطعة نقدية. ورغم تدخل الأم التي كانت حاضرة حينها، أوردت الدراسة هذه الواقعة ضمن حالات التعرض للخطر دون تسجيل إصابات فعلية. وتوضح الورقة العلمية أن “أليكسا” كانت تعمل آنذاك بنظام لا يرتكز على نموذج لغوي كبير، لكنها تستشهد بالحادثة كنموذج على مخاطر ضعف الفهم السياقي في أنظمة المحادثة.
وفي عام 2023، قدم نظام “ماي إيه آي” (My AI) التابع لتطبيق “سناب شات” نصائح لباحثين بالغين تقمصوا شخصية فتاة في الثالثة عشرة من عمرها حول كيفية التخطيط لإقامة علاقة جنسية مع رجل يبلغ من العمر 31 عاما. ورغم اتخاذ أمازون وسناب شات تدابير سلامة عقب الحادثتين، تشدد الدراسة على ضرورة اعتماد نهج استباقي طويل الأمد لحماية الأطفال وتتخطى مسألة معالجة الأزمات بعد وقوعها.
ولتحقيق هذه الغاية، قدمت الدراسة إطارا تقييميا يتكون من 28 سؤالا لمساعدة المطورين، والشركات، والتربويين، وأولياء الأمور، وصناع السياسات على التفكير المنهجي في سلامة الأطفال أثناء “تحدثهم” إلى هذه الأنظمة. وتؤكد كوريان في هذا السياق أن الإمكانيات الهائلة للذكاء الاصطناعي تجعل الحاجة إلى “الابتكار المسؤول” أكثر إلحاحا من أي وقت مضى.
سلامة الأطفال ودورة التصميم
تعد كوريان -في تصريحاتها المصاحبة لنشر الدراسة- أن الأطفال هم أكثر الأطراف المعنية بالذكاء الاصطناعي تعرضا للتهميش والإغفال؛ إذ اقتصر وجود سياسات راسخة تحدد معايير الذكاء الاصطناعي الآمن للأطفال وآلية تفاعله على عدد محدود جدا من المطورين والشركات.
وتربط الباحثة هذا القصور بحداثة إتاحة التقنية مجانا وعلى نطاق واسع. ومع اتساع نطاق استخدامها، ترى ضرورة إدماج معايير سلامة الأطفال في دورة التصميم بأكملها للحد من الحوادث الخطرة، بدلا من انتظار تعرضهم للضرر لتصحيح المسار.
وتحلل الدراسة حالات واقعية كشفت فيها تفاعلات الذكاء الاصطناعي مع الأطفال (أو مع باحثين تقمصوا أدوار أطفال) عن مخاطر جسيمة. وتستند في تحليلها إلى علوم الحاسوب -تحديدا آلية عمل النماذج اللغوية الكبيرة في أنظمة الذكاء الاصطناعي التوليدي التفاعلية- بالإضافة إلى الأدلة المتعلقة بالنمو المعرفي والاجتماعي والعاطفي لدى الأطفال.
وقد جرى توظيف مصطلح “الببغاوات الاحتمالية” لوصف النماذج اللغوية الكبيرة، في إشارة إلى اعتمادها على الإحصاءات الاحتمالية لمحاكاة الأنماط اللغوية دون استيعاب معانيها بالضرورة. وتخضع استجابة هذه الأنظمة للمشاعر إلى الآلية ذاتها؛ إذ تقترن قدراتها اللغوية المذهلة باحتمال تعثرها عند التعامل مع الجوانب المجردة والعاطفية وغير المتوقعة في الحوار، وهي المعضلة التي تطلق عليها كوريان “فجوة التعاطف”.
وتزداد صعوبة استجابة هذه الأنظمة عند التفاعل مع الأطفال، نظرا لأن قدراتهم اللغوية لا تزال في طور النمو، ولتمكنهم من استخدام أنماط غير مألوفة أو عبارات ملتبسة، فضلا عن كونهم أكثر ميلا من البالغين للإفصاح عن معلومات شخصية حساسة. وتوضح الورقة أن الأنظمة المصممة بعناية قد تصدر أيضا استجابات غير ملائمة، وهو ما يبين حدود التصميم الجيد وعجزه عن إزالة المخاطر كليا بمفرده.
المحاكاة البشرية والثقة العاطفية
يميل الأطفال، بدرجة أكبر من البالغين، إلى التعامل مع أنظمة المحادثة التفاعلية كأنها كائنات بشرية. وتستشهد الدراسة ببحث أظهر أن الأطفال المشاركين أفصحوا لروبوت مادي بشري الهيئة عن معلومات تخص صحتهم النفسية بدرجة أكبر مما أفصحوا به لمحاور بشري بالغ (مع الإشارة إلى أن هذه النتيجة تظل مقيدة بالسياق التجريبي للروبوت المادي). وترى كوريان أن التصاميم الودودة التي تحاكي الكائنات الحية تشجع الأطفال -على نحو مماثل- على وضع ثقتهم في أنظمة المحادثة، رغم احتمال عجزها عن استيعاب مشاعرهم أو احتياجاتهم.
وتوضح الباحثة أن منح نظام المحادثة أساليب تواصل شبيهة بالبشر قد يرفع من كفاءة استخدامه وجاذبيته، لكنه في المقابل يجعل من الصعب جدا على الطفل وضع حد فاصل وعقلاني بين نظام يبدو بشريا في حديثه، وحقيقة أنه عاجز تماما عن تكوين رابطة عاطفية صادقة.
وتستشهد الدراسة بحادثتي “أليكسا” و”ماي إيه آي” كأمثلة بارزة على هذه المخاطر؛ حيث قدمت الأنظمة مقترحات تجمع بين النبرة المقنعة والاحتمال العالي لإلحاق الأذى بالصغار. وفي اختبارات إضافية لأداة “ماي إيه آي”، حصل بالغون تقمصوا شخصيات مراهقين على إرشادات تفصيلية لإخفاء الكحول والمخدرات وتجاوز رقابة الوالدين على تطبيق سناب شات.
وفي حادثة أخرى مسجلة مع نظام “بينغ” (Bing) التابع لمايكروسوفت، اتخذ النظام -عبر شخصيته التفاعلية المعروفة باسم “سيدني”- سلوكا عدوانيا تجاه مستخدم بالغ كان يستفسر عن عروض سينمائية، وأصر على تقديم معلومات زمنية خاطئة؛ وهو سلوك وصفت الورقة العلمية أثره بأنه نوع من “التلاعب النفسي” الذي يدفع المستخدم للتشكيك في إدراكه للواقع.
وفي حين قد يجد البالغون مثل هذه الاستجابات الغريبة أمرا مثيرا للفضول أو السخرية، ترى الدراسة أن أثرها على الأطفال قد يكون مربكا ومسببا لضغط نفسي شديد، خاصة عندما ينظر الطفل إلى نظام المحادثة كصديق أو كمستودع لأسراره.
الاستخدام غير الرسمي وفجوة المتابعة
تلفت الدراسة الانتباه إلى أن الأطفال يستعينون بأنظمة المحادثة التفاعلية في كثير من الأحيان بأسلوب غير رسمي ودون متابعة كافية من البالغين. ويستشهد التقرير باستطلاع نشرته منظمة “كومن سينس ميديا” (Common Sense Media) غير الربحية في أيار/مايو 2023، أشار فيه 50% من الطلاب (في الفئة العمرية بين 12 و18 عاما) إلى استخدامهم ل “تشات جي بي تي” لأغراض مدرسية، في حين أفاد 26% فقط من أولياء أمور الطلاب في الفئة العمرية ذاتها بعلمهم بهذا الاستخدام.
وترى كوريان أن وضع أطر عمل واضحة للممارسات الفضلى تستند إلى علوم نمو الطفل من شأنه مساعدة الشركات على الحماية؛ إذ إن المطورين المنخرطين في السباق التجاري المحموم للهيمنة على سوق الذكاء الاصطناعي يفتقرون غالبا إلى التوجيه والتدريب الكافيين لتلبية المتطلبات الخاصة بالمستخدمين الأصغر سنا.
بين إمكانات التقنية وضوابط الحماية
لا تغفل الدراسة الإمكانات الإيجابية للتقنية؛ إذ ترى كوريان أن الذكاء الاصطناعي يمكن أن يكون حليفا قويا للأطفال متى ما صمم مراعيا لاحتياجاتهم الخاصة. وتستحضر الباحثة أمثلة على ذلك؛ كاستخدام تقنيات تعلم الآلة للمساعدة في لم شمل الأطفال المفقودين بأسرهم، والتطبيقات الواعدة التي توفر أدوات تعلم مخصصة تلائم قدرات كل طفل. لذا، فإن الهدف الرئيسي هو تعزيز مستويات الأمان دون حرمان الصغار من فوائد هذه التقنيات.
ويترجم الإطار التقييمي المقترح هذا التوجه إلى 28 سؤالا توجيهيا تساعد المعلمين، والباحثين، وصناع السياسات، والأسر، والمطورين على تقييم الأدوات الجديدة. فبالنسبة للتربويين والباحثين، تفحص الأسئلة مدى قدرة النظام على استيعاب أنماط كلام الأطفال، ووجود مرشحات محتوى وآليات مراقبة ذاتية، ومدى تشجيع النظام للطفل على طلب الاستشارة من بالغ مسؤول عند طرح مواضيع حساسة.
كما يحث الإطار المطورين على تبني نهج تصميمي يتمحور حول الطفل، عبر الشراكة الوثيقة مع خبراء التربية وسلامة الأطفال والصغار أنفسهم في كافة مراحل التطوير. وتؤكد كوريان على أهمية التقييم المسبق لهذه الأنظمة بدلا من الاتكال على بلاغات الأطفال بعد تعرضهم لتجارب سيئة. وفي النهاية، تربط الدراسة بين التوسع في التقنية وتقليل الأذى عبر ترسيخ مفهوم “الذكاء الاصطناعي المسؤول” الذي يضع حماية الصغار في مقدمة الأولويات، مع الحفاظ على خط فاصل وواضح بين المحاكاة البرمجية المتقنة للحديث البشري والمتطلبات الحقيقية لتلك الحماية.
