مجموعة العشرين تناقش المساواة الرقمية وأخطار تقدم الذكاء الاصطناعي دون قواعد

في إطار الأنشطة ذاتية الإدارة لمجموعات التواصل لمجموعة العشرين، ناقشت لجنة مدعومة من المجلس الوطنية لحقوق الإنسان (CNDH) أخطار تقدم الذكاء الاصطناعي دون قواعد، كذلك التحديات الأخلاقية والبيئية والاجتماعية للأداة.

للذكاء الاصطناعي فوائد في كل نشاط بشري تقريبا، لكن المناقشة تواجه ضغطا قويا لتجاهل العنصرية الخوارزمية والاستبعاد الرقمي وتركز القوة التكنولوجية.

وتجري مناقشة مقترحات لإنشاء قوانين متسقة لهذ القطاع في معظم دول مجموعة العشرين، وينبغي أن تأخذ في الحسبان المساواة في الوصول إلى فوائد التكنولوجيا، التي وسعت نطاق التفاوتات وانتهاك الحقوق الأساسية.

يعتقد جواو برانت، أمين السياسات الرقمية في أمانة الاتصال الاجتماعي لرئاسة الجمهورية، أن "الذكاء الاصطناعي يجلب عديدا من الفوائد، لكنه ينطوي أيضا على أخطار. نحن بحاجة إلى تحقيق تنظيم يجمع بين ضمان الفوائد والتعامل مع الأخطار. ولهذا، نحتاج إلى وضع حقوق الإنسان في المقام الأول".

ومن بين المقترحات التي دافع عنها المجلس الوطني لحقوق الإنسان ضمان الاتصال بالانترنت كحق من حقوق الإنسان.

تواجه ركائز حقوق الإنسان مثل حرية التعبير تحديات جديدة مع استخدام الذكاء الاصطناعي على المنصات الرقمية، ويمكن للخوارزميات أن تعمل على تضخيم الكراهية والتعصب، وفقا لعائشة سايوري من برنامج مراقبة حقوق الإنسان التابع للأمم المتحدة،

وترى أن هناك تصورا خاطئا بأن الخوارزميات محايدة، وتتظاهر الأنظمة بأنها محايدة، لكن هناك مبرمجين وراءها".

يمكن أن تنتشر التحيزات في أنظمة الذكاء الاصطناعي وتزيد التفاوتات الهيكلية والتحيزات، ما يؤثر بشكل رئيسي على النساء والسود والأشخاص ذوي الإعاقة وغيرهم من الفئات الضعيفة.

ناقشت البرازيل محو الأمية الرقمية في مقترحاتها، التي تنطوي على تثقيف كل من الشباب والبالغين لإدارة المعلومات على الإنترنت، فضلاً عن أهمية مشاركة المجتمع المدني في تشكيل هذه المقترحات.

تحدث برانت عن أهمية القدرة على تحديد المسؤوليات حتى بالنسبة إلى المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي و"عدم فقدان القدرة على قول ما هو حقيقي".

يثير تركز تطوير الذكاء الاصطناعي والتحكم فيه في أيدي عدد قليل من الشركات متعددة الجنسيات المخاوف بشأن السيادة الرقمية وأمن البيانات الشخصية.

يعزز بيان ساو لويس، وثيقة تم إعدادها في مجموعة العشرين في البرازيل، أهمية الذكاء الاصطناعي الذي يعزز التنمية المستدامة ويقلل من التفاوتات، في حين يسلط بيان ماسيو الضوء على الحاجة إلى ضمان سلامة المعلومات على الشبكات الاجتماعية، حيث يمثل استخدام الذكاء الاصطناعي للتلاعب بالبيانات تهديدا للديمقراطية والشفافية.

حاليا، يخضع مشروع القانون 2338 للمراجعة في الكونجرس البرازيلي، الذي يضع إرشادات لتنظيم الذكاء الاصطناعي في البرازيل، سعيا إلى ضمان شفافية الخوارزميات وقدرتها على تفسير الأمور ومسؤوليتها.

المشروع يهدف إلى منع التكنولوجيات من إعادة إنتاج الأحكام المسبقة ويقترح توسيع سيطرة المجتمع على عمل أنظمة الذكاء الاصطناعي، خاصة في المجالات الحساسة مثل السلامة العامة والصحة والتعليم.