أنظمة الذكاء الاصطناعي أصبحت أكثر قدرة وفاعلية، حيث يمكن لنماذج الذكاء الاصطناعي إنشاء نصوص وصور وفيديو يصعب تمييزها عن ذلك المحتوى الذي يصنعه الإنسان والذي يسمى بالذكاء الاصطناعي التوليدي. لكن لابد من مراعاة تحديات ومخاطر التي تحيط بالذكاء الاصطناعي وتجعله أداة مفيدة أو خطيرة على البشرية. عندما يصبح الذكاء الاصطناعي أكثر تقدما، فإنه من الممكن أن يشكل خطرا كبيرا لا يمكن معرفة آثاره السلبية، ولا يمكن في كثير من الأحيان التصدي له. 
 في هذا المقال، سنتحدث عن بعض المخاطر والآثار المترتبة على تطوير الذكاء الاصطناعي وتقنياته وقد نضيف أحياناً أفكار حول كيفية التعامل معها بشكل استباقي للسيطرة عليها.

1. عدم تطابق نتائج أنظمة الذكاء الاصطناعي مع الواقع بشكل دقيق 
تخيل معي أنك تبحث عن شخصية معينة وتحاول أن تشكل هوية شخصية رقمية حولها. إنّ جمع البيانات حول تلك الشخصية عادة ينطوي على الاختيار بين العوامل التي يتمّ قياسها، وتلك التي يجري تجاهلها وفقاً لمعايير معينة. وبالتالي، لا يتمّ استخدام البيانات الشخصية إلّا لبناء الخصائص والاهتمامات وغيرها لدى الشخص المعني. ويتمّ تقسيم الأفراد بناءً على تدفّقات بيانات مختلفة. وبعد ذلك وباستخدام تصنيفات وفئات مختلفة تتم إعادة بناء «شخصية رقمية»، أي تكوين ملف تعريف افتراضي لشخص معين.
 وبهذه الطريقة يكون للبيانات تأثير فاعل. لكن هذا النهج من اختيار البيانات المناسبة من غير المناسبة يحمل في طياته ثغرات، وينطوي على خطر أن تؤدي عمليات جمع ومعالجة البيانات إلى بناء شخصية رقمية «مجزّأة» أو «مشوّهة» أو «غير صحيحة» من جوانب معينة.
والذي قد يتناقض بشكلٍ واضح مع صورة هوية الشخص الحقيقي والأخطر أن يتم إصدار أحكام على الشخصية وفقاً لتلك البيانات «المشوهة»، خصوصًا أنّ البيانات الشخصية عادةً تكون ناتجة من سياق منصات التواصل الاجتماعي، التي غالباً ما تتّسم بتمثيلٍ غير دقيق أو ضعيف نسبيًا. 
كما يمكن أن تكون مجموعات البيانات متحيّزة، حيث قد يتمّ تزييف البيانات بسبب أخطاء الجهاز أو بواسطة حسابات تواصل اجتماعي وهمية أو برامج روبوت غير متقنة. والنتيجة في هذه الحالة ستكون بيانات مجتزأة ومشوّهة يتم جمعها ومعالجتها ودمجها في أنظمة التعلّم الآلي. وعليه، فإنّ أحد التحديات التي تواجه أنظمة الذكاء الاصطناعي هي النتائج المنبثقة عن هذه البيانات ما يمكن أن يتناقض تمامًا مع معطيات الواقع. 

2. التحيز في الذكاء الاصطناعي ونتائجه: 
مكّن تعريف التحيز في الذكاء الاصطناعي على أنه قدرة خوارزميات التعلم الآلي على تكرار وتضخيم التحيزات الموجودة مسبقًا في مجموعة بيانات التدريب، والبيانات التي يتم تغذية التعلم الآلي بها بين الوقت والآخر، وقد يؤدي ذلك إلى نتائج غير عادلة وغير أخلاقية، مما يؤثر بشكل كبير على المجتمعات المهمشة.
 
على سبيل المثال، إجراءات التوظيف المتحيزة، والموافقات على القروض من البنوك، والأحكام الجنائية غير المتكافئة. والمثال التالي يمثل صورة من صور التحيز نتيجة للبيانات التي تمت تغذية الذكاء الاصطناعي بها. وخلاصة القصة المثيرة التي حدثت في إحدى الدول الغربية، أنه تم عمل بحث حول السمات الشخصية وملامح الوجه والبينة الجسمانية والظروف الاجتماعية المحيطة بتكوين المجرمين في ذلك المجتمع. وعندما بدأت تقنيات الذكاء الاصطناعي بالرجوع إلى السجلات والجرائم السابقة لتجميع البيانات وتكوين التصور المطلوب، كانت النتيجة أن مجرمي المستقبل سيكونون من عرقية معينة ومن بيئات معينة ويحملون ملامح معينة. وعند نشر النتائج في تلك الدولة، اتضح مدى التحيز الذي تحمله هذه التقنيات بدون مراعاة الظروف الأخرى المسببة لتلك الجرائم من تهميش وتضييق أو عنصرية. 
يحتاج التخفيف من تحيز الذكاء الاصطناعي إلى نهج مدروس لاختيار البيانات وتقنيات المعالجة المسبقة وتصميم الخوارزمية لتقليل التحيز وتعزيز العدالة. كما تساعد المراقبة والتقييم المستمران لأنظمة الذكاء الاصطناعي في تحديد التحيز وتصحيحه. وبالتالي تعزيز الإنصاف من خلال عمليات صنع القرار القائمة على الذكاء الاصطناعي.

3. الحاجة لمعرفة بالتبعات التكنولوجية
غالبًا ما يقوم مهندسو البرمجيات بتطوير حلولٍ لمختلف المجالات، والتي قد تؤثر في كثيرٍ من الأحيان على عددٍ كبير من المؤسسات والمجتمعات. ولكن في الوقت نفسه، لا يتمتّع هؤلاء المهندسون عادةً إلّا بخلفيةٍ علمية في علوم الحاسوب فقط وليس في العلوم الأخرى وخاصة العلوم الإنسانية والاجتماعية. إضافة إلى ذلك، فإن المؤسسات التي تقف خلف هذه تبحث عن تحقيق نتائج مذهلة وأرباح مالية كبيرة وقد يكون ذلك على حساب قيم وأخلاق المجتمعات. يمكن أن يؤدي ذلك إلى الوقوع في مواقف لا يكون لدى مهندسي البرمجيات خلفية كافية عنها، سواء كانت اجتماعية أو نفسية أو أخلاقية أو حتى سياسية. وبالتالي لن يستطيعوا فهم التفاعلات والسياقات في المجالات التي سيتمّ فيها تطبيق التكنولوجيا. لذلك، فغالبًا ما يؤدي ذلك إلى نتائج معاكسة أو سوء فهم لحالات معينة. كما أنّه في مرحلة تطبيق التقنيات الرقمية، قد تحدث عواقب غير مرغوب بها أو مخطّط لها، وهذا ينطبق على مجال تطوير التكنولوجيا بصفةٍ عامة. وبما أنّ الباحثين في مجال الذكاء الاصطناعي يطورون تطبيقات ليتمّ تنفيذها في مجالات مختلفة من الحياة، فإنهم يحتاجون إلى فهمٍ منهجي للمجتمعات، والعلاقات الإنسانية، وكذلك الأخلاقية.