هناك شيء مقلق للغاية بشأن أنظمة الذكاء الاصطناعي التي تستوعب السخافات. تدريب النماذج على بيانات معيبة لا يكرر الأخطاء فحسب، بل يضخمها. عندما تتعلم الآلات من تحيزاتنا، فإنها لا تعكسها فحسب؛ بل تعزز أسوأ جوانبها.

فكر في الأمر: الخوارزميات التي تتغذى على الفوارق التاريخية ستضخم التمييز. الأنظمة المدربة على النقاشات القطبية ستدفع التطرف إلى أبعد من ذلك. تصبح حلقة التغذية الراجعة خطيرة عندما تفتقر الذكاء الاصطناعي إلى القدرة البشرية على التصحيح الذاتي والتفكير النقدي.

ما نحتاجه حقًا ليس ذكاءً اصطناعيًا أكثر ذكاءً يضاعف الهراء. نحن بحاجة إلى أنظمة مصممة مع الشك المدمج، وأطر عمل تتساءل بدلاً من أن تعزز. خلاف ذلك، نحن فقط نبني غرف صدى باهظة الثمن تجعل الأفكار السيئة تبدو أكثر إقناعًا.