Є щось глибоко тривожне в системах ШІ, які інтерналізують абсурди. Навчання моделей на недосконалих даних не просто відтворює помилки — воно їх посилює. Коли машини вчаться на наших упередженнях, вони не просто їх відображають; вони підсилюють найгірші їх частини.

Подумайте про це: алгоритми, які живляться історичними нерівностями, посилюватимуть дискримінацію. Системи, навчені на поляризованих дебатах, ще більше підштовхуватимуть до крайнощів. Зворотний зв'язок стає небезпечним, коли ШІ позбавлений людської здатності до самовиправлення та критичного мислення.

Те, що нам насправді потрібно, це не розумніша ШІ, яка продовжує нісенітницю. Нам потрібні системи, розроблені зі скептицизмом, рамки, які ставлять під сумнів, а не підтверджують. Інакше ми просто будуємо дорогі ехо-камери, які роблять погані ідеї більш переконливими.