Есть что-то глубоко тревожное в системах ИИ, которые усваивают абсурдности. Обучение моделей на ошибочных данных не просто воспроизводит ошибки — оно их усиливает. Когда машины учатся на наших предвзятостях, они не просто отражают их; они усиливают худшие аспекты.

Подумайте об этом: алгоритмы, основанные на исторических неравенствах, будут усиливать дискриминацию. Системы, обученные на поляризованных дебатах, будут еще больше подталкивать к крайностям. Обратная связь становится опасной, когда ИИ лишен человеческой способности к самокоррекции и критическому мышлению.

То, что нам действительно нужно, - это не более умный ИИ, который углубляется в бессмыслицу. Нам нужны системы, спроектированные с встроенным скептицизмом, структуры, которые ставят под сомнение, а не укрепляют. В противном случае мы просто создаем дорогие эхо-камеры, которые делают плохие идеи более убедительными.