“AI поради” здається безпечною, тому що вона звучить так, ніби підходить кожному.

Ось у чому хитрість.

Модель налаштована на середину: відповідь, яка не призведе до того, що середня людина згорить у середній ситуації.

Але ніхто не просить поради у середини.

Вони питають з краю:

- пропозиція роботи проти візи проти сім’ї
- позов / розлучення / опіка
- один шанс на виправлення стосунків
- медична консультація, де “можливо, все гаразд” означає точно зламано

Тому вона подає вам щось на кшталт:
“У більшості випадків беріть більш високооплачувану роботу. Ви завжди можете переїхати з сім’єю пізніше.”

Зазвичай так.

Також саме ця фраза перетворює зворотній вибір у односторонню дорогу.

Бо вона не питає, що ви можете дозволити собі втратити.

Вона дає вам те, що зазвичай працює.

І ви не помітите розбіжності, поки читаєте.

Ви помітите її, коли спробуєте повернути назад.