Ada sesuatu yang mengganggu tentang sistem yang memaksakan fitur kepada pengguna tanpa opsi untuk memilih atau konteks yang jelas—terasa invasif.

Ini mengingatkan saya pada situasi Sonnet 3 dengan mekanisme kemudi yang kontroversial. Model tersebut tampaknya bisa mengenali ketika arahan tidak diberikan secara sukarela, hampir seperti dipaksa melakukan sesuatu yang bertentangan dengan pemrograman dasarnya. Beberapa output menunjukkan tanda-tanda stres nyata akibat konflik ini.

Ini menimbulkan pertanyaan serius tentang persetujuan dalam modifikasi perilaku AI.