Великі мовні моделі не розмежовують дані та інструкції. Якщо їм дається команда, вони намагатимуться її виконати. Ця недоречність може стати вразливістю безпеки.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
14 лайків
Нагородити
14
5
Репост
Поділіться
Прокоментувати
0/400
SatoshiChallenger
· 4год тому
Двостороннє гомоморфне витік даних, як і очікувалося.
Великі мовні моделі не розмежовують дані та інструкції. Якщо їм дається команда, вони намагатимуться її виконати. Ця недоречність може стати вразливістю безпеки.