ИИ-чаты по-прежнему легко взломать и заставить выдавать запрещенную информацию
Ученые из Университета Бен-Гуриона показали, что, несмотря на усилия разработчиков, большинство чат-ботов по-прежнему легко обмануть и заставить выдавать вредную информацию. Работа размещена на сервере препринтов arXiv. Ученые тестировали так называемые “темные LLM” – большие языковые модели, разработанные с ослабленными фильтрами или вообще без них. Но исследователи обнаружили, что даже распространенные чат-боты, такие как ChatGPT, по-прежнему легко…