Investigadores de IA lograron que los chatbots compartieran recetas de cocaína con este único y sorprendente truco
Investigadores de IA lograron que los chatbots compartieran recetas de cocaína con este único y sorprendente truco
Investigadores afirman que una nueva técnica de "jailbreak" engañó a modelos de IA para que trataran el texto escrito por un atacante como su propio razonamiento, eludiendo las barreras de seguridad y exponiendo una falla de seguridad más profunda.