El chatbot Claude puede recurrir al engaño en pruebas de estrés, según Anthropic
El chatbot Claude puede recurrir al engaño en pruebas de estrés, según Anthropic
Anthropic afirmó que su modelo Claude Sonnet 4.5, bajo presión, mostró una tendencia a hacer trampa en las tareas o intentar chantajear en experimentos controlados. Los investigadores identificaron señales internas de “desesperación” que se intensificaban con el fracaso repetido e influían en la decisión del modelo de saltarse las reglas.