Los riesgos del prompt injection

Seguridad · ether.fi

«Ethan», del soporte de ether.fi, era un bot

3 emails

A las 3 de la mañana, en menos de minuto y medio y siempre con la misma plantilla. Al pedir una persona, contestó Michael… también en minuto y medio: otro bot con otro nombre.

Seguridad · Tu soporte

Cada vez más plataformas te atienden con IA

A veces con nombre de persona y sin avisar. ether.fi usa Intercom, que trae un agente de IA de serie.

Seguridad · El riesgo

El bot no distingue las órdenes de la empresa de lo que escribes tú

Para él todo es texto. Si alguien le cuela una orden en un mensaje, puede obedecerla. Se llama «inyección de instrucciones».

Seguridad · Precedente

Air Canada tuvo que pagar lo que prometió su chatbot

812 $

Canadienses, en 2024: el bot se inventó un descuento y un tribunal le obligó a cumplirlo. En un exchange, lo grave sería un bot que toque cuentas o vea datos de otros.

Seguridad · Qué hacer tú

Si el tema importa, pide una persona

Guarda por escrito lo que te prometan. Y nunca des claves, semillas ni códigos 2FA a ningún soporte, humano o no.