Dirigida por un fundador con más de 21 años de experiencia

contacto@guilda.mx

Artículos sobre ciberseguridad, nube y cumplimiento

Seguridad de la IA

8 artículos

Artículos por tema

Seguridad de la IA

10 formas en que tu IA puede volverse en tu contra: OWASP Top 10 para LLM vs MITRE ATLAS

Un chatbot que inventa una política de reembolsos, un asistente que filtra correos sin un solo clic, una herramienta de programación publicada con código plantado. El OWASP Top 10 para LLM nombra estos riesgos para quien construye; MITRE ATLAS registra cómo los ejecutan los atacantes. Así encajan los dos.

9 min de lectura

Seguridad de la IA

Gobernanza de IA: pon las reglas antes de que tu IA se salga de control

Un marco de gobernanza de IA decide qué sistemas de IA usa tu empresa, qué puede hacer cada uno, quién lo aprobó y cómo notarás cuando algo falle. NIST AI RMF aporta las preguntas de riesgo, ISO/IEC 42001 el sistema de gestión alrededor, y una política de uso dice al personal qué puede hacer hoy.

7 min de lectura

Seguridad de la IA

MITRE ATLAS: cómo se hackea la IA y cómo detectarlo en tus logs

MITRE ATLAS es la base de conocimiento pública de MITRE sobre cómo se ataca a los sistemas de IA, con el mismo modelo que MITRE ATT&CK. Reúne tácticas, técnicas y casos reales, del prompt injection a los plugins envenenados. Casi todos estos ataques solo se ven si registras qué se le pidió a la IA, qué leyó y qué hizo.

8 min de lectura

Seguridad de la IA

Red teaming de IA: rompe tu IA antes de que lo hagan los atacantes

El red teaming de IA es probar un sistema de IA como lo haría un atacante, para que ignore sus instrucciones, revele lo que no debe o use mal sus herramientas. Se distingue de una prueba de penetración porque el ataque se escribe en lenguaje común, y termina con correcciones que puedes volver a probar.

5 min de lectura

Cuéntanos qué necesitas proteger o construir

Envíanos una descripción breve del problema. Respondemos en un máximo de dos días hábiles.