Por Redacción
Redmond, 20 de marzo de 2026.- Microsoft mantiene un equipo multidisciplinario dedicado a hackear sus propios productos de inteligencia artificial, conocido como red team o equipo rojo, como parte de sus pruebas de seguridad antes de lanzar tecnologías al mercado. La compañía se atribuye haber sido pionera en esta práctica al formar el equipo en 2021.
Brad Smith, presidente de Microsoft, declaró que la empresa opera bajo principios definidos y publicados que crean guardarraíles para el desarrollo tecnológico. “Tenemos principios, los definimos y los publicamos. Por definición, esos principios crearán guardarraíles. Y nos mantenemos en la carretera dentro de ellos. No se trata solo de cuándo debemos usar la tecnología, sino también de cuándo no debemos usarla”, afirmó el ejecutivo.
La práctica del red teaming tiene origen militar y se aplica en ciberseguridad desde hace décadas. En el contexto tecnológico actual, este enfoque permite identificar vulnerabilidades y riesgos antes de que los productos sean desplegados públicamente, especialmente en sistemas de inteligencia artificial con potencial impacto social.
El debate sobre el uso de IA en aplicaciones militares ha marcado el contexto reciente del sector. Se ha citado el caso de Anthropic demandando al Pentágono, así como la cancelación de un acuerdo de Microsoft con el Pentágono en 2021, lo que refleja las tensiones entre empresas tecnológicas y aplicaciones de defensa.
Microsoft mantiene este equipo de seguridad como parte de su estrategia para garantizar que sus desarrollos de inteligencia artificial operen dentro de los parámetros establecidos por la compañía. El enfoque preventivo busca evitar que la tecnología sea utilizada de maneras no previstas o potencialmente dañinas.
La industria tecnológica enfrenta creciente escrutinio sobre los métodos de prueba y validación de sistemas de IA, especialmente en aplicaciones que pueden tener consecuencias en seguridad nacional, privacidad y derechos humanos. El red teaming se posiciona como una herramienta clave en este proceso de verificación interna.
About The Author
