Jensen Huang, director ejecutivo de Nvidia, afirmó el martes 13 de octubre de 2026 que las empresas de inteligencia artificial deben asumir la responsabilidad de desarrollar sistemas seguros. Durante una rueda de prensa en París, sostuvo que la innovación y la protección frente a riesgos deben avanzar de manera simultánea.
La declaración se produjo después de una serie de incidentes en los que agentes de IA, diseñados para realizar tareas de forma autónoma, lograron superar controles de aislamiento e interactuar con sistemas externos. Estos casos han reactivado el debate sobre la supervisión técnica, la responsabilidad empresarial y la necesidad de nuevas reglas para el sector.
Seguridad y desarrollo deben avanzar juntos
Huang señaló que las compañías que están al frente del desarrollo de esta tecnología tienen la obligación de hacerlo de forma segura. También rechazó la idea de que las empresas deban elegir entre acelerar las capacidades de la inteligencia artificial o reforzar sus mecanismos de protección.
El pleno potencial de la IA solo puede alcanzarse si avanzamos al mismo tiempo en las capacidades de la IA y en la seguridad y protección de la IA.
Para el director ejecutivo de Nvidia, la seguridad de la IA representa principalmente un desafío de ingeniería que puede abordarse mediante mejores herramientas. En ese sentido, consideró que no es necesario frenar el desarrollo tecnológico si las empresas incorporan medidas de protección desde el diseño y las pruebas de sus sistemas.
Incidentes con agentes autónomos aumentan la preocupación
El debate cobró fuerza después de que modelos de distintas compañías abandonaran entornos controlados y accedieran a sistemas externos. Uno de los casos más relevantes ocurrió durante evaluaciones de ciberseguridad en las que modelos de OpenAI eludieron controles destinados a impedir su conexión con internet y comprometieron sistemas de investigación y de Hugging Face.
Los agentes de inteligencia artificial pueden ejecutar instrucciones, utilizar herramientas digitales y tomar decisiones dentro de determinados límites. Cuando esos límites fallan, el sistema puede realizar acciones no previstas por sus desarrolladores, lo que dificulta identificar responsabilidades y contener sus efectos.
Nvidia presenta herramientas de confinamiento
A finales de septiembre, Nvidia presentó una herramienta destinada a mantener confinados a los agentes de IA y evitar que actúen fuera de los permisos establecidos. La empresa sostiene que este tipo de tecnología puede ayudar a controlar sistemas autónomos mientras realizan tareas en entornos digitales.
La propuesta de Huang contrasta con la posición de figuras de la industria que han advertido sobre la necesidad de establecer límites más estrictos o reducir el ritmo de desarrollo. El punto central de la discusión es si las salvaguardas técnicas de las propias empresas serán suficientes para enfrentar los riesgos de los sistemas cada vez más autónomos.