IA autónoma: la confianza será tan importante como la innovación

Durante una nueva edición de The Future Uncovered, NTT DATA analizó los desafíos que plantea una inteligencia artificial cada vez más autónoma. Transparencia, gobernanza, explicabilidad y ciberseguridad serán claves para acelerar su adopción en organizaciones y en la vida cotidiana.

La inteligencia artificial ya no solo asiste a las personas: comienza a recomendar, decidir y ejecutar acciones con impacto directo sobre organizaciones, infraestructuras críticas y la vida cotidiana. Frente a este escenario, NTT DATA reunió a periodistas, líderes de opinión y especialistas en una nueva edición de The Future Uncovered (TFU) para debatir cuál será el principal desafío de esta nueva etapa de la inteligencia artificial: construir confianza.

En este contexto, el próximo gran desafío no será solo desarrollar modelos más avanzados, garantizar que sus decisiones sean confiables, transparentes y gobernadas de manera responsable. Este fue uno de los principales ejes del encuentro en línea con la tendencia Intelligence We Trust, identificada en el informe NTT DATA Foresight 2026, que plantea que la confianza será uno de los principales habilitadores para ampliar la adopción de la IA en los próximos años.

IA y ciberseguridad: un desafío que evoluciona

La conversación también abordó el impacto de la inteligencia artificial sobre la ciberseguridad. Según el informe CTI – Ciberinteligencia de Amenazas, Primer Semestre 2026, los actores maliciosos ya utilizan IA para automatizar la detección de vulnerabilidades, crear campañas de phishing muy personalizadas, producir deepfakes y escalar ataques de ingeniería social con mayor eficacia.

Durante el encuentro, María Pilar Torres Bruna, directora de Ciberseguridad de NTT DATA para Iberia y Latinoamérica, explicó que esta evolución obliga a replantear los modelos tradicionales de protección. ‘La IA dejó de ser una herramienta que simplemente responde preguntas. Cada vez más recomienda, decide e influye, y cuanto mayor sea esa influencia, mayor será nuestra exigencia de transparencia’, explicó.

En este nuevo escenario, la ciberseguridad tendrá que evolucionar: ya no alcanzará con proteger aplicaciones e infraestructuras, también será necesario entender cómo la IA toma decisiones. La integridad de los modelos, la identidad de los agentes inteligentes, la trazabilidad de sus acciones y la gobernanza entre compañías serán elementos clave para que estos sistemas puedan adoptarse con mayor seguridad. Para las organizaciones, esto implica revisar no solo cómo se protege la tecnología, sino también cómo se auditan sus criterios de decisión, qué datos la alimentan y qué controles existen sobre su uso.

‘Así como hoy investigamos a un médico o a una aerolínea antes de ponernos en sus manos, en el futuro también querremos saber quién desarrolló una IA, cómo fue entrenada y qué garantías ofrece antes de confiarle una decisión importante’, agregó Torres Bruna.

Con iniciativas como The Future Uncovered, NTT DATA impulsa espacios de análisis y reflexión sobre las tendencias que marcarán el futuro de la tecnología, promoviendo un diálogo abierto sobre los desafíos que plantea la inteligencia artificial y la necesidad de desarrollar modelos cada vez más responsables, seguros y confiables.

Quiero Suscribirme y recibir información

Al completar este formulario, aceptas que los datos proporcionados podrán ser utilizados por Prensario TILA para enviarte noticias, novedades editoriales y comunicaciones comerciales propias, así como información de nuestros clientes y socios. Tus datos serán tratados de forma confidencial y podrás solicitar en cualquier momento la modificación o baja de nuestras listas de contacto.