Escuche el artículo
Este audio se generó automáticamente. Háganos saber si tiene comentarios.
Breve breve:
- La seguridad, la privacidad y los problemas de confianza relacionados siguen siendo algunas de las mayores preocupaciones de las empresas sobre la inteligencia artificial generativa, según un par de informes.
- A medida que las empresas enfrentan más presión para integrar la IA en sus flujos de trabajo, se enfrentan a preguntas difíciles sobre la confiabilidad y auditabilidad de la tecnología.
- Muchas compañías están asignando nuevas rebanadas de sus presupuestos a las inversiones de IA, incluida la IA Agentic, que utiliza sistemas autónomos para realizar tareas complejas.
Dive Insight:
Dos informes, uno que KPMG lanzó el jueves y otro que Thales lanzado el mes pasado — Ilustra cómo la IA generativa está planteando preocupaciones de seguridad para los líderes empresariales.
Los líderes empresariales encuestados por KPMG informaron priorizar la supervisión de seguridad en sus decisiones generativas de presupuesto de IA, y el 67% dijo que planean gastar dinero en protecciones de seguridad cibernética y de datos para sus modelos de IA. El cincuenta y dos por ciento citó el riesgo y el cumplimiento como una prioridad presupuestaria.
Esas decisiones de gasto reflejan las crecientes preocupaciones de los ejecutivos corporativos sobre la seguridad de la IA. En el nuevo informe Q2 2025 de KPMG, el 69% de los líderes citó preocupaciones sobre la privacidad de los datos de IA, un aumento significativo del 43% que lo citó en el cuarto trimestre de 2024.
Andrew Lohn, miembro senior del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, dijo a CyberseCurity Dive que el gasto de seguridad de las compañías era «una buena señal de que se toman en serio el uso de IA y no solo experimentar con ella».
El informe anual de amenaza de datos de Thales, basado en una encuesta de 3.200 profesionales de TI y seguridad en 20 países y 15 industrias, se hizo eco de tendencias similares. Los cuatro riesgos principales relacionados con la IA generativa entre los encuestados fueron la rápida transformación del ecosistema (que realizó el 69%de las listas de encuestados), problemas de integridad de datos (64%), confianza (57%) y confidencialidad (45%).
La seguridad de IA ocupó un lugar alto en la lista de los mayores gastos relacionados con la seguridad de los encuestados. Uno de cada 10 encuestados dijo que era su mayor gasto, el 13% lo clasificó en segundo lugar y el 7% lo clasificó en tercer lugar. En general, AI Security ocupó el segundo lugar en la lista de los principales gastos de seguridad de Thales de las organizaciones.
El hecho de que solo el 10% de los encuestados clasificó primero la seguridad de la inteligencia artificial, a pesar de que muchas compañías citan la seguridad como una preocupación de la IA principal, sugiere «una desalineación en cómo las organizaciones compran y mantienen los sistemas de IA», dijo Nick Reese, cofundador y director de operaciones de la Fundación Fronteriza de la compañía de IA.
«Para comenzar a obtener un valor real de las inversiones de IA «, dijo Reese a Cybersecurity Dive,» el mercado necesitará cuadrar la falta de confianza y confianza en la IA con la necesidad de la prueba de estrés (modelos de IA) de una manera que disipa esos miedos «.
Thales también encontró que «el 73% de los encuestados dijo que están invirtiendo en herramientas de seguridad específicas de IA con presupuestos nuevos o existentes». Más de dos tercios de los encuestados informaron haber comprado herramientas de seguridad de IA de sus proveedores en la nube, tres de cada cinco informaron haberlas comprado a sus proveedores de seguridad y aproximadamente la mitad informó que las compró a los nuevos proveedores.
A medida que la IA Agentic toma el centro de atención en la comunidad empresarial, KPMG descubrió que los líderes corporativos «están mostrando niveles de comodidad en evolución» con la tecnología.
En el cuarto trimestre de 2025, el 63% de los encuestados le dijo a KPMG que estaban priorizando la implementación de agentes de IA de «proveedores de tecnología de confianza»; En el informe del segundo trimestre de la empresa 2025, ese número cayó al 55%. Del mismo modo, el 45% de los encuestados en el segundo trimestre dijeron que «no permitían el acceso a los agentes de IA a datos confidenciales sin supervisión humana», por debajo del 52% en el cuarto trimestre de 2024.
Por otro lado, la proporción de encuestados que dijeron que aún no estaban cómodos transmitiendo completamente las tareas a los agentes de IA aumentó del 28% al 45%.
