La inteligencia artificial está redefiniendo el mapa de riesgos de las organizaciones y transformando, al mismo tiempo, la forma en que actúa el cibercrimen. Esta fue una de las principales conclusiones de la jornada «Ciberseguridad en la era de la Inteligencia Artificial», organizada por Secure&IT en Madrid, donde expertos del sector analizaron cómo aprovechar la IA de forma segura y responsable, y cómo reforzar la confianza, la continuidad de negocio y la resiliencia empresarial en un escenario cada vez más complejo.

El encuentro reunió a especialistas en ciberseguridad, representantes institucionales, responsables de seguridad de grandes organizaciones y expertos en tecnología, con el objetivo de abordar los principales desafíos de la IA desde una perspectiva técnica, normativa, industrial y estratégica. Se insistió en la necesidad de adoptar una visión de 360 grados que integre tecnología, procesos, cumplimiento y personas, en un contexto en el que la innovación avanza con rapidez, pero también los riesgos asociados a su adopción.

La apertura corrió a cargo de David Aguilar Triviño, jefe del Grupo de Análisis y Cooperación Internacional del Departamento contra el Cibercrimen de la UCO, quien puso el foco en la evolución del cibercrimen hacia estructuras cada vez más profesionalizadas. Según explicó, los ciberdelincuentes operan hoy con una lógica muy similar a la empresarial, con desarrolladores de código, pentesters, perfiles comerciales y hasta servicios de atención al cliente. Alertó además sobre la aparición del llamado ransomware «blanco», que permite a personas con poca formación técnica adaptar herramientas maliciosas y crear nuevas familias de ransomware, y subrayó la importancia de denunciar cualquier incidente ante las autoridades cuanto antes.

La IA como acelerador de la amenaza

Uno de los ejes centrales de la jornada fue el papel de la inteligencia artificial en la evolución del cibercrimen. Francisco Valencia, director general de Secure&IT, explicó en su ponencia cómo los atacantes están incorporando estas capacidades para automatizar procesos, mejorar la eficacia de sus campañas y elevar el nivel de sofisticación de sus ataques. Valencia advirtió de que la distancia entre defensores y atacantes se ha ampliado notablemente en los últimos tiempos, ya que la IA no solo aporta nuevas herramientas al ámbito defensivo, sino que también está alterando el equilibrio de la amenaza al dotar a los ciberdelincuentes de mayor velocidad, personalización y capacidad de adaptación.

Uno de los ámbitos donde este impacto resulta más visible es la ingeniería social: las campañas maliciosas son hoy mucho más creíbles y difíciles de detectar gracias a mensajes hiperpersonalizados, deepfakes de voz y vídeo, y contenidos generados automáticamente para manipular la percepción y alimentar la desinformación. Valencia señaló también que las propias inteligencias artificiales se han convertido en objetivo de ataque, mediante técnicas como la manipulación de instrucciones, el envenenamiento de datos o la inserción de sesgos, con el fin de comprometer su funcionamiento. A ello se suman los riesgos derivados de una adopción descontrolada dentro de las organizaciones, como el uso no autorizado de herramientas de IA, la pérdida de control sobre la información o la dependencia excesiva de estas tecnologías sin una gobernanza adecuada.

Normativa europea y nacional: gobernar la seguridad y la IA

La regulación fue otro de los grandes temas del encuentro. Normas como NIS2, DORA, el Reglamento de Inteligencia Artificial o el Cyber Resilience Act están elevando las exigencias de protección y gestión del riesgo para las empresas, en un momento que coincide con la reciente aprobación por parte del Consejo de Ministros del proyecto de ley orgánica que adapta el Reglamento europeo de IA al marco español. Juan Manuel Valiente Rodríguez, director de Servicios de Secure&IT, explicó que las organizaciones deberán reforzar su gobernanza, evaluar riesgos, proteger la cadena de suministro y garantizar la continuidad de negocio, ya que la normativa exige hoy demostrar una gestión responsable y continua de la ciberseguridad, incluyendo la definición de casos de uso, responsabilidades, supervisión humana y mecanismos de control para la IA.

Ciberseguridad industrial: proteger la continuidad de la producción

La jornada también abordó la realidad de los entornos industriales, donde un incidente puede tener consecuencias especialmente graves para la continuidad operativa. Hugo Llanos Burguera, director del Área de Ciberseguridad Industrial de Secure&IT, destacó la dificultad de identificar el origen de estos incidentes y el riesgo de una respuesta descoordinada, defendiendo un enfoque pragmático adaptado a lo que realmente se puede implementar en cada instalación, apoyado en marcos específicos como SEC-ICSCF:2021.

Cómo proteger el negocio en la era de la IA

El debate se trasladó también al terreno empresarial mediante una mesa redonda con responsables de tecnología y seguridad de AMAVIR, Grupo Osborne y Sigma Foods, quienes coincidieron en que la adopción de la IA ya es una realidad en las organizaciones, pero requiere una aproximación ordenada basada en el análisis de riesgos, la protección de datos y la capacitación de los usuarios. Se puso de manifiesto que el rol del CISO está evolucionando: de bloquear herramientas por precaución a acompañar al negocio para facilitar un uso seguro y alineado con los objetivos corporativos.

Una respuesta integral ante un escenario más complejo

El encuentro incluyó también espacios dedicados a la reducción de la superficie de ataque, la inteligencia de amenazas, la protección de entornos industriales, la gestión del riesgo en la cadena de suministro y la identidad digital, dejando claro que la respuesta frente a las nuevas amenazas no puede apoyarse únicamente en la tecnología, sino que exige trabajar de forma coordinada sobre procesos, personas, cumplimiento y capacidad de respuesta.

El evento estuvo conducido por la periodista Esperanza Hernández y contó con la participación de Roberto Pérez (Bitdefender, patrocinador principal) y Luis Pasamontes, además de la colaboración de Arexdata, Netskope, Redtrust y SocRadar. Como resumió Valencia, no existe una solución única frente a los riesgos de la IA: la respuesta exige cambios técnicos, organizativos, jurídicos y culturales, y una visión integral de la seguridad de la información.

Artículo también publicado en la revista Secure IT