IA en ciberseguridad e identidad digital: 9 recomendaciones

Cada día parecen irse sumando los beneficios que puede aportar la inteligencia artificial (IA), y entre ellos destaca el ser un habilitador crucial para fortalecer la ciberseguridad y la gestión de la identidad digital, al permitir la detección rápida de amenazas y la autenticación avanzada de usuarios. Sin embargo, como bien sabemos, el uso de la IA también plantea riesgos, ya que los ciberdelincuentes la emplean para lanzar ataques más sofisticados. 

En el entendido de que un mejor conocimiento de esta problemática conlleva a una respuesta más acertada por parte de los CISO, me parece oportuno y útil retomar lo publicado en el estudio Innovando el ciberespacio: La poderosa revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital, realizado por IQSEC, empresa desarrolladora de soluciones integrales en ciberseguridad y ciberinteligencia. En este estudio, además de mencionar los modelos de IA, los usos prácticos de ésta, así como sus riesgos, amenazas y desafíos, la compañía comparte nueve recomendaciones prácticas de uso y aplicación de IA en la ciberseguridad y la identidad digital que considero vale la pena reproducir:

Transparencia. En efecto, resulta fundamental comprender y poder explicar cómo funciona un sistema de inteligencia artificial. Y es que la transparencia en los algoritmos y el proceso de toma de decisiones ayuda a generar confianza y a comprender cómo se llega a ciertas conclusiones.

Ética y responsabilidad. La ética debe ser un componente central en el diseño, desarrollo y aplicación de la inteligencia artificial. Es crucial considerar las implicaciones éticas y sociales de las decisiones que toman los sistemas de inteligencia artificial y asumir la responsabilidad de sus acciones.

Diversidad y representación equitativa. De acuerdo con el estudio, es “vital proporcionar la diversidad en los conjuntos de datos para evitar sesgos y representar equitativamente a las comunidades diversas”. Señala que los sesgos y los conjuntos de datos pueden resultar en sistemas de inteligencia artificial que perpetúan desigualdades.

Privacidad y protección de datos. Es necesario respetar y proteger la privacidad de los datos, y hacer que los datos utilizados en los sistemas de inteligencia artificial estén debidamente protegidos y que cumplan las regulaciones de privacidad vigentes. “Como usuarios de una plataforma que integra la IA, debemos ser cautos del manejo de nuestros datos personales, médicos, bancarios, entre otros”.

Seguridad y robustez. Brindar la seguridad de los sistemas de la inteligencia artificial es esencial para evitar vulnerabilidades que puedan ser explotadas. Por ello, la integridad y la robustez del sistema son críticas para prevenir posibles riesgos.

Supervisión humana. La supervisión humana es primordial en la implementación de sistemas de inteligencia artificial. El documento estipula que, si bien la IA puede automatizar tareas, “la supervisión humana es necesaria para validar y corregir decisiones”.

Concientización y capacitación. Al hacer referencia a la cultura que debe implementarse al interior de las organizaciones, el estudio recomienda educar a los usuarios y al personal sobre las amenazas cibernéticas y las mejores prácticas de ciberseguridad para reducir el riesgo de caer en engaños.

Evaluación de proveedores. En efecto, al elegir soluciones de inteligencia artificial para ciberseguridad, es necesario realizar una evaluación exhaustiva de la seguridad y la reputación de los proveedores.

Colaboración y compartición de información. Finalmente, el estudio subraya que al participar en iniciativas de colaboración y compartir información con la comunidad de ciberseguridad sobre amenazas, “nos permite mantenernos al tanto de las últimas tácticas y vulnerabilidades”.

De esta manera, y como apuntábamos al principio, es evidente que la IA está transformando la ciberseguridad y la identidad digital a nivel global. Si bien algunas firmas de investigación de mercado como Forrester estiman que el gasto en software de IA alcanzará los 64,000 millones de dólares en este 2025, la adopción de IA no es uniforme; países desarrollados tienen marcos establecidos, mientras que México y el resto de América Latina enfrentan rezagos. La falta de inversión en talento y las discusiones sobre regulación de IA agrava el escenario de ciberseguridad.

Usted, estimado lector: ¿cuáles de estas recomendaciones ha puesto en práctica? ¿Hay alguna otra que quiera compartir con la comunidad? Como siempre, agradezco su atención y comentarios.

______________

Por José Luis Becerra, Director Editorial de CISOCLUB, jlbecerra@cisoclub.mx