GenaI: Un nuevo dolor de cabeza para los Equipos de Seguridad SaaS

La introducción del ChatGPT de Open AI fue un momento decisivo para la industria del software, iniciando una carrera de GenAI con su lanzamiento en noviembre de 2022. Los proveedores de SaaS ahora se apresuran a actualizar las herramientas con capacidades de productividad mejoradas impulsadas por la IA generativa.

Entre una amplia gama de usos, las herramientas de GenaI facilitan a los desarrolladores la creación de software, ayudan a los equipos de ventas en la redacción de correos electrónicos mundanos, ayudan a los especialistas en marketing a producir contenido único a bajo costo, y permitir que los equipos y creativos hagan una lluvia de ideas nuevas.

Los recientes lanzamientos significativos de productos GenAI incluyen Microsoft 365 Copilot, GitHub Copilot y Salesforce Einstein GPT. En particular, estas herramientas GenAI de los principales proveedores de SaaS son mejoras pagadas, una clara señal de que ningún proveedor de SaaS querrá perderse el cobro de la transformación de GenaI. Google pronto lanzará su plataforma SGE “Search Generative Experience” para resúmenes premium generados por IA en lugar de una lista de sitios web.

A este ritmo, es solo cuestión de poco tiempo antes de que alguna forma de capacidad de IA se convierta en estándar Aplicaciones saaS.

Sin embargo, este progreso de IA en el panorama habilitado para la nube no viene sin nuevos riesgos y desventajas para los usuarios. De hecho, la amplia adopción de aplicaciones GenaI en el lugar de trabajo está generando rápidamente preocupaciones sobre la exposición a una nueva generación de amenazas de ciberseguridad.

Reaccionar a los riesgos de GenaI

GenaI trabaja en modelos de formación que generan nuevos datos reflejando el original en base a información que es compartida con las herramientas por los usuarios.

Como ChatGPT ahora advierte a los usuarios cuando inicien sesión, “No comparta información confidencial” y “compruebe sus datos.” Cuando se le pregunta sobre los riesgos de GenaI, ChatGPT responde: “Los datos enviados a modelos de IA como ChatGPT pueden usarse para fines de capacitación y mejora de modelos, potencialmente exponerlo a investigadores o desarrolladores que trabajan en estos modelos.”

Esta exposición expande la superficie de ataque de las organizaciones que comparten información interna en sistemas GenaI basados en la nube. Los nuevos riesgos incluyen el peligro de fuga de IP, datos confidenciales y confidenciales de los clientes, y PII, así como las amenazas del uso de falsificaciones profundas por parte de ciberdelincuentes que utilizan información robada para estafas de phishing y robo de identidad.

Estas preocupaciones, así como los desafíos para cumplir con los requisitos de cumplimiento y del gobierno, están desencadenando una reacción violenta de la aplicación GenaI, especialmente por parte de industrias y sectores que procesan datos confidenciales y confidenciales. Según un reciente estudio por Cisco, más de una de cada cuatro organizaciones ya han prohibido el uso de GenaI sobre los riesgos de privacidad y seguridad de datos.

La industria bancaria fue uno de los primeros sectores en prohibir el uso de herramientas GenaI en el lugar de trabajo. Los líderes de servicios financieros tienen esperanzas sobre los beneficios de usar inteligencia artificial para ser más eficientes y ayudar a los empleados a hacer su trabajo, pero el 30% aún prohíbe el uso de herramientas de IA generativas dentro de su empresa, según un encuesta dirigido por Arizent.

El mes pasado, el Congreso de Estados Unidos impuesto prohibición del uso del Copilot de Microsoft en todas las PC emitidas por el gobierno para mejorar las medidas de ciberseguridad. “La aplicación Microsoft Copilot ha sido considerada por la Oficina de Ciberseguridad como un riesgo para los usuarios debido a la amenaza de filtrar datos de House a servicios en la nube no aprobados por House,” la Directora Administrativa de la Cámara, Catherine Szpindor, dijo, según un Axios informe. Esta prohibición sigue a la decisión anterior del gobierno de bloquear ChatGPT.

Lidiar con la falta de supervisión 

Dejando a un lado las prohibiciones reactivas de GenaI, las organizaciones sin duda tienen problemas para controlar efectivamente el uso de GenaI a medida que las aplicaciones penetran en el lugar de trabajo sin capacitación, supervisión o conocimiento de los empleadores.

Según un reciente estudio por Salesforce, más de la mitad de los adoptantes de GenaI utilizan herramientas no aprobadas en el trabajo.La investigación encontró que a pesar de los beneficios que ofrece GenaI, la falta de políticas claramente definidas en torno a su uso puede estar poniendo en riesgo a las empresas.

La buena noticia es que esto podría comenzar a cambiar ahora si los empleadores siguen una nueva guía del gobierno de los Estados Unidos para reforzar la gobernanza de la IA.

En a declaración emitida a principios de este mes, la Vicepresidenta Kamala Harris ordenó a todas las agencias federales que designen a un Director de IA con la “experiencia, experiencia y autoridad para supervisar todas las tecnologías de IA … para asegurarse de que la IA se use de manera responsable.”

Con el gobierno de los Estados Unidos tomando la iniciativa para fomentar el uso responsable de la IA y los recursos dedicados para administrar los riesgos, el siguiente paso es encontrar los métodos para administrar las aplicaciones de manera segura.

Recuperar el control de las aplicaciones GenaI

La revolución GenaI, cuyos riesgos permanecen en el ámbito de lo desconocido desconocido, llega en un momento en que el enfoque en la protección perimetral se está volviendo cada vez más obsoleto.

Los actores de amenazas hoy en día se centran cada vez más en los vínculos más débiles dentro de las organizaciones, como las identidades humanas, las identidades no humanas y las configuraciones erróneas en las aplicaciones SaaS. Los actores de amenazas del estado-nación han utilizado recientemente tácticas como los aerosoles de contraseñas de fuerza bruta y el phishing para entregar con éxito malware y ransomware, así como para llevar a cabo otros ataques maliciosos en aplicaciones SaaS.

Para complicar los esfuerzos para asegurar las aplicaciones SaaS, las líneas entre el trabajo y la vida personal ahora se difuminan cuando se trata del uso de dispositivos en el modelo de trabajo híbrido. Con las tentaciones que vienen con el poder de GenaI, será imposible evitar que los empleados usen la tecnología, ya sea sancionada o no.

La rápida incorporación de GenAI en la fuerza laboral debería, por lo tanto, ser una llamada de atención para que las organizaciones reevalúen si tienen las herramientas de seguridad para manejar la próxima generación de amenazas de seguridad SaaS.

Para recuperar el control y obtener visibilidad de las aplicaciones SaaS GenaI o aplicaciones que tienen capacidades GenaI, las organizaciones pueden recurrir a soluciones avanzadas de confianza cero, como SSPM (SaaS Security Posture Management), que pueden permitir el uso de la IA mientras monitorean estrictamente sus riesgos.

Obtener una vista de cada aplicación conectada habilitada para IA y medir su postura de seguridad para los riesgos que podrían socavar la seguridad de SaaS permitirá a las organizaciones prevenir, detectar y responder a amenazas nuevas y en evolución.