Claudionor Coelho es el director de IA de Zscaler, responsable de liderar a su equipo para encontrar nuevas formas de proteger datos, dispositivos y usuarios a través de técnicas de última generación de aprendizaje automático (ML), aprendizaje profundo e IA generativa. Antes de unirse a Zscaler, se desempeñó como director de IA y vicepresidente senior de ingeniería en Advantest. Anteriormente, Coelho fue vicepresidente y director de laboratorios de IA en Palo Alto Networks. También ocupó puestos de aprendizaje profundo y aprendizaje automático en Google.
Zscaler se centra en acelerar la transformación digital permitiendo a las organizaciones lograr mayor agilidad, eficiencia, resiliencia y seguridad. La plataforma Zero Trust Exchange nativa de la nube de la compañía está diseñada para proteger a los usuarios de ataques cibernéticos y pérdida de datos al conectar de forma segura usuarios, dispositivos y aplicaciones, independientemente de su ubicación. Zscaler presta servicios a miles de clientes en todo el mundo y hace hincapié en una seguridad sólida y una conectividad perfecta.
Como primer director de IA de Zscaler, ¿cómo ha dado forma a la estrategia de IA de la empresa, en particular en la integración de la IA con la ciberseguridad?
Zscaler ha logrado avances significativos en IA para ciberseguridad, que lo diferencian de sus competidores. La plataforma Zero Trust de Zscaler aprovecha la inteligencia artificial para detectar y detener el robo de credenciales y la explotación del navegador desde páginas de phishing. La inteligencia sobre amenazas de más de 400 mil millones de transacciones diarias ofrece análisis en tiempo real que mejoran la defensa contra ciberataques sofisticados. Además, colaboramos con NVIDIA para ofrecer seguridad generativa impulsada por IA e innovaciones de TI como Zscaler ZDX Copilot, que simplifica las operaciones de TI y de red, mientras procesa datos de la plataforma Zero Trust Exchange™ para defender proactivamente a las empresas contra las amenazas. Finalmente, con la adquisición de Avalor, hemos ampliado las capacidades de Zero Trust Exchange™ utilizando Data Fabric for Security. Con más de 150 integraciones prediseñadas, identifica y predice vulnerabilidades críticas al tiempo que mejora la eficiencia operativa.
Ha fundado varias empresas, incluida Kunumi, y ha desempeñado puestos de liderazgo en empresas importantes. ¿Cómo ha influido su experiencia empresarial en su enfoque como líder corporativo de IA en Zscaler?
Cuando era vicepresidente senior de ingeniería en Jasper Design Automation, una startup de automatización de diseño electrónico, competimos contra empresas multimillonarias, pero logramos más del 70-80 % de participación de mercado gracias a la innovación, los procesos comerciales y la agilidad. Uno de los libros a los que siempre hacía referencia durante nuestras reuniones de estrategia era “Competir al límite: la estrategia como caos estructurado” de la Prof. Kathleen M. Eisenhardt. Aunque este libro es de 1998, todavía se aplica a lo que estamos viendo hoy con la IA generativa.
Nunca antes una tecnología que está cambiando el mundo se había movido tan rápido. El ingeniero de Motorola, Martin Cooper, hizo la primera llamada por teléfono celular en 1973, pero al mundo le tomó 10 años hasta que se abrió la primera red comercial y 24 años más hasta que se lanzó el iPhone, cambiando la forma en que interactuamos con las computadoras.
ChatGPT se lanzó en noviembre de 2022. Al año siguiente, discutimos en un seminario patrocinado por el WEF que la Inteligencia General Artificial (AGI) llegaría pronto. En ese momento, solo unos pocos de nosotros reconocimos que podíamos usar Agentes para crear muchos sistemas inteligentes llenando los vacíos de los LLM con herramientas, incluso antes que AGI. En 2024, la discusión pasó a los agentes de IA y, a finales de año, comenzamos a ver varios agentes de IA inteligentes (como ZDX Copilot o la plataforma de blogs Kiroku).
Esta velocidad sólo se puede ver en un entorno de startups, por lo que está causando un estrés tremendo en las grandes organizaciones, que luchan por volverse lo suficientemente ágiles para dar cabida a una tecnología con una velocidad sin precedentes.
Dada su experiencia liderando empresas tanto en Brasil como en Estados Unidos, ¿cuáles son algunas de las diferencias clave entre los dos mercados en términos de adopción de IA y ciberseguridad?
Hablar de startups es una buena manera de empezar a ilustrar las similitudes y diferencias entre los mercados, ya que es allí donde a menudo se ven innovaciones radicales antes de que lleguen a las grandes corporaciones. Una estrategia común en Brasil para las startups ha sido copiar las startups estadounidenses exitosas en sus primeras etapas, ya que las startups estadounidenses generalmente miran primero el mercado interno (aunque esto ha ido cambiando). Sin embargo, Estados Unidos ha tenido tradicionalmente un sistema de capital más estable que facilita la creación de una empresa.
Creé Kunumi en 2014 como la primera empresa de Deep Learning en Brasil. Fue vendido al Banco Bradesco a principios de este año. En general, las corporaciones en Brasil no saben cómo adoptarán la IA generativa y se verán muchos errores, lo que también sucede en Estados Unidos. He construido cuatro copilotos en mi vida: el primero en 2016, mientras estaba en Synopsys. Se trataba de un agente que podía escanear registros de compilación y ejecución de grandes máquinas de emulación, buscando información relacionada con las dudas del usuario, con soporte multilingüe. En aquella época no había transformadores, ni LLM, e incluso la traducción era muy diferente a la que tenemos hoy.
En 2020, era investigador en Google y trabajaba en la compresión y cuantificación de modelos de aprendizaje profundo, y el CERN utilizó lo que creé en la búsqueda de partículas subatómicas. Cuando pensé que estábamos en una guerra por los datos, quedó claro que la ciberseguridad es un problema global que no está localizado en un país u otro. Fue entonces cuando decidí mudarme a ello.
Hace unos meses, estaba hablando con un funcionario de un gobierno extranjero que decía que la ciberseguridad era un problema de los EE. UU. y que su agencia no tenía nada de qué preocuparse, solo para sufrir un ciberataque en su organización unas semanas después.
Finalmente, al comparar el estado de la ciberseguridad con las acusaciones de ransomware entre Brasil y Estados Unidos, la realidad es que las acusaciones estimadas de ransomware son aproximadamente las mismas.
¿En qué se diferencia el entorno regulatorio para la IA y la ciberseguridad entre Brasil y Estados Unidos, y cómo afecta eso a la innovación en estas regiones?
Debido a que la IA generativa avanza tan rápido, los gobiernos reconocen la necesidad de proteger algo, pero a menudo no tienen claro qué es lo que están tratando de proteger. ¿Cuál es el impacto si creamos leyes para LLM en 2023 y en 2024 utilizamos agentes de IA? Necesitamos regulaciones, pero también debemos hacer un análisis imparcial del entorno regulatorio para ver cómo podemos proteger mejor a los ciudadanos locales.
Dicho esto, cuando la IA toma decisiones únicamente sobre la base de entradas numéricas exactas que representan razones o características, el análisis suele ser incompleto y arroja un resultado erróneo en la vida real. Por ejemplo, si un algoritmo de IA toma una decisión de préstamo a una persona basándose en un criterio ambiguo como la “probabilidad” y se incluyera un factor como el salario o la raza, se podría ver fácilmente un escenario en el que a una persona se le negaría un préstamo basándose en el efecto neto de uno de esos dos factores. Con la IA generativa, el problema empeora aún más, debido a la incapacidad de los LLM de aportar datos externos para hacer suposiciones de razonamiento. Es importante asegurarnos de que contamos con regulaciones que no permitan que sistemas defectuosos tomen decisiones (especialmente sin una supervisión profunda), ya que es probable que cometan errores.
Por otro lado, estoy extremadamente satisfecho con la capacidad total de conducción autónoma de los automóviles Tesla, que, en comparación con los humanos, han demostrado superar la cantidad de millas recorridas antes de verse involucrados en accidentes. Sí, cometen errores, pero incluso en aviones con copiloto, los pilotos necesitan tomar los controles en caso de emergencia.
En cuanto a la ciberseguridad, varias organizaciones estadounidenses (por ejemplo, JCDC.AI, NIST, CISA, etc.) han discutido la necesidad de abordar la IA y la ciberseguridad. Por supuesto, en mercados o tecnologías que avanzan rápidamente, es necesario adaptarse continuamente a los cambios, y cuando estos se mueven extremadamente rápido, es necesario operar al borde del caos.
Zero Trust Exchange de Zscaler es una parte clave de su modelo de seguridad. ¿Cómo mejora la IA esta plataforma y cuáles son algunos de los desarrollos más interesantes en esta área?
La arquitectura de confianza cero de Zscaler ayuda a las organizaciones a crear un entorno más seguro para las implementaciones de IA, pero la plataforma también aprovecha la IA de numerosas maneras, comenzando con ZDX Copilot, que ofrece innovaciones de seguridad generativas impulsadas por IA. Desarrollado en colaboración con NVIDIA, el agente aprovecha la IA generativa para defender proactivamente a las empresas contra amenazas y simplifica las operaciones de red y TI. Zscaler también ha mejorado su identificación predictiva de vulnerabilidades al agregar Data Fabric for Security de Avalor a Zscaler Zero Trust Exchange. Finalmente, la IA se encuentra en el centro de la plataforma de confianza cero de Zscaler, detectando y deteniendo el robo de credenciales y la explotación del navegador desde páginas de phishing. Los análisis en tiempo real basados en inteligencia sobre amenazas de más de 400 mil millones de transacciones diarias mejoran su defensa contra ataques cibernéticos sofisticados.
La IA se ha vuelto cada vez más central en la lucha contra las ciberamenazas. ¿Cómo ve la evolución de la IA para abordar la creciente complejidad de los riesgos de ciberseguridad, especialmente en el ámbito de los dispositivos IoT y OT?
El panorama de amenazas ha evolucionado inequívocamente con la llegada de los ciberataques basados en IA, por lo que las organizaciones podrían luchar contra la IA con IA. La principal evolución será mejorar las soluciones de IA con fuentes de datos adicionales.
A medida que aumenta el número de ciberataques, necesitamos utilizar más automatización con IA para detectar y abordar los riesgos cibernéticos. Vale la pena señalar que la IA y la IA generativa se están utilizando en este momento para crear nuevos frentes de ataque y, debido a eso, necesitamos mejorar el juego correlacionando más señales que antes.
En el caso de los dispositivos IoT y OT, plantean riesgos importantes para las organizaciones, ya que varios dispositivos IoT no utilizan las pilas de software más actualizadas, a pesar de que se pueden comprar fácilmente conmutadores Wi-Fi, televisores conectados a Internet y lavavajillas. , hornos, etc. Durante años hemos visto numerosos artículos que muestran las vulnerabilidades a las que estamos sometidos en IoT/OT.
Necesitamos una concienciación constante y potenciar la defensa de la ciberseguridad mediante el análisis de todo tipo de datos y señales para detectar anomalías y posibles amenazas. Para ganar este juego, necesitamos modelos de IA de última generación entrenados con cantidades masivas de datos en tiempo real. La IA generativa desempeña un papel fundamental al permitir a las empresas analizar y resumir los resultados para los usuarios y operadores de seguridad.
Como miembro de los grupos de trabajo de IA y ciberseguridad del Foro Económico Mundial, ¿cómo influyen los debates globales sobre la ética de la IA y la ciberseguridad en su enfoque de su función en Zscaler?
Debido a que la tecnología avanza tan rápido, los gobiernos y las organizaciones necesitan tener información básica, y veo que esto es el papel del Foro Económico Mundial. La IA y la ciberseguridad por sí solas tienen suficiente necesidad como para requerir grupos separados, pero cuando se fusionan las dos, es casi un área nueva en sí misma. Por ejemplo, Gartner demostró este año que la IA generativa aumenta enormemente la superficie de ataque, llevándola desde la inyección rápida en la entrada y salida hasta ataques de código de aplicación, ataques de modelo e incluso ataques de complementos.
Algunos de estos ataques son específicos de LLM como ChatGPT, pero si considera que estamos pasando de LLM a agentes de IA y sistemas multiagente, debe considerar mucha más información. Por ejemplo, en los LLM es posible que le interese la inyección rápida, el comportamiento de las células durmientes (lo que hace que el LLM responda de manera diferente según palabras clave especiales) o la filtración de información patentada. Cuando hablamos de agentes de IA, también debemos considerar los ataques a herramientas y fuentes de datos, incluso suponiendo que la inyección de SQL y la inyección de comandos del sistema operativo puedan volver a ser posibles.
Además, si agregamos sistemas multiagente, donde los agentes pueden residir en diferentes ubicaciones, tenemos que imaginar que esto implica una red completamente diferente que se comunica con protocolos. La gente ha estado experimentando con miles de agentes, como una red informática.
Por último, debemos preparar a nuestra fuerza laboral para utilizar la IA generativa, brindándoles herramientas y un entorno donde puedan operar en este nuevo mundo.
Usted ha sido un firme defensor de la diversidad y la inclusión, especialmente como patrocinador ejecutivo del ERG latino e hispano de Zscaler, Sabor. ¿Cómo ha influido su origen cultural en su estilo de liderazgo y enfoque en el desarrollo de la IA?
Como latino orgulloso nacido y criado en Brasil, me apasiona apoyar y empoderar a las comunidades latina e hispana en Zscaler. Siento una gran sensación de logro al poder contribuir a un mundo mejor a través de la ciberseguridad, donde ayudamos a proteger a la sociedad en un mundo cada vez más complejo. Mis valores me ayudaron a llegar a donde estoy hoy y estoy muy orgulloso de dónde vengo.
Mi consejo sería que nunca olvides de dónde vienes y qué has hecho. Siéntete siempre orgulloso de lo que te hace único, pero también reconoce que la diversidad es la reina. Vivo conmigo mismo las 24 horas del día. Si sólo contrato a personas que son similares a mí y están de acuerdo conmigo, no aumentaré mis conocimientos. Contratar personas de numerosas ubicaciones y orígenes nos ayuda a comprender mejor las necesidades específicas de nuestra base global de clientes.
Por último, ¿qué es lo que más le entusiasma del futuro de la IA en la ciberseguridad y qué papel cree que desempeñará Zscaler en ese futuro?
La IA no cambia los fundamentos de una ciberdefensa eficaz: resalta su importancia. Anticipamos que la transparencia, las prácticas de seguridad sólidas y el monitoreo continuo proliferan en toda la industria. Las organizaciones deben adoptar un enfoque integral de seguridad, implementando medidas avanzadas para detectar y responder a las amenazas. Esto incluye fomentar una cultura de concienciación sobre la seguridad, realizar auditorías de seguridad periódicas y colaborar con las partes interesadas para desarrollar estrategias de seguridad eficaces. Al hacerlo, las organizaciones pueden reducir el riesgo de infracciones y proteger su información confidencial.
Zscaler se compromete a salvaguardar la privacidad del usuario, empleando las técnicas más avanzadas para anonimizar los datos y garantizando que los mantengamos fuera de nuestros LLM, evitando la identificación de usuarios u organizaciones individuales. Si bien podemos explorar la posibilidad de perfeccionar los LLM en el futuro, nuestras estrictas medidas de privacidad de datos para garantizar que ningún dato del usuario se vea comprometido seguirán siendo primordiales. Nuestro objetivo es aprovechar el poder de la IA para mejorar la seguridad sin infringir la privacidad del cliente.
Gracias por la excelente entrevista, los lectores que deseen obtener más información deben visitar Zscaler.
