Perspectivas de Ciberseguridad: Adaptándose al Panorama de Amenazas de la IA Generativa
Los ciberatacantes están evolucionando rápidamente sus técnicas, lo que hace esencial que los proveedores de ciberseguridad fortalezcan sus defensas. A medida que las empresas adoptan cada vez más la IA, la demanda de soluciones de seguridad innovadoras basadas en IA generativa se intensifica. Esta premisa ha influido significativamente en la evaluación de Menlo Ventures sobre ocho áreas clave en las que la IA generativa está teniendo un impacto considerable.
Amenazas Emergentes: ¿Está Preparado?
Recientemente, Rama Sekhar y Feyza Haskaraman de Menlo Ventures debatieron sobre la urgencia de cerrar las brechas de seguridad en la IA. Sekhar, un nuevo socio enfocado en ciberseguridad e IA, y Haskaraman, un Principal en ciberseguridad y SaaS, subrayaron que, para que la IA beneficie plenamente a las empresas, es esencial una nueva pila tecnológica que priorice la seguridad en cada etapa, desde las cadenas de suministro de software hasta el desarrollo de modelos.
Áreas Predichas de Impacto para la IA Generativa
Sekhar y Haskaraman identificaron ocho factores que influirán significativamente en el panorama de seguridad:
1. Gestión de Riesgos de Proveedores y Automatización de Cumplimiento: La seguridad de aplicaciones de terceros es vital a medida que las organizaciones se integran con proveedores externos. Los procesos actuales son a menudo manuales y propensos a errores, lo que los convierte en candidatos ideales para la automatización mediante IA generativa. Por ejemplo, el asistente de IA de Dialect simplifica la completación de cuestionarios de seguridad para respuestas precisas y eficientes.
2. Entrenamiento de Seguridad Mejorado: La capacitación tradicional en seguridad a menudo es insuficiente, lo que genera brechas a pesar de las inversiones sustanciales. La IA generativa ofrece la posibilidad de crear escenarios de capacitación más atractivos y realistas para los empleados. Herramientas como Immersive Labs simulan ataques, mientras que co-pilotos de seguridad guían a los empleados a través de entrenamientos interactivos en plataformas como Slack.
3. Pruebas de Penetración (Pen Testing): A medida que los atacantes utilizan IA generativa, las pruebas de penetración deben adaptarse. Simular rápidamente múltiples ataques con automatización de IA puede fortalecer las estrategias de defensa, abarcando tareas como búsquedas en bases de datos de amenazas y evaluaciones de vulnerabilidad, simplificando los informes.
4. Detección y Prevención Anómala: La IA generativa mejora la capacidad para monitorear registros de eventos y detectar actividades inusuales que podrían indicar intentos de intrusión. Esta tecnología puede escalar de manera efectiva, proporcionando capas adicionales de seguridad en diversos puntos finales, redes, APIs y repositorios de datos.
5. Detección y Verificación de Contenido Sintético: Los cibercriminales utilizan IA generativa para crear identidades digitales fraudulentas, lo que impacta significativamente a las empresas. La FTC estima que el costo de un solo evento fraudulento supera los $15,000. Empresas como Deduce y DeepTrust están abordando este problema a través de métodos avanzados de verificación de identidad que utilizan IA para distinguir entre identidades legítimas y sintéticas.
6. Revisión de Código: El enfoque “shift left” en desarrollo de software prioriza las pruebas tempranas para mejorar la calidad y seguridad. Sin embargo, muchas herramientas de seguridad automatizadas son ineficaces. Startups como Semgrep están innovando en este ámbito, ofreciendo reglas personalizables que simplifican la detección de vulnerabilidades y correcciones.
7. Gestión de Dependencias: Una gran mayoría de los códigos utiliza componentes de código abierto, a menudo de numerosos proveedores externos. Se anticipan mejoras en esta área a través de IA generativa, especialmente en lo que respecta a la trazabilidad de dependencias y gestión de parches. Proveedores como Socket lideran esfuerzos para detectar y mitigar riesgos en la cadena de suministro de código abierto.
8. Automatización de Defensa y Capacidades SOAR: La IA generativa puede optimizar las operaciones en los Centros de Operaciones de Seguridad (SOCs) al mejorar la precisión de las alertas y reducir los falsos positivos, lo que limita la productividad de los analistas. Al automatizar tareas rutinarias, los profesionales de los SOC pueden enfocarse en proyectos más críticos y complejos.
Preparándose para el Futuro de la Seguridad IA
Para que la IA generativa logre una integración a nivel empresarial, las organizaciones deben abordar primero los desafíos de seguridad existentes asociados con la adopción de IA. Las ocho áreas identificadas destacan la necesidad de que las empresas mejoren su preparación para una estrategia amplia de IA. Al aprovechar la IA generativa, las organizaciones pueden eliminar tareas tediosas, permitiendo a los equipos de seguridad concentrarse en amenazas cibernéticas más complejas y fortalecer las defensas ante el aumento de ataques impulsados por IA.
Clasificación
