AutoAlign se desvía de Armilla para presentar su innovadora plataforma de seguridad basada en inteligencia artificial: 'Sidecar'.

AutoAlign se desprende de Armilla y lanza una innovadora solución de seguridad AI

AutoAlign, un destacado proveedor de soluciones de seguridad AI, anunció su separación de la empresa matriz Armilla el martes. Este movimiento permitirá a AutoAlign centrarse en proteger y mejorar los sistemas de AI para clientes empresariales. La compañía presentó su producto insignia, "Sidecar", que ofrece un enfoque novedoso a la seguridad AI al complementar modelos existentes para identificar y abordar problemas potenciales, incluyendo alucinaciones de datos, intentos de jailbreak y sesgos.

La escisión coincide con el cambio de Armilla hacia soluciones de transferencia de riesgo para el sector asegurador. Dan Adamson, CEO interino y cofundador de AutoAlign, explicó la razón: “Hay un conflicto inherente en proteger los sistemas de AI y proporcionar seguros para ellos. Cada iniciativa está prosperando, pero es crucial operar como entidades separadas.”

Mejorando la seguridad de la AI en las empresas

Con la creciente adopción de tecnologías AI por parte de las empresas, la demanda de soluciones de seguridad robustas ha aumentado. Adamson señaló: “Observamos una extensa prototipación, pero muchos proyectos no llegan a producción debido a preocupaciones de seguridad. Más del 75% de los CIOs y CTOs citan riesgos relacionados con los lanzamientos de sistemas de AI como su principal vacilación.”

La plataforma Sidecar de AutoAlign aborda estos desafíos al permitir un enfoque contextual y adaptativo a la seguridad de AI. “Puedes aprovechar el poder de modelos avanzados mientras aseguras que sean seguros y efectivos,” afirmó Adamson.

Colaborando con KPMG para una AI responsable

AutoAlign también se ha asociado con KPMG Canadá para alinear el marco de políticas de AI confiable de la firma consultora con los controles operativos de AutoAlign. Adamson destacó: “KPMG ha sido un líder en AI responsable, y nuestra asociación nos permite alinear su marco político con controles prácticos dentro de AutoAlign.”

Esta colaboración busca ayudar a los clientes de KPMG Canadá a implementar prácticas de AI responsables, asegurando un despliegue eficiente de los sistemas de AI. “Los clientes pueden mapear estos controles una vez y mantenerlos como un Sidecar. Esto se adaptará a medida que los modelos evolucionen o surjan nuevos casos de uso,” explicó Adamson.

Innovando la capacidad de respuesta de la AI en campos críticos

Durante nuestra conversación, Adamson mostró cómo la plataforma Sidecar fomenta que los modelos ofrezcan respuestas precisas y referenciadas sobre temas sensibles, a diferencia de otras soluciones de seguridad que a menudo optan por la negativa. “Por ejemplo, los modelos podrían dudar en interactuar con documentación técnica sobre dispositivos médicos,” compartió.

Esta funcionalidad es vital para sectores como la salud, las finanzas y la política, donde la precisión y la comprensión contextual son críticas. Al permitir que los modelos brinden respuestas matizadas e informadas, la plataforma Sidecar de AutoAlign empodera a las empresas para enfrentar los complejos dilemas éticos y de seguridad asociados con la adopción de AI.

Impactando el panorama de seguridad AI empresarial

Con el respaldo de Armilla y su asociación con KPMG, AutoAlign está lista para tener un impacto sustancial en el mercado de seguridad AI empresarial. El enfoque de la compañía en mejorar los modelos de AI en lugar de restringirlos puede servir como un diferenciador clave en este campo en rápida evolución.

A medida que las capacidades fundamentales de AI se desarrollan a un ritmo sin precedentes, soluciones como Sidecar se volverán esenciales para las empresas que buscan capitalizar el potencial de la AI mientras aseguran una implementación responsable y segura. El lanzamiento de AutoAlign representa un avance significativo en las tecnologías de seguridad AI, allanando el camino para una adopción e innovación más amplias en diversas industrias.