Sam Altman: El próximo modelo de OpenAI será sometido primero a pruebas de seguridad por el gobierno de EE. UU.

Home Noticias de IA Sam Altman: El próximo modelo de OpenAI será sometido primero a pruebas de seguridad por el gobierno de EE. UU.

En medio de crecientes preocupaciones sobre la seguridad de los sistemas avanzados de inteligencia artificial (IA), el CEO de OpenAI, Sam Altman, anunció que el próximo modelo generativo importante de la empresa se someterá a controles de seguridad con el gobierno de EE. UU. antes de su lanzamiento.

En una publicación en X, Altman compartió que OpenAI ha estado colaborando con el Instituto de Seguridad de IA de EE. UU., una agencia federal, en un acuerdo que otorga acceso anticipado a su nuevo modelo base. Esta colaboración tiene como objetivo avanzar en la ciencia de evaluación de IA y garantizar medidas de seguridad robustas.

Compromiso de OpenAI con la Seguridad

Altman enfatizó que OpenAI ha revisado sus políticas de no difamación, permitiendo que empleados actuales y anteriores expresen preocupaciones sobre las prácticas de la empresa sin restricciones. Además, la compañía está comprometida a destinar al menos el 20% de sus recursos computacionales a la investigación en seguridad.

Preocupaciones de los Senadores de EE. UU.

A medida que OpenAI se ha consolidado como líder en la industria de IA con productos como ChatGPT y el reciente SearchGPT, su rápida estrategia de desarrollo ha generado controversia. Críticos, incluidos exlíderes de seguridad, han acusado a la empresa de descuidar la seguridad en favor de un avance veloz.

En respuesta a estas preocupaciones, cinco senadores de EE. UU. escribieron recientemente a Altman, cuestionando el compromiso de OpenAI con la seguridad y abordando alegaciones de represalias contra ex-empleados que alzaron la voz a través del acuerdo de no difamación. Los senadores expresaron que las preocupaciones de seguridad en curso parecen contradecir el compromiso declarado de OpenAI con un desarrollo responsable de la IA.

Respuesta del Liderazgo de OpenAI

Según Bloomberg, Jason Kwon, director de estrategia de OpenAI, respondió reafirmando la misión de la empresa de desarrollar IA que sirva a los mejores intereses de la humanidad. Destacó el compromiso de OpenAI de implementar medidas de seguridad rigurosas durante sus procesos y de mantener la transparencia con los empleados.

Kwon reiteró los planes de destinar el 20% de la potencia computacional a la investigación en seguridad, eliminar cláusulas de no difamación para fomentar un diálogo abierto y colaborar con el Instituto de Seguridad de IA en lanzamientos seguros de modelos. Altman también apoyó este compromiso en X, aunque no reveló detalles específicos sobre la colaboración con el Instituto de Seguridad de IA.

Colaborando por una IA Más Segura

El Instituto de Seguridad de IA, parte del Instituto Nacional de Estándares y Tecnología (NIST), fue establecido durante la cumbre de seguridad de IA del Reino Unido para abordar los riesgos potenciales asociados con la IA avanzada, incluidas las preocupaciones de seguridad nacional y pública. Colabora con más de 100 empresas tecnológicas, incluidas Meta, Apple, Amazon, Google y OpenAI, para promover la seguridad en el desarrollo de IA.

Es importante destacar que OpenAI no se limita a asociarse solo con el gobierno de EE. UU. También ha establecido un acuerdo similar de revisión de seguridad con el gobierno del Reino Unido.

Escalando las Preocupaciones de Seguridad

Las preocupaciones de seguridad se intensificaron en mayo cuando Ilya Sutskever y Jan Leike, los co-líderes del equipo de superalineación de OpenAI enfocado en el desarrollo de sistemas de seguridad para IA superinteligente, renunciaron abruptamente. Leike criticó abiertamente a la empresa por priorizar productos llamativos sobre medidas de seguridad esenciales.

Tras sus salidas, informes indicaron la disolución del equipo de superalineación. A pesar de estos contratiempos, OpenAI continuó lanzando productos y reforzando su compromiso con la seguridad mediante investigaciones internas y la formación de un nuevo comité de seguridad y protección. Este comité, presidido por Bret Taylor (presidente de la junta de OpenAI), incluye miembros destacados como Adam D’Angelo (CEO de Quora), Nicole Seligman (exconsejera general de Sony Global) y Sam Altman.

A través de estos esfuerzos, OpenAI busca abordar las preocupaciones críticas sobre la seguridad en tecnologías avanzadas de IA, esforzándose por lograr un equilibrio entre innovación y desarrollo responsable.

Stability AI Acelera la Generación de Imágenes 3D con la Tecnología Stable Fast 3D

Desatando la Creatividad de los Desarrolladores: Los Modelos de GitHub Potencian la Experimentación con IA Generativa

Most people like

AI Virtual Staging

11.6K

Escenifica Imágenes Inmobiliarias en Segundos: Transforma Tus Anuncios sin Esfuerzo Mejora el atractivo visual de tus anuncios inmobiliarios con un rapide y profesional escenificado de imágenes. En un mercado donde las primeras impresiones son cruciales, nuestras soluciones innovadoras te permiten crear visuales impactantes en cuestión de segundos, destacando tus propiedades ante posibles compradores. Ya seas agente inmobiliario o propietario, descubre cómo un escenificado ágil puede elevar tu estrategia de marketing y atraer más atención a tus anuncios.

IA Other

Conferbot

6.5K

Crea chatbots sin código sin esfuerzo ¿Buscas desarrollar un chatbot pero no tienes habilidades de programación? Descubre el poder de las plataformas sin código que te permiten construir chatbots sofisticados con facilidad. En esta guía, te mostraremos el proceso de creación de chatbots sin escribir una sola línea de código, haciendo que el desarrollo de chatbots sea accesible para todos. ¡Desbloquea el potencial de las conversaciones automatizadas y mejora la interacción con los usuarios hoy mismo!

chatbot AI Chatbot

banger.show

80.2K

banger.show empodera a los músicos para crear impresionantes videos visualizadores de audio, realzando el atractivo de sus canciones y ayudándolas a brillar en las redes sociales. Perfecto para promocionar temas no lanzados, nuestro servicio eleva la visibilidad de tu música y cautiva a oyentes potenciales.

visualizador de audio AI Music Generator

Dreamswipe

8.5K

Las plataformas de contenido y chat basadas en inteligencia artificial están revolucionando la forma en que las empresas interactúan con sus clientes. Al aprovechar la avanzada tecnología de inteligencia artificial, estas plataformas facilitan una comunicación fluida, mejoran el engagement del usuario y optimizan la creación de contenido. A medida que las organizaciones dependen cada vez más de soluciones digitales para mejorar las experiencias del cliente y aumentar la eficiencia, entender las capacidades y beneficios de las herramientas impulsadas por inteligencia artificial se ha vuelto esencial. Descubre cómo estas tecnologías innovadoras no solo transforman el servicio al cliente, sino que también redefinen la entrega de contenido en el panorama digital.

tecnología de IA AI Content Generator

Find AI tools in YBX