Casi la mitad del equipo de seguridad de AGI de OpenAI abandona la empresa ante el creciente temor por los problemas de seguridad en la inteligencia artificial.

Home Noticias de IA Casi la mitad del equipo de seguridad de AGI de OpenAI abandona la empresa ante el creciente temor por los problemas de seguridad en la inteligencia artificial.

OpenAI Enfrenta Éxodo de Personal en Su Equipo de Seguridad de AGI, Suscitando Preocupaciones sobre la Seguridad de la IA

Recientemente, OpenAI, una destacada empresa de inteligencia artificial, ha atravesado una significativa crisis de personal. Varios exempleados revelaron que el equipo encargado de la seguridad de la Inteligencia Artificial General (AGI) se ha reducido drásticamente en los últimos meses, disminuyendo de aproximadamente 30 miembros a cerca de 16. Este cambio ha generado preocupaciones generalizadas en la comunidad tecnológica y entre el público sobre el compromiso de OpenAI con la seguridad de la IA.

Según un informe de Fortune, el exinvestigador de gobernanza Daniel Kokotajlo explicó que las recientes salidas no fueron una decisión de la empresa en su conjunto, sino una elección voluntaria de varios miembros del equipo que se sentían inseguros sobre la dirección y estrategias futuras de la compañía. El equipo de seguridad de AGI tiene como principal responsabilidad evaluar y mitigar los riesgos potenciales que presentan los sistemas de IA superinteligente, asegurándose de que estas tecnologías no amenacen la existencia humana.

Además de la reducción en el equipo de seguridad de AGI, Ilya Sutskever, cofundador y científico jefe de OpenAI, anunció recientemente su renuncia, lo que llevó a la disolución de su equipo de "super alineación", enfocado en la seguridad de la IA. Esta serie de cambios a nivel superior ha intensificado las preocupaciones sobre si OpenAI se está alejando de su misión original de desarrollar tecnologías de IA que beneficien a la humanidad.

Un portavoz de OpenAI afirmó el compromiso continuo de la empresa por ofrecer sistemas de IA avanzados y seguros, resaltando su enfoque científico para gestionar posibles riesgos. Sin embargo, estas garantías no han aliviado la ansiedad pública respecto a la disminución de la atención a la seguridad de la IA.

Expertos de la industria señalan que, a medida que la tecnología de IA continúa evolucionando rápidamente, garantizar su seguridad y controlabilidad se vuelve cada vez más crucial. Como entidad líder en el sector de la IA, la postura e inversión de OpenAI en la seguridad de la IA afectará significativamente la trayectoria de la industria y la confianza social en los avances en IA.

La salida masiva del equipo de seguridad de AGI actúa como un llamado de atención para toda la industria, subrayando la necesidad de que las empresas y las personas involucradas en la investigación y desarrollo de IA prioricen la seguridad y las consideraciones éticas. Es esencial que los avances tecnológicos realmente beneficien a la humanidad en lugar de representar nuevas amenazas para su supervivencia.

OpenAI y Anthropic Alcanzan un Acuerdo: El Gobierno de EE. UU. Realizará Evaluaciones Iniciales de Seguridad de Nuevos Modelos de IA

Los gigantes tecnológicos como Apple y Microsoft compiten por la nueva financiación de OpenAI mientras ChatGPT está a punto de lanzarse en iOS 18.

Most people like

Perplexity AI

72.3M

Descubre el poder de un motor de búsqueda impulsado por IA que aprovecha las capacidades de grandes modelos de lenguaje junto con motores de búsqueda tradicionales para obtener resultados mejorados.

Motor de búsqueda de IA AI Search Engine

Humanize AI Text

68.9K

En el actual panorama digital, la capacidad de transformar contenido generado por inteligencia artificial en texto atractivo y similar al humano es crucial. Ya seas un comercializador, escritor o propietario de un negocio, dominar esta habilidad puede mejorar significativamente tu comunicación y conexión con la audiencia. Al aprovechar la tecnología avanzada de IA, puedes producir contenido de alta calidad y con el que los lectores se sientan identificados. Exploremos las mejores prácticas para convertir las salidas de la IA en un texto convincente que imite las sutilezas de la expresión humana, al tiempo que retiene la información inherente.

Humanizador de texto AI AI Content Generator

MailerLite

5.3M

MailerLite es una plataforma innovadora diseñada para ayudar a las empresas a ampliar su audiencia y aumentar sus ingresos. Con un conjunto de herramientas potentes, permite a los usuarios mejorar eficazmente sus estrategias de marketing y alcanzar sus objetivos de crecimiento.

marketing por correo electrónico AI Email Marketing

Juicebox

9.2K

Descubre el poder de nuestro motor de búsqueda de personas impulsado por IA, diseñado para conectarte sin esfuerzo con otros. Aprovechando la tecnología de inteligencia artificial de vanguardia, nuestra plataforma permite a los usuarios encontrar y contactar a personas de manera rápida y efectiva. Ya sea que busques viejos amigos, contactos profesionales o oportunidades de networking, nuestro motor de búsqueda simplifica el proceso, asegurando que puedas acceder a la información que necesitas al alcance de tu mano. ¡Experimenta el futuro de la búsqueda de personas hoy mismo!

Motor de búsqueda impulsado por IA AI Recruiting

Find AI tools in YBX