Goodfire Asegura $7 Millones para Mejorar la Interpretabilidad de Modelos de AI
Goodfire, una startup dedicada a aumentar la observabilidad de modelos de AI generativa, ha recaudado con éxito $7 millones en financiamiento inicial, liderado por Lightspeed Venture Partners. Otros inversores incluyen a Menlo Ventures, South Park Commons, Work-Bench, Juniper Ventures, Mythos Ventures, Bluebirds Capital y varios inversores ángeles destacados.
Enfrentando el Dilema de la "Caja Negra"
A medida que los modelos de AI generativa, como los modelos de lenguaje de gran tamaño (LLMs), crecen en complejidad—actualmente con cientos de miles de millones de parámetros—se vuelven más opacos. Esta característica de “caja negra” representa desafíos significativos para desarrolladores y empresas que buscan implementar AI de manera confiable y segura.
Una reciente encuesta de McKinsey reveló la gravedad del problema, donde el 44% de los líderes empresariales reportaron consecuencias negativas por comportamientos imprevistos de los modelos.
Goodfire busca mitigar estos desafíos a través de un enfoque pionero denominado “interpretabilidad mecanicista”, que explora cómo los modelos de AI razonan y toman decisiones a un nivel granular.
Refinando el Comportamiento del Modelo
Las herramientas innovadoras de Goodfire facilitan la comprensión y edición del comportamiento de los modelos de AI. Eric Ho, CEO y cofundador de Goodfire, explica su visión:
“Nuestras herramientas hacen que la caja negra de los modelos de AI generativa sea transparente, ofreciendo una interfaz legible para humanos que aclara el proceso de toma de decisiones detrás de la salida de un modelo. Los desarrolladores pueden acceder al funcionamiento interno del modelo y ajustar la importancia de diversos conceptos para influir en sus decisiones.”
Ho compara este proceso con realizar una neurocirugía en modelos de AI, describiendo tres pasos esenciales:
1. Mapeo del Cerebro: “Similar a cómo los neurocientíficos utilizan imágenes para examinar el cerebro humano, aplicamos técnicas de interpretabilidad para identificar qué componentes corresponden a tareas, conceptos y resultados específicos.”
2. Visualización del Comportamiento: “Una vez mapeado el cerebro, proporcionamos herramientas que ayudan a identificar áreas problemáticas, permitiendo a los desarrolladores localizar problemas dentro de sus modelos con facilidad.”
3. Realización de Cirugía: “Armados con este entendimiento, los usuarios pueden implementar cambios precisos para mejorar el rendimiento, similar a un neurocirujano ajustando cuidadosamente una región específica del cerebro. Como resultado, pueden mejorar las capacidades del modelo, eliminar problemas y corregir errores.”
Este nivel de comprensión podría reducir significativamente la necesidad de reentrenamientos costosos o ingeniería de prompts por prueba y error, optimizando así el desarrollo de AI.
Conformando un Equipo de Primer Nivel
El equipo de Goodfire está compuesto por especialistas en interpretabilidad de AI y escalamiento de startups:
- Eric Ho, CEO: Anteriormente fundó RippleMatch, una startup de reclutamiento en AI de Serie B respaldada por Goldman Sachs.
- Tom McGrath, Científico Jefe: Ex científico de investigación senior en DeepMind, donde inició el equipo de interpretabilidad mecanicista.
- Dan Balsam, CTO: Cofundó RippleMatch, liderando la plataforma central y los esfuerzos de machine learning.
Nick Cammarata, un experto en interpretabilidad, anteriormente en OpenAI, destaca la importancia de la misión de Goodfire: “Existe una brecha crucial entre la investigación de vanguardia y las aplicaciones prácticas de los métodos de interpretabilidad. El equipo de Goodfire está idealmente posicionado para cerrar esta brecha.”
Nnamdi Iregbulem, socio en Lightspeed Venture Partners, es optimista sobre el futuro de Goodfire: “La interpretabilidad se está volviendo esencial en el desarrollo de AI. Las herramientas de Goodfire actuarán como recursos fundamentales, revolucionando la interacción de los desarrolladores con los LLM. Estamos emocionados de apoyar a Goodfire en esta área vital del panorama de AI.”
Aspiraciones Futuras
Goodfire planea utilizar los fondos para expandir sus equipos de ingeniería e investigación mientras mejora su tecnología central. La empresa busca apoyar modelos de peso abierto de última generación, aumentar las capacidades de edición de modelos y crear interfaces de usuario intuitivas para interactuar con los aspectos internos del modelo.
Como corporación de beneficio público, Goodfire está dedicada a avanzar en la comprensión de sistemas avanzados de AI. Al mejorar la interpretabilidad y editabilidad de los modelos de AI, la empresa aspira a fomentar tecnologías de AI más seguras, confiables y beneficiosas.
Goodfire está buscando actualmente "personas reflexivas y motivadas por la misión" para unirse a su equipo y contribuir a la evolución de la interpretabilidad de AI.
Clasificación
