Goodfire привлекла $7 млн для инновационной платформы наблюдаемости на основе ИИ, вдохновленной методами «мозговой хирургии».

Goodfire Привлекает $7 Миллионов Для Усовершенствования Интерпретируемости AI Моделей

Goodfire, стартап, фокусирующийся на повышении наблюдаемости генеративных AI моделей, успешно собрал $7 миллионов в рамках посевного финансирования, организованного Lightspeed Venture Partners. Среди других участников - Menlo Ventures, South Park Commons, Work-Bench, Juniper Ventures, Mythos Ventures, Bluebirds Capital и ряд уважаемых ангельских инвесторов.

Преодоление Проблемы «Черного Ящика»

С увеличением сложности генеративных AI моделей, таких как большие языковые модели (LLMs), которые теперь имеют сотни миллиардов параметров, они становятся менее прозрачными. Эта характеристика «черного ящика» создает серьезные препятствия для разработчиков и компаний, стремящихся внедрить AI надежно и безопасно. Недавнее исследование от McKinsey показало, что 44% бизнес-руководителей отметили негативные последствия из-за непредсказуемого поведения моделей.

Goodfire стремится смягчить эти проблемы, используя новаторский подход под названием «механистическая интерпретируемость», который исследует, как AI модели принимают решения на детальном уровне.

Улучшение Поведения Моделей

Инновационные инструменты Goodfire упрощают понимание и редактирование поведения AI моделей. Эрик Хо, генеральный директор и соучредитель Goodfire, делится их видением: «Наши инструменты делают черный ящик генеративных AI моделей прозрачным, предлагая интерфейс, читаемый человеком, который разъясняет процесс принятия решений за выводом модели. Разработчики могут получить доступ к внутренним механизмам модели и регулировать значимость различных концепций для влияния на ее решения.»

Хо сравнивает этот процесс с проведением нейрохирургии над AI моделями и выделяет три ключевых шага:

1. Картографирование Мозга: «Как нейробиологи используют визуализацию для изучения человеческого мозга, мы применяем техники интерпретируемости для определения компонентов, соответствующих конкретным задачам, концепциям и результатам».

2. Визуализация Поведения: «После картирования мы предоставляем инструменты, помогающие идентифицировать проблемные области, позволяя разработчикам легко выявлять недостатки в своих моделях».

3. Проведение Операции: «Обладая этим пониманием, пользователи могут вносить точные изменения для улучшения производительности, подобно тому, как нейрохирург аккуратно корректирует определенную область мозга. В результате они могут улучшить способности модели, устранять проблемы и исправлять ошибки».

Этот уровень понимания может значительно снизить необходимость в дорогом переобучении или пробах и ошибках в создании подсказок, в конечном итоге оптимизируя разработку AI.

Формирование Команды Профессионалов

Команда Goodfire состоит из специалистов по интерпретируемости AI и масштабированию стартапов:

- Эрик Хо, генеральный директор: Ранее основал RippleMatch, стартап в области AI-рекрутинга с поддержкой Goldman Sachs.

- Том МаГрат, главный ученый: Ранее работал старшим научным сотрудником в DeepMind, где инициировал команду механистической интерпретируемости.

- Дэн Бальсам, технический директор: Соучредил RippleMatch, руководя основными платформенными и машинными обучающими усилиями.

Ник Камарата, эксперт по интерпретируемости, ранее работавший в OpenAI, подчеркивает важность миссии Goodfire: «Существует значительный разрыв между передовыми исследованиями и практическими приложениями методов интерпретируемости. Команда Goodfire идеально расположена, чтобы преодолеть этот разрыв».

Ннамди Ирегбулием, партнер Lightspeed Venture Partners, оптимистично смотрит на будущее Goodfire: «Интерпретируемость становится необходимостью в разработке AI. Инструменты Goodfire будут основополагающими ресурсами, революционизируя взаимодействие разработчиков с LLM. Мы рады поддерживать Goodfire в этой важной области AI».

Будущие Цели

Goodfire планирует использовать финансирование для расширения своих инженерных и исследовательских команд, а также для усовершенствования своей основной технологии. Компания намерена поддерживать современные открытые модели с весами, улучшать возможности редактирования моделей и создавать интуитивно понятные пользовательские интерфейсы для работы с внутренностями моделей.

Как общественная благотворительная корпорация, Goodfire стремится продвигать понимание современных AI систем. Усовершенствуя интерпретируемость и редактируемость AI моделей, компания стремится способствовать созданию более безопасных, надежных и полезных AI технологий.

Goodfire в настоящее время ищет «миссионно ориентированных, вдумчивых людей» для присоединения к своей команде и внесения вклада в эволюцию интерпретируемости AI.

Most people like

Find AI tools in YBX