Citrusx: Упрощение соответствия требованиям ИИ для бизнеса
Стартап из Тель-Авива, Citrusx, официально вышел из режима скрытого существования, объявив о привлечении 4,5 миллионов долларов финансирования на начальном этапе, которое возглавил канадский венчурный капитал Awz, с участием нескольких ангельских инвесторов.
Основанный два года назад, Citrusx ориентирован на сектор ИИ с акцентом на объяснимость моделей. Платформа компании позволяет участникам бизнеса лучше понять модели ИИ, обеспечивая соответствие ожиданиям по производительности.
Улучшение соблюдения требований ИИ и понимания
В условиях, когда государства оценивают последствия использования ИИ и разрабатывают регуляторные меры, подход Citrusx децентрализует понимание ИИ, делая его доступным для всех заинтересованных сторон. Это гарантирует, что участники процесса могут эффективно управлять внутренними и внешними требованиями к соблюдению норм.
Сегодня ИИ является неотъемлемой частью современных бизнес-операций, оптимизируя процессы, сокращая затраты и улучшая клиентский опыт. Однако развертывание моделей ИИ связано с различными этапами, включая получение согласия от не технических участников, таких как валидационная, рисковая и юридическая команды. Этот разрыв в знаниях часто затягивает процесс согласования, что может приводить к задержкам запуска от шести до девяти месяцев, что, в свою очередь, влияет на результаты бизнеса.
Ноа Сребрник, ранее занимавшаяся управлением рисками в Банке Израиля, осознала эту проблему задолго до недавнего роста генеративного ИИ. В 2021 году она основала Citrusx, чтобы разработать платформу, облегчающую валидацию и объяснимость ИИ, позволяя всем участникам эффективно понимать модели и обеспечивать выполнение регуляторных требований.
Комплексное решение для жизненного цикла ИИ
Платформа Citrusx предоставляет краткие отчеты, в которых подробно описываются функциональные возможности модели, ее производительность и потенциал для достижения бизнес-целей. Она охватывает весь жизненный цикл ИИ — от разработки до производства. На этапе разработки платформа предоставляет метрики для оценки стабильности и точности модели, а также выявляет уязвимости, которые могут повлиять на справедливость и соблюдение норм.
Во время производства платформа постоянно контролирует модели на предмет отклонений, объясняет каждое новое предсказание и периодически сообщает о потенциальных рисках и рекомендованных мерах по их снижению.
«Предоставляя единую платформу для всей организации, Citrusx устраняет разрыв между сложными моделями машинного обучения и всеми заинтересованными сторонами компании через валидацию, мониторинг и отчетность», — заявила Сребрник. «Это упрощает развертывание и поддержку, соответствуя регуляторным требованиям и снимая завесу тайны с решений моделей для конечных пользователей».
На этапе скрытого существования Citrusx начал сотрудничество с избранными клиентами, включая публичные компании в регулируемых секторах, таких как финансы и безопасность. Хотя детали остаются неизвестными, компания утверждает, что ее запатентованная технология обеспечивает полную прозрачность и ускоряет вывод на рынок на 82%. Эта способность значительно увеличивает доходность инвестиций в ИИ.
«Обеспечение сотрудничества между различными отделами и управление разнообразными моделями развертывания требует бесшовной коммуникации, что Citrusx предоставляет через отчеты в реальном времени. Эти данные способствуют доверию и прозрачности между разработчиками моделей и контрольными командами», — отметил представитель канадского банка-партнера.
Актуальное решение в условиях регулирования ИИ
Во всем мире правительства осознают потенциал ИИ, но также учитывают его риски, что приводит к активному регулированию. Недавно президент США Байден подписал указ о создании новых стандартов безопасности в области ИИ, в то время как ЕС представил революционный законопроект об ИИ, направленный на обеспечение надежной разработки ИИ.
В этом развивающемся ландшафте инструменты, подобные Citrusx, будут бесценными для команд, ориентирующихся в регуляторных рамках при разработке справедливого и надежного ИИ. К другим важным игрокам в этой области относятся лондонский стартап по аналитике LLM Context, поддерживаемый Google Ventures, и компания Arize AI из Калифорнии, предлагающая Phoenix — библиотеку с открытым исходным кодом для мониторинга больших языковых моделей (LLM) на предмет возможных галлюцинаций.
С учетом ожидаемого роста рынка, мы предвидим приток новых участников, решающих критически важные задачи соблюдения требований и прозрачности в области ИИ.
Рейтинг
