С ростом спроса на технологии искусственного интеллекта появляются новые инструменты, направленные на улучшение разработки и внедрения ИИ. Стартап RagaAI из Калифорнии, который специализируется на тестировании и исправлении систем ИИ, недавно объявил о своем запуске после успешного раунда начального финансирования в размере 4,7 миллиона долларов, возглавляемого pi Ventures, с участием Anorak Ventures, TenOneTen Ventures, Arka Ventures, Mana Ventures и Exfinity Venture Partners.
Основатель Gaurav Agarwal, бывший исполнительный директор Nvidia, планирует использовать полученные средства для дальнейшего исследования и улучшения своей автоматизированной платформы тестирования, нацеленной на создание надежной основы для безопасного ИИ. Агарвал отметил: «Руководствуясь своими основными ценностями, мы стремимся раздвигать границы автоматического обнаружения проблем ИИ, анализа коренных причин и решения вопросов, оставаясь на переднем крае инновационных методологий». В настоящее время RagaAI обслуживает компании из Fortune 500, решая такие ключевые задачи, как предвзятость, точность и галлюцинации в различных приложениях.
Эффективная разработка и внедрение ИИ — сложная задача. Команды должны собирать данные, обучать модели и следить за производительностью, чтобы гарантировать ожидаемые результаты, так как любая ошибка может привести к дорогостоящим сбоям и упущенным возможностям. Агарвал осознал эту проблему во время работы в Nvidia и индийской компании Ola, что побудило его разработать автоматизированную платформу для обнаружения, диагностики и решения проблем ИИ.
В отличие от традиционных решений, которые проверяют ограниченное количество проблем, RagaAI выполняет до 300 тестов, выявляя потенциальные недостатки, связанные с данными, моделями и операциями. Когда обнаруживается проблема, платформа помогает пользователям определить коренную причину, будь то предвзятость обучающих данных, плохая разметка, сдвиг данных или другие факторы. Затем она предлагает действенные рекомендации, такие как устранение неправильно размеченных данных или предложение повторного обучения для исправления несоответствий.
В центре технологии RagaAI находятся модели RagaDNA, которые создают высококачественные эмбеддинги данных — сжатые и значимые представления информации. Эти эмбеддинги необходимы для обнаружения, диагностики и устранения проблем на платформе.
Директор по продуктам RagaAI Джигар Гупта объясняет: «RagaDNA представляет собой основанные на специфических секторах модели, специально обученные для тестирования. Это позволяет RagaAI автоматически улучшать рабочие процессы тестирования, определяя Операционный Дизайнерский Домен (ODD), идентифицируя крайние случаи, когда модели работают неэффективно, и сопоставляя результаты с недостаточными или некачественными обучающими данными».
Несмотря на недавний публичный запуск, RagaAI уже оказывает значительное влияние, и несколько компаний из Fortune 500 используют его технологии. Например, одна из компаний электронной коммерции успешно справилась с галлюцинациями в своем чат-боте, а клиент из автомобильной отрасли улучшил точность обнаружения автомобилей при низком освещении.
RagaAI уверена, что ее платформа может снизить на 90% риски в разработке ИИ, одновременно ускоряя сроки производства более чем в три раза. С новым финансированием компания планирует усилить свои исследования и разработки, улучшить возможности тестирования, расширить команду и содействовать разработке безопасного и прозрачного ИИ.
Важно отметить, что RagaAI не единственная в этом начинании. Увеличивается количество компаний, таких как Arize с их открытой библиотекой Phoenix, Context AI и Braintrust Data, которые также стремятся упростить внедрение ИИ. Кроме того, провайдеры наблюдаемости, такие как Acceldata, исследуют решения для мониторинга генеративного ИИ для поддержки внедрения.
Поскольку ожидается, что рынок ИИ достигнет 2 триллионов долларов к 2030 году, значительная часть — около 25% — будет направлена на инструменты, обеспечивающие безопасность и надежность систем ИИ.
Рейтинг
