Enkrypt AI привлек 2,35 миллиона долларов в рамках семенного финансирования для обеспечения безопасности генеративного ИИ
Бостонская стартап-компания Enkrypt AI, специализирующаяся на создании контролирующего слоя для безопасного использования генеративного ИИ, успешно собрала 2,35 миллиона долларов в семеном раунде финансирования, возглавляемом компанией Boldcap. Хотя эта сумма невелика по сравнению с типичными инвестициями в ИИ, инновационное решение Enkrypt решает критически важную задачу: частное, безопасное и соответствующее требованиям развертывание генеративных моделей ИИ. Основанная выпускниками магистратуры Йельского университета Сахилом Агарвалом и Прашантом Харашанги, Enkrypt утверждает, что их технология значительно ускорит внедрение генеративного ИИ для предприятий — потенциально до десяти раз.
Харашанги отметил: «Мы продвигаем парадигму, в которой доверие и инновации объединяются, позволяя внедрять технологии ИИ с уверенностью в их безопасности и надежности».
Помимо Boldcap, в раунде семенного финансирования участвуют такие значимые инвесторы, как Berkeley SkyDeck, Kubera VC, Arka VC, Veredas Partners, Builders Fund и несколько ангельских инвесторов из сфер ИИ, здравоохранения и предприятий.
Что предлагает Enkrypt AI?
С растущим спросом на генеративный ИИ многие компании стремятся использовать эту технологию для оптимизации рабочих процессов и повышения эффективности. Однако развертывание базовых моделей влечет за собой проблемы безопасности, включая необходимость поддержания конфиденциальности данных, защиты от угроз безопасности и соблюдения нормативных требований как до, так и после внедрения.
В настоящее время большинство организаций управляют этими вопросами вручную через внутренние команды или сторонних консультантов. Этот традиционный подход, хотя и функционален, занимает много времени и может задерживать проекты ИИ до двух лет, что приводит к упущенным бизнес-возможностям.
Основанная в 2023 году, Enkrypt стремится устранить этот разрыв с помощью Sentry — универсального решения, обеспечивающего видимость и контроль за использованием крупных языковых моделей (LLM) и их производительностью в различных бизнес-функциях. Sentry защищает конфиденциальную информацию, предотвращает угрозы безопасности и обеспечивает соблюдение требований благодаря автоматическому мониторингу и надежным механизмам контроля доступа.
«Sentry служит безопасным корпоративным шлюзом, обеспечивая контроль доступа к моделям наряду с защитой данных и безопасностью моделей», — объяснил CEO Сахил Агарвал. «Он направляет все взаимодействия с LLM через наши запатентованные защитные механизмы, чтобы предотвратить утечки данных и поддерживать нормативное соответствие».
Улучшение безопасности и соблюдения требований для генеративного ИИ
Защитные механизмы Sentry, разработанные на базе патентованной технологии Enkrypt, проактивно предотвращают атаки с инъекцией подсказок и уязвимости данных. Это решение может очищать данные модели и анонимизировать конфиденциальную личную информацию, одновременно непрерывно модерируя контент, созданный ИИ, на предмет токсичности и релевантности.
CISOs и руководители продуктов получают полный доступ ко всем инициативам в области генеративного ИИ, что позволяет им эффективно внедрять защитные механизмы Enkrypt, снижая регуляторные, финансовые и репутационные риски.
Проверка влияния Sentry на уязвимости генеративного ИИ
Хотя Enkrypt пока не имеет дохода и не делится конкретными показателями роста, его технология Sentry сейчас оценивается средними и крупными компаниями в регулируемых секторах, таких как финансы и бионауки.
Например, одна из компаний списка Fortune 500, использующая модель Llama2-7B от Meta, достигла снижения уязвимостей jailbreak с 6% до 0,6% после внедрения Sentry. Это достижение позволило предприятию быстрее внедрить LLM — сокращая срок с лет до недель для различных приложений в разных отделах.
Агарвал подчеркнул, что компании ищут комплексные решения, а не множество отдельных продуктов для управления утечками конфиденциальных данных, атаками с инъекцией подсказок и соблюдением требований, что подчеркивает уникальную природу их предложения.
Заглядывая вперед, Enkrypt планирует расширить свое решение на более широкий круг предприятий, демонстрируя свои возможности на различных моделях и в разных средах. Этот шаг жизненно важен, поскольку приоритет безопасности стал необходимым для любой организации, разрабатывающей или внедряющей решения в области генеративного ИИ.
«Мы в настоящее время сотрудничаем с партнерами по дизайну, чтобы доработать продукт. Нашим главным конкурентом является Protect AI, который недавно приобрел Laiyer AI для улучшения своих предложений по безопасности и соблюдению требований», — отметил Агарвал.
Кроме того, НИСГ США создало консорциум по безопасности ИИ, в который вошли более 200 компаний, чтобы сосредоточиться на установлении базовых стандартов для измерения безопасности ИИ.
Рейтинг
