Jaxon AI сотрудничает с IBM watsonx для решения проблем, связанных с галлюцинациями в ИИ.

Когда система ИИ генерирует неточные данные, часто называемые "галлюцинациями", последствия не всегда бывают серьезными. Однако если в военной технологии ИИ выдаст ошибочную информацию, это может иметь катастрофические последствия.

Компания Jaxon AI начала с разработки ИИ-систем для ВВС США, сосредоточив внимание на надежности и точности. Теперь компания расширяет свое присутствие на рынке предприятий с помощью своего языка ИИ, специфичного для домена (DSAIL), который нацелен на решение критических проблем галлюцинаций и неточностей в крупных языковых моделях (LLM). Эта технология интегрирует базовые модели IBM watsonx, предлагая новый подход к созданию более надежных решений ИИ.

Как DSAIL снижает риски галлюцинаций ИИ

Галлюцинации возникают, когда ИИ выдает неточные ответы, часто из-за неполных данных для обучения или нехватки проверки. Фреймворк DSAIL минимизирует этот риск, преобразовывая входные данные на естественном языке в двоичный формат. Этот формат проходит через серию проверок — подобно булевому удовлетворителю — чтобы гарантировать, что ответ ИИ соответствует всем ограничениям перед выдачей, что повышает его надежность для практического применения.

Один из распространенных подходов к снижению числа галлюцинаций — генерация с дополнением извлечением (RAG). В этой модели LLM обращается к базе знаний для предоставления точных ответов. Коэн отметил, что, хотя RAG является частью методологии DSAIL, результаты все равно должны проходить дополнительные проверки перед окончательной выдачей, что еще больше снижает вероятность галлюцинаций.

Роль IBM watsonx в системах ИИ Jaxon

Jaxon использует модели из библиотеки IBM watsonx как неотъемлемые компоненты своих ИИ-систем. В частности, модель IBM StarCoder облегчает генерацию кода, автоматически создавая начальный код для проектов ИИ на основе проектных спецификаций, собранных в процессе.

StarCoder, инициатива с открытым исходным кодом, запущенная в мае при поддержке ServiceNow и Hugging Face, является одним из нескольких инструментов генерации кода в библиотеке IBM watsonx. Савио Родригес, вице-президент по инженерии экосистем и поддержки разработчиков в IBM, подтвердил, что IBM была основным участником проекта StarCoder и подчеркнул сотрудничество с Hugging Face для улучшения доступа предприятий к открытым моделям.

Хотя StarCoder демонстрирует широкие возможности, IBM также предлагает специализированные модели генерации кода, адаптированные для конкретных приложений, таких как миграция COBOL и разработка квантовых вычислений.

Стратегическая позиция IBM на рынке генеративного ИИ

Рынок генеративного ИИ и LLM сегодня конкурентный, с важными игроками, такими как OpenAI, Microsoft, Google и AWS. IBM намерена занять свою долю на этом рынке, поддерживая разработчиков и независимых поставщиков программного обеспечения (ISV), таких как Jaxon AI, через свою программу IBM Build.

IBM Build предоставляет партнерам доступ к watsonx, техническую поддержку и помощь в выходе на рынок. Цель — предложить надежные базовые модели ИИ с четкими ценами, производительностью и надежностью. "Наши клиенты доверяют подходу IBM к ИИ, особенно в обучении моделей и юридических проверках, которые мы проводим," — подчеркнул Родригес.