Магазин OpenAI GPT сталкивается с кризисом качества и соблюдения стандартов: растущие опасения по поводу нарушения авторских прав и низкокачественного контента.

Недавний анализ магазина GPT от OpenAI выявил серьёзные проблемы, касающиеся качества и соблюдения норм. Платформа предлагает широкий спектр функций, от помощи в программировании до фитнес-советов, однако проверки показали наличие множества моделей GPT, которые потенциально нарушают авторские права. В частности, такие модели, как "Iron Man" GPT и "Mickey Mouse" GPT, создают контент с использованием персонажей Disney и Marvel без разрешения.

Несмотря на заявления OpenAI о внедрении строгих автоматизированных систем обнаружения и ручной проверки, на рынок всё ещё выходят проблемные модели. Эти модели не только нарушают авторские права, но и ставят под сомнение академическую добросовестность. Некоторые из них даже утверждают, что могут обойти инструменты для обнаружения плагиата, что усугубляет проблемы в академической среде.

Магазин также представил модели, которые имитируют манеру общения публичных фигур, таких как Илон Маск, Дональд Трамп и Леонардо ДиКаприо, вызывая общественные опасения по поводу конфиденциальности и прав личности. Кроме того, некоторые модели заявляют о своей экспертности в конкретных продуктах, как, например, Microsoft GPT, что создаёт риски раскрытия коммерческих тайн и чувствительной информации.

OpenAI сталкивается с серьёзными трудностями в решении этих проблем. Хотя пользователи пытались "взломать" модели для получения дополнительных прав, эти попытки в основном оказались безуспешными. Это подчеркивает технические возможности OpenAI в области безопасности моделей и управления разрешениями, а также выявляет недостатки в процессах проверки контента и контроля качества.

Скандалы вокруг магазина GPT служат сигналом для OpenAI. Эффективность реакции платформы на эти вызовы и обеспечение соблюдения норм и качества напрямую повлияют на её будущее. Эксперты настоятельно призывают OpenAI улучшить свои механизмы проверки, усилить превентивные технологии и теснее сотрудничать с правообладателями и соответствующими организациями для поддержания здоровой и упорядоченной среды для приложений моделей GPT.