Модель Microsoft AI WizardLM-2 Убрана из релиза из-за пренебрежения 'тестированием на токсичность'

Недавно Microsoft объявила об открытом релизе своей новейшей языковой модели WizardLM-2, привлекшей значительное внимание и ожидание в индустрии. Однако вскоре после релиза компания неожиданно отозвала все файлы и код проекта, и модель в настоящее время недоступна.

Как пояснили инженеры Microsoft в социальных сетях, отзыв произошел из-за незнания команды о новом процессе выпуска модели, в частности, из-за того, что не было проведено критически важное "тестирование на токсичность". Это тестирование необходимо для оценки, может ли модель генерировать вредный или вводящий в заблуждение контент, и играет ключевую роль в обеспечении безопасности модели.

Несмотря на то что WizardLM-2 прошла различные тесты и оценки перед выпуском, отсутствие тестирования на токсичность вынудило Microsoft отозвать модель. Команда разработчиков теперь сосредоточена на завершении оставшихся тестов и обязалась повторно выпустить модель как можно скорее.

Замечу, что, несмотря на неудачу во время запуска, производительность WizardLM-2 продолжает оставаться предметом интереса. Официальная информация указывает на то, что версия WizardLM-2 8x22B считается самой передовой, превосходя такие конкурентные модели, как GPT-4, и даже открытые модели, в десять раз большие.

Серия WizardLM-2 включает три разные версии, каждая из которых адаптирована под конкретные потребности и требования производительности. WizardLM-2 8x22B отлично справляется со сложными задачами, в то время как WizardLM-2 70B известна своими превосходными способностями к логическому мышлению. Несмотря на меньший размер, WizardLM-2 7B также демонстрирует впечатляющую скорость.

Эксперты отрасли отмечают, что, хотя отзыв модели WizardLM-2 неприятен, он подчеркивает стремление Microsoft к качеству и безопасности моделей. В условиях стремительного развития технологий искусственного интеллекта тщательные тестирования и оценки моделей становятся все более важными. Только тщательно проверенные модели могут эффективно служить обществу.

Для пользователей и разработчиков, с нетерпением ожидающих модель WizardLM-2, требуется терпение в этот переходный период. Тем не менее, важно понимать и поддерживать решение Microsoft, поскольку безопасность и надежность являются основополагающими атрибутами качественной модели.

По мере продолжения тестирования ожидается, что модель WizardLM-2 будет вновь представлена публике, что будет способствовать дальнейшему развитию искусственного интеллекта. Мы надеемся, что Microsoft быстро решит эти проблемы и представит пользователям и разработчикам исключительную языковую модель.