OpenAI и Anthropic сотрудничают по вопросам безопасности моделей ИИ
Как лидеры в области искусственного интеллекта, OpenAI и Anthropic осознают свою ответственность за ответственное развитие технологий. Прежде чем внедрять новые модели ИИ, обе компании решили объединить усилия с Институтом безопасности ИИ при правительстве США для проведения тщательной оценки безопасности. Эта коллаборация направлена на то, чтобы технологический прогресс служил долгосрочным интересам общества и снижал потенциальные негативные последствия.
Институт безопасности ИИ был основан в 2023 году по распоряжению администрации Байдена-Харрис и нацелен на продвижение ответственных инноваций в области ИИ. Институт проведет всестороннюю оценку новых моделей ИИ от OpenAI и Anthropic, сосредоточив внимание на их возможностях, рисках и соответствующих стратегиях снижения рисков. Этот процесс оценки жизненно важен для согласования разработки ИИ с общественными ожиданиями.
Руководители OpenAI и Anthropic выразили поддержку данному партнерству, подчеркивая важность безопасности в эволюции ИИ. Они отметили, что сотрудничество с правительством углубит понимание влияния технологических нововведений на общество и позволит изучить способы снижения рисков безопасности. Эта инициатива закладывает прочную основу для продвижения безопасных и ответственных технологий ИИ.