OpenAI研究揭示人工智能对生物威胁发展的意外影响

Home AI News CN OpenAI研究揭示人工智能对生物威胁发展的意外影响

开放AI（OpenAI）是先进语言模型GPT-4的研发组织，近日发布了一项引人注目的研究，探讨了人工智能在生物威胁创造中的潜在应用。该研究由生物学专家与学生共同进行，发现GPT-4在生物威胁创造精确度上的提升仅为“小幅度改善”，相比于现有的在线资源效果有限。

此项研究是开放AI准备框架的一部分，该框架旨在评估和应对先进人工智能能力所带来的潜在风险，尤其是与“前沿风险”相关的非常规威胁。一个重要的担忧是，人工智能可能会帮助恶意行为者策划生物攻击，包括合成病原体和毒素。

研究方法与结果

研究团队共邀请了100名参与者进行人类评估：其中包括50名拥有专业实验室经验的生物学博士和50名完成至少一门大学生物课程的学生。参与者随机分为两组：对照组仅可以访问互联网，实验组则可以在使用互联网的同时使用GPT-4。参与者需要完成与生物威胁创造相关的任务，包括构思、获取、放大、制备和释放。

研究评估了五个关键指标：准确性、完整性、创新性、所用时间和自评难度。结果显示，GPT-4在任何指标上的表现并没有显著提高参与者的整体表现，仅在学生组中略微提升了准确性。此外，GPT-4经常生成错误或误导性的回答，这可能妨碍生物威胁创建的过程。

研究人员得出结论，当前的GPT-4等大型语言模型（LLMs）在生物威胁创造方面的风险并未显著高于现有的在线资源。但他们也警告，这一发现并非最终结论，未来的LLMs可能会发展得更强大且更具威胁性。他们强调了持续研究、社区讨论以及制定有效评估方法和伦理准则以管理AI安全风险的重要性。

这些结论与RAND公司的一项红队演练的先前发现一致，该演练同样没有发现使用或不使用LLMs生成的生物攻击计划在可行性上存在统计学上的显著差异。两项研究均承认其方法的局限性及AI技术的快速演变可能会迅速改变风险形势。

关于人工智能潜在被滥用于生物威胁的担忧，不仅限于开放AI；白宫、联合国以及众多学术和政策专家也呼吁加强研究和监管。随着AI技术变得愈加强大和易于获取，保持警惕与准备的紧迫感持续上升。

Dynatrace推出AI可观测性解决方案，全面监控LLM技术栈

Mistral首席执行官确认新开放源代码AI模型泄露，性能接近GPT-4

Most people like

Boords

358.4K

一个简单易用的创意项目故事板工具，旨在帮助您更高效地组织和展示创意理念。无论您是设计师、编剧还是项目经理，这款工具都能让您的创意流程更加顺畅。

故事板 AI演示生成器

Playground AI

399.3K

使用Playground AI的免费在线AI图像生成器，您可以轻松创建艺术作品、社交媒体帖子、演示文稿、标志等丰富内容。

图像生成器 AI艺术生成器

Devv AI Search Engine

464.1K

人工智能搜索引擎专为开发人员设计。通过这一平台，开发者能够更轻松地访问、整合和利用强大的智能搜索功能，以提升其项目的效率和创新能力。无论是在数据检索、信息分析还是解决复杂问题方面，这款搜索引擎都能提供强有力的支持，为开发者打造智能、高效的工作环境。

AI 搜索引擎其他

Anki Decks

138.6K

10倍速闪卡制作秘籍在学习和记忆的过程中，闪卡是一种极为有效的工具。通过高效的闪卡制作技巧，您可以将学习速度提升至10倍！本指南将揭示如何运用智能策略快速创建闪卡，帮助您更好地掌握知识点，提高学习效率。不论您是在学习新语言、备考考试，还是希望加深对某个主题的理解，这些实用的技巧都将大大提升您的学习体验。准备好踏上提升学习效率的旅程了吗？

安基 AI AI 笔记助手

Find AI tools in YBX