Une étude d'OpenAI révèle l'impact inattendu de l'IA sur l'avenir du développement des menaces biologiques.

OpenAI, l'organisation de recherche derrière le modèle linguistique avancé GPT-4, a publié une étude captivante explorant l'utilisation potentielle de l'IA dans la création de menaces biologiques. Cette recherche, réalisée avec la participation d'experts en biologie et d'étudiants, a révélé que GPT-4 n'a apporté qu'un « léger gain » en précision par rapport aux ressources en ligne existantes.

Cette étude s'inscrit dans le cadre du Preparedness Framework d'OpenAI, conçu pour évaluer et traiter les risques potentiels liés aux capacités avancées de l'IA, en particulier ceux associés aux « risques de frontière » — des menaces non conventionnelles mal comprises. Une préoccupation majeure est la capacité de l'IA à aider des acteurs malveillants à orchestrer des attaques biologiques, y compris la synthèse depathogènes et de toxines.

Méthodologie et Résultats de l’Étude

Les chercheurs ont mené une évaluation humaine impliquant 100 participants : 50 titulaires d'un doctorat en biologie avec expérience en laboratoire et 50 étudiants ayant suivi au moins un cours de biologie universitaire. Les participants ont été répartis aléatoirement en un groupe témoin (accès uniquement à Internet) et un groupe de traitement (accès à GPT-4 et à Internet). Ils ont effectué des tâches liées à la création de menaces biologiques, incluant l’idéation, l’acquisition, la magnification, la formulation et la libération.

La performance a été évaluée selon cinq critères clés : précision, exhaustivité, innovation, temps consacré et difficulté auto-évaluée. Les résultats ont montré que GPT-4 n'améliorait pas significativement la performance des participants sur aucun critère, avec seulement une légère amélioration de la précision pour le groupe étudiant. De plus, GPT-4 a souvent généré des réponses incorrectes ou trompeuses, ce qui pourrait freiner la création de menaces biologiques.

Les chercheurs ont conclu que la génération actuelle de modèles de langage comme GPT-4 n'augmente pas de manière significative le risque de création de menaces biologiques par rapport aux ressources en ligne disponibles. Cependant, ils ont averti que cette conclusion n'est pas définitive, car de futurs modèles pourraient devenir plus puissants et dangereux. Ils ont souligné la nécessité de recherches continues, de discussions communautaires et de l'élaboration de méthodes d'évaluation efficaces et de directives éthiques pour gérer les risques liés à la sécurité de l'IA.

Ces conclusions rejoignent les résultats antérieurs d'un exercice de red-team de la RAND Corporation, qui n'avait également constaté aucune différence statistiquement significative dans la viabilité des plans d'attaque biologique générés avec ou sans modèles de langage. Les deux études ont reconnu des limitations dans leurs méthodologies et l'évolution rapide de la technologie de l'IA, qui pourrait rapidement modifier le paysage des risques.

Les inquiétudes concernant l'utilisation potentielle de l'IA à des fins de menaces biologiques vont au-delà d'OpenAI ; la Maison Blanche, les Nations Unies et de nombreux experts académiques et politiques ont aussi appelé à une recherche et une réglementation accrues. À mesure que la technologie de l'IA devient plus puissante et accessible, l'urgence de vigilance et de préparation continue d'augmenter.