Des titres récents, tels qu'une recommandation d'IA suggérant de manger des pierres et le lancement de "Miss AI", le premier concours de beauté avec des participantes générées par IA, ravivent des discussions essentielles sur le développement et le déploiement responsables de cette technologie. Bien que la recommandation de pierres mette en lumière un défaut des algorithmes d’IA, le concours de beauté illustre la tendance humaine à maintenir des normes de beauté étroites. Malgré les avertissements continus concernant des catastrophes potentielles dues à l'IA — un chercheur en IA estimant à 70 % la probabilité d’un déclin — ces problématiques émergent sans sembler établir un nouveau cap.
Des cas flagrants d'utilisation abusive de l'IA, comme les deepfakes utilisés pour des escroqueries financières ou des représentations inappropriées d'individus, illustrent le potentiel de nuisance de cette technologie. Cependant, ces actions résultent de la malveillance humaine plutôt que de l'autonomie de l'IA. De plus, les craintes de déplacements d'emplois liés à l'IA ne se sont pas encore matérialisées de manière significative.
Le paysage des risques liés à l'IA comprend la potentielle militarisation de la technologie, les biais sociétaux inhérents, les violations de la vie privée, ainsi que la complexité persistante à comprendre les systèmes d'IA. Cela dit, peu de preuves suggèrent que l'IA pose un danger inhérent à l'humanité.
Malgré ce manque de preuves, treize employés actuels et anciens de grandes entreprises d'IA ont récemment publié une lettre de dénonciation exprimant de vives inquiétudes sur les risques de cette technologie, y compris des menaces pour la vie humaine. Ces lanceurs d'alerte, ayant travaillé de près avec des systèmes d'IA avancés, renforcent la crédibilité de leurs préoccupations. Les avertissements passés du chercheur en IA Eliezer Yudkowsky nourrissent les craintes selon lesquelles l'IA, comme ChatGPT, pourrait évoluer pour dépasser l'intelligence humaine et potentiellement nuire à l'humanité.
Cependant, comme l’a noté Casey Newton dans Platformer, ceux qui espéraient des révélations sensationnelles dans la lettre de dénonciation pourraient être déçus, en raison de contraintes imposées par leurs employeurs ou d'un manque de preuves tangibles au-delà de récits spéculatifs.
Sur une note positive, les modèles d'IA générative "frontière" s'améliorent constamment, comme en témoignent leurs performances aux tests standardisés. Cependant, des cas d'« overfitting » — lorsque des modèles brillent uniquement sur des données d'entraînement — peuvent gonflent ces affirmations, comme l'a prouvé une évaluation erronée des performances à l'examen du barreau.
Malgré les inquiétudes, des chercheurs en IA de premier plan, y compris Geoffrey Hinton, souvent qualifié de « parrain de l'IA », estiment que l'intelligence artificielle générale (AGI) pourrait être atteinte dans les cinq prochaines années. L'AGI représente un système d'IA capable d'égaler ou de dépasser l'intelligence humaine sur un large éventail de tâches — moment où les préoccupations existentielle peuvent surgir. Le récent changement de perspective de Hinton, qui considérait auparavant l'AGI comme une réalité lointaine, renforce l'urgence du débat.
Ajoutant à ce récit, Leopold Aschenbrenner, un ancien chercheur d'OpenAI récemment licencié pour des fuites présumées, a publié des prédictions indiquant que l'AGI pourrait être réalisée d'ici 2027, à condition que les progrès se poursuivent.
Bien que certains experts restent sceptiques quant à l'arrivée imminente de l'AGI, les modèles à venir — tels que GPT-5 d'OpenAI et les prochaines itérations de Claude et Gemini — devraient donner lieu à des avancées impressionnantes. Cependant, si la croissance technologique future stagne, les craintes existentielles pourraient finir par s'estomper.
Des experts préoccupés, comme Gary Marcus, ont soulevé des doutes sur l'évolutivité des modèles d'IA, suggérant que des signes précurseurs d'un nouvel « hiver de l'IA » pourraient émerger. Les hivers de l'IA, des périodes historiques caractérisées par une baisse d'intérêt et de financement en raison d'attentes non comblées, font souvent suite à des phases de battage médiatique excessif autour des capacités de l'IA.
Des rapports récents, comme celui de Pitchbook, révèlent un déclin significatif des transactions d'IA générative, chutant de 76 % par rapport à son pic au troisième trimestre 2023, alors que les investisseurs réévaluent leurs stratégies. Cette baisse des investissements pourrait entraîner des difficultés financières pour les entreprises existantes et freiner l'innovation dans les projets d'IA émergents. Cependant, les grandes entreprises impliquées dans le développement de modèles de pointe pourraient rester à l'abri de ces tendances.
Renforçant ce récit, Fast Company a souligné un manque de preuves indiquant que l'IA génère des gains de productivité suffisants pour avoir un impact positif sur les bénéfices ou les prix des actions des entreprises. Par conséquent, la menace imminente d'un nouvel hiver de l'IA pourrait dominer les discussions dans la seconde moitié de 2024.
Malgré ces défis, de nombreux experts restent optimistes. Gartner assimile l'impact de l'IA à des inventions transformationnelles comme l'imprimerie et l'électricité, soulignant son potentiel à remodeler la société. Ethan Mollick, professeur à la Wharton Business School, plaide pour une intégration immédiate de l'IA générative dans les processus de travail.
Les preuves des capacités de l’IA générative continuent de s’accumuler ; par exemple, les systèmes d'IA seraient 87 % plus efficaces pour persuader lors de débats comparés à des humains moyens. De plus, des études indiquent que les modèles d'IA pourraient surpasser les humains dans la fourniture de soutien émotionnel par des techniques comme la réévaluation cognitive.
La question centrale demeure : l'IA aidera-t-elle à résoudre des défis mondiaux significatifs, ou pourrait-elle finalement conduire à la chute de l'humanité ? Il est probable que le résultat présentera un mélange d'avancées extraordinaires et de pièges regrettables liés à l'IA avancée. Étant donné la nature polarisée du progrès technologique, même les leaders de l'industrie expriment des points de vue divergents sur les risques et les récompenses de l'IA.
Personnellement, j'évalue la probabilité d'un scénario catastrophe à 5 % après avoir examiné les récentes avancées en matière de sécurité de l'IA. Les progrès encourageants réalisés par des organisations comme Anthropic dans l'explication du fonctionnement des grands modèles de langage (LLMs) pourraient améliorer notre capacité à atténuer les risques efficacement.
Finalement, l'avenir de l'IA se situe à un carrefour, équilibrant des opportunités sans précédent contre des risques notables. Engager des discussions éclairées, garantir un développement éthique et mettre en œuvre une surveillance proactive restent essentiels pour maximiser les bénéfices sociétaux de l'IA. Bien que des perspectives d’abondance soient envisageables, le risque de sombrer dans une dystopie existe également. Un développement responsable de l'IA doit prioriser des directives éthiques claires, des protocoles de sécurité rigoureux, une supervision humaine et des mécanismes de contrôle robustes pour naviguer dans ce paysage en rapide évolution.
Classement
