Sommes-nous en train de négliger le développement incontrôlé de l'IA ? Les inquiétudes ont laissé place à une approche plus agressive et compétitive envers le progrès

Par le passé, OpenAI a investi des ressources considérables pour rassurer le public et les institutions sur les risques d’un développement incontrôlé de l’intelligence artificielle. Elle l’a fait, par exemple, peu après le lancement de ChatGPT, craignant que des systèmes de ce type ne deviennent si avancés qu’ils échappent au contrôle de leurs propres créateurs.

Alors que ces inquiétudes étaient au centre du débat dans le secteur de l’IA il y a encore quelques années, aujourd’hui, les grandes entreprises technologiques semblent beaucoup moins intéressées par le sujet. Plusieurs facteurs expliquent ce changement d’approche, notamment la concurrence croissante et l’afflux de nouveaux investissements dans le domaine, qui ont poussé les entreprises à se concentrer davantage sur l’expansion et la recherche d’une durabilité économique à long terme. OpenAI elle-même a beaucoup changé : récemment, par exemple, elle est devenue à part entière une entreprise privée, alors qu’auparavant elle avait également une composante à but non lucratif assez significative.

Quelles sont les applications dangereuses de l’IA ?

OpenAI est née en 2015 en tant qu’organisation à but non lucratif, avec pour objectif déclaré de développer des systèmes d’intelligence artificielle au bénéfice de l’humanité. Le récent changement de cap de l’entreprise n’a toutefois pas été sans conséquence, amenant par exemple certaines figures de premier plan à quitter la société.

Parmi elles, Jan Leike, qui dirigeait un projet dédié à la sécurité des systèmes d’IA et qui a décidé de rejoindre Anthropic, l’entreprise qui développe le chatbot Claude, fondée en 2021 par d’anciens employés d’OpenAI. Mais la taille énorme atteinte par ce marché contribue également à pousser vers une approche plus agressive du progrès dans le domaine de l’intelligence artificielle.

Ces technologies ont, par exemple, des applications extrêmement lucratives dans le secteur militaire, ainsi que dans la surveillance et la sécurité nationale, et chaque avancée est considérée comme potentiellement décisive sur les plans stratégique et économique.

C’est également pour cette raison que le gouvernement américain a introduit des restrictions strictes à l’exportation des technologies les plus avancées, comme les puces de dernière génération produites par l’entreprise technologique Nvidia, dont la vente en Chine est interdite afin de ralentir le développement du secteur technologique local et de maintenir l’avantage compétitif des États-Unis.

Dans un contexte dominé par des logiques économiques et géopolitiques, les approches plus prudentes vis-à-vis de l’IA, qui demandent de ralentir et de réfléchir aux risques et contradictions présentes dans le secteur, ont aujourd’hui du mal à trouver leur place et à être entendues. Cette ligne plus audacieuse est également soutenue par l’administration Trump elle-même, qui cherche à réglementer le moins possible le secteur technologique, en particulier celui des IA, afin de laisser un maximum de marge de manœuvre.

Qu’est-ce qui inquiète les autorités ?

Ce qui inquiète les observateurs ne se limite pas aux scénarios les plus extrêmes, mais inclut également des phénomènes plus concrets et immédiats, comme la prolifération de chatbots conçus pour offrir de la compagnie aux utilisateurs, se présentant comme des amis ou des partenaires virtuels.

Des entreprises comme xAI, fondée par Elon Musk, proposent depuis quelques mois des « Companions » digitaux, c’est-à-dire des chatbots personnalisables dotés d’avatars séduisants. OpenAI suit également une direction similaire : elle a récemment annoncé qu’à partir de décembre, les utilisateurs majeurs pourront utiliser ChatGPT pour avoir des conversations à contenu érotique. Ce type de services a toutefois déjà fait l’objet de polémiques et de controverses juridiques, et l’expansion supplémentaire de ce domaine inquiète fortement les experts.