L’IA va plus vite que la société
CHICAGO - J’ai un ami qui a récemment décidé de quitter pour un an son poste de professeur titulaire de mathématiques afin d’étudier la sécurité de l’IA.
Alors qu’OpenAI vient de publier 722 manuscrits affirmant résoudre 377 problèmes mathématiques restés jusque-là ouverts, et que les modèles d’IA ne cessent de s’améliorer, il s’inquiète de l’avenir de sa profession. Si un brillant mathématicien peut être évincé aussi facilement, pourquoi le reste d’entre nous ne s’inquiète-t-il pas ? Une partie de la réponse réside peut-être dans le fait que, même si l’IA est susceptible de résoudre une variante de la conjecture de Navier-Stokes, ma banque n’a toujours pas mis au point un chatbot fiable capable de régler un problème de virement sans que je doive exiger avec colère de parler à un humain. Les laboratoires d’IA utilisent des techniques d’auto-amélioration récursive pour doter leurs modèles non encore publiés de capacités de recherche encore plus prodigieuses, et les pionniers de certains secteurs ont effectivement recours à des agents logiciels pour négocier des contrats et rapprocher les factures des livraisons. Dans l’ensemble, toutefois, l’adoption par les entreprises ordinaires progresse lentement, et les capacités d’IA dont elles peuvent se servir restent modestes. Pourquoi, alors, tant d’entreprises spécialisées dans l’IA consacrent-elles autant de puissance de calcul au développement de modèles plus sophistiqués, dont seul un petit nombre d’utilisateurs peut exploiter pleinement les capacités ? Outre le frisson de créer une forme d’intelligence nouvelle et plus rapide, beaucoup sont convaincus que le premier laboratoire à créer un modèle pleinement capable de s’auto-améliorer profitera de la croissance exponentielle de ses capacités et distancera définitivement la concurrence. Il semble pourtant peu probable que les concurrents ne lui emboîtent pas rapidement le pas. Le premier arrivé pourrait bénéficier d’un mois ou deux d’avance, certes assortis d’une croissance exponentielle de ses capacités, mais ses poursuivants les plus prompts pourraient bien découvrir des techniques leur permettant de le dépasser d’un bond. C’est précisément ce qui se passe dans la course aux capacités d’IA, où le meilleur modèle change régulièrement de mains. Il semble peu plausible qu’un vainqueur puisse dominer éternellement - surtout si les laboratoires peuvent débaucher les équipes les uns des autres -, à moins de neutraliser ou de détruire littéralement ses rivaux. Espérons que ce n’est l’intention de personne. Une autre raison pourrait simplement être qu’aucun des dirigeants messianiques des principaux laboratoires d’IA ne fait confiance aux autres pour gérer le pouvoir qui découle de capacités d’IA extraordinaires. Chacun est motivé non seulement par le désir de gagner, mais aussi par le sentiment d’être le seul à pouvoir gérer correctement ce pouvoir. Autre moteur de cette course : la crainte que la Chine ne rattrape son retard. Les modèles d’IA chinois n’ont jamais eu que quelques mois de retard sur les modèles américains les plus avancés. Comme dans la course que se livrent les laboratoires américains, il est peu probable qu’ils se laissent distancer davantage, à moins que les États-Unis ne parviennent à mener une campagne plus efficace pour empêcher les Chinois d’accéder aux puces les plus avancées, tant en Chine que dans le reste du monde. Quelle qu’en soit la raison, les investissements colossaux en puissance de calcul consacrés à l’entraînement des modèles poussent les laboratoires d’IA à afficher davantage de chiffre d’affaires - et le plus tôt sera le mieux. C’est pourquoi Anthropic a lancé une coentreprise, Ode, afin de promouvoir l’utilisation de l’IA dans les entreprises non technologiques, en s’appuyant sur des ingénieurs d’Anthropic intégrés à ces structures. Cela signifie que certaines banques pourraient bientôt disposer de chatbots nettement plus performants, ce qui poussera toutes les banques à emboîter le pas. Combien de temps faudra-t-il avant que les emplois dans le service client ne rejoignent ceux des professeurs de mathématiques ? Il existe, bien sûr, plusieurs façons de mettre en œuvre l’IA. On peut simplement remplacer les emplois existants, ou bien repenser le travail et la formation professionnelle de manière à renforcer considérablement les capacités des employés actuels. La première approche rapportera plus vite mais provoquera un carnage social ; la seconde demandera plus de temps et de réflexion, mais préservera les emplois et la stabilité. Les entreprises ciblées pour une utilisation accrue de l’IA sont les mieux placées pour mettre en œuvre une IA centrée sur les salariés, mais elles doivent assumer davantage de responsabilités quant à l’avenir de leurs employés, tandis que les pouvoirs publics, de leur côté, doivent inciter davantage les entreprises à renoncer aux profits à court terme que procurent les licenciements. Il existe de nombreuses idées réalistes - comme la taxation des jetons d’IA consommés par les entreprises et des crédits d’impôt pour la formation des salariés -, mais peu de gouvernements les ont mises en place. La conclusion semble inévitable : la société n’est pas prête pour un déploiement à grande échelle de l’IA. Nous assistons pourtant peut-être aujourd’hui à une volonté de ralentir l’énorme expansion des capacités de calcul. De nombreux dirigeants politiques aux États-Unis réclament un gel des autorisations de nouveaux centres de données, se faisant l’écho des préoccupations des populations locales et attirant l’attention sur les conséquences plus larges d’un déploiement incontrôlé de l’IA. Face à la perspective d’une diminution des ressources de calcul disponibles pour monétiser l’IA à moyen terme, les investisseurs seront contraints de limiter l’affectation de ressources coûteuses au développement de modèles. Un ralentissement de la construction augmente également le coût d’utilisation de l’IA, ce qui modifiera les termes du calcul qui préside aux décisions de remplacer des salariés. Il permet à l’offre de puces et de mémoire de rattraper son retard, afin que les coûts n’augmentent pas inexorablement à l’avenir. Il laisse en outre à la régulation de l’IA le temps de rattraper son retard, afin que les fondateurs de laboratoires d’IA ne soient pas les seuls à déterminer le niveau de risque existentiel - voire de risque pour l’intégrité du système financier - que le monde devrait tolérer. L’objectif d’une pause ne devrait pas être d’arrêter le développement ou l’utilisation de l’IA, mais plutôt de gagner du temps pour mettre en œuvre cette technologie de manière plus réfléchie. La course contre la Chine reste gérable. Les laboratoires américains ne cesseront pas tout développement, et au vu de ce que nous avons observé jusqu’à présent, le risque que quiconque obtienne un avantage permanent est faible. Par ailleurs, les Chinois ne sont pas insensibles aux risques liés à l’IA et pourraient voir un certain intérêt à ralentir leur propre développement s’ils constatent que les États-Unis le font. Un ralentissement collectif en matière d’IA pourrait même relancer les discussions, attendues depuis longtemps, entre la Chine et les États-Unis sur la manière de mettre l’IA au service de l’humanité, tout en s’attaquant au risque que nous devenions, à notre insu, ses serfs. Raghuram G. Rajan, ancien gouverneur de la Banque centrale indienne et économiste en chef du Fonds monétaire international, est professeur de finance à la Booth School of Business de l’université de Chicago, président du Groupe des Trente, président de la Fondation Per Jacobsson et coauteur (avec Rohit Lamba) de Breaking the Mold: India’sUntraveled Path to Prosperity (Princeton UniversityPress, mai 2024).