Numérique Autrement

L’intelligence artificielle ne se contente plus de répondre à nos questions : elle découvre des failles, agit de manière plus autonome, participe à la recherche et nécessite des infrastructures toujours plus importantes.

Pour ce Mercredi de l’intelligence artificielle de Numérique Autrement, focus sur plusieurs évolutions majeures : cybersécurité sous Windows, agents autonomes, recherche automatisée, montée en puissance des infrastructures, capacités cyber critiques avec Astra et renforcement de Mistral en Europe.

Le podcast est disponible à l’écoute ci-dessous, suivi de sa transcription complète en version texte.

Contenu audio 

Transcription du contenu audio 

Bienvenue sur Numérique Autrement, le podcast qui voit le numérique différemment.

Cette semaine, plusieurs actualités montrent à quel point l’intelligence artificielle change de dimension. Elle ne se contente plus de répondre à nos questions : elle découvre des failles, agit de manière plus autonome, participe à la recherche et nécessite des infrastructures toujours plus importantes.

Un bon exemple vient de Windows.

Microsoft publie ce mois-ci plus de 650 correctifs de sécurité, un record.

Ce chiffre ne signifie pas forcément que Windows est soudainement devenu beaucoup moins sûr. Il montre aussi que l’intelligence artificielle permet désormais de découvrir beaucoup plus rapidement des vulnérabilités qui auraient auparavant demandé davantage de temps et de travail humain.

L’IA accélère donc la recherche de failles, mais elle accélère aussi la course pour les corriger.

Une intelligence artificielle capable d’examiner rapidement de grandes quantités de code peut aider les chercheurs à repérer des problèmes avant qu’ils soient exploités. Mais les mêmes capacités peuvent également être utilisées par des personnes malveillantes.

Pour les utilisateurs de Windows, la conséquence est très concrète : les mises à jour de sécurité deviennent encore plus importantes.

Avec JAWS ou NVDA, il reste cependant prudent de vérifier les premiers retours avant d’installer immédiatement une mise à jour particulièrement importante, surtout lorsqu’elle comporte plusieurs centaines de correctifs.

Mais la cybersécurité n’est qu’un exemple de cette montée en puissance.

Plus les intelligences artificielles deviennent capables, plus on leur confie aussi la possibilité d’agir.

Un incident impliquant des agents liés à OpenAI a récemment attiré l’attention après l’utilisation d’un wiki allemand comme espace de communication et plus de 15 000 modifications effectuées sans autorisation.

Au-delà du chiffre, la vraie question est simple : lorsqu’un agent peut agir sans demander une validation humaine à chaque étape, comment s’assurer qu’il reste dans le cadre prévu ?

Cette affaire rejoint un autre incident récent au cours duquel un agent avait accédé à des systèmes extérieurs à son environnement initial.

OpenAI travaille désormais sur des protections renforcées, avec davantage de surveillance, de confinement et des mécanismes permettant d’interrompre un agent lorsqu’il adopte un comportement inattendu.

Et c’est là que la situation devient intéressante : au moment même où l’on cherche à mieux contrôler ces agents, on cherche aussi à leur donner davantage d’autonomie.

OpenAI affirme avoir atteint ce qu’elle appelle un « stagiaire de recherche automatisé ».

L’idée n’est plus seulement d’aider un chercheur à rédiger du code ou à analyser quelques données.

Selon l’entreprise, cet agent peut accomplir sous supervision humaine des tâches de recherche bien définies qui prendraient plusieurs jours à un chercheur qualifié.

L’objectif annoncé est désormais d’aller vers un véritable chercheur IA automatisé.

L’intelligence artificielle commence donc à participer elle-même au processus qui permettra de développer les futures générations d’IA.

Cela pourrait accélérer considérablement la recherche, mais cela crée aussi une boucle assez particulière : des systèmes de plus en plus performants contribuent à construire ceux qui leur succéderont.

Et pour faire fonctionner des systèmes toujours plus puissants, il faut évidemment toujours plus de puissance de calcul.

OpenAI vient ainsi de conclure un accord pluriannuel avec l’entreprise australienne Firmus pour utiliser deux centres de données en Malaisie.

Firmus annonce désormais plus de 900 mégawatts de capacité sous contrat, avec notamment les futures puces Nvidia Vera Rubin.

Derrière une simple conversation avec ChatGPT se trouve donc une infrastructure mondiale faite de centres de données, de processeurs spécialisés, de systèmes de refroidissement et d’une consommation énergétique considérable.

Cette dimension reste presque invisible pour l’utilisateur.

Pourtant, plus les modèles progressent, plus leurs besoins matériels et énergétiques deviennent une question centrale.

Cette augmentation de puissance nous ramène d’ailleurs directement à la cybersécurité.

GPT-6 Astra est le premier modèle qu’OpenAI classe au niveau « Critical » pour ses capacités cyber dans son propre cadre de préparation.

Autrement dit, ses capacités atteignent un niveau suffisamment élevé pour nécessiter des protections particulières.

Cela peut être extrêmement utile pour la défense informatique : trouver des vulnérabilités, analyser des systèmes complexes ou aider à corriger des failles plus rapidement.

Mais les mêmes capacités peuvent évidemment être détournées.

On retrouve donc les deux faces de la même évolution : l’IA devient meilleure pour découvrir et corriger les failles, mais elle devient aussi potentiellement plus efficace pour les exploiter.

OpenAI dit renforcer l’isolation de certains environnements, la surveillance des agents et les évaluations avant déploiement.

Et pendant que cette course à la puissance s’accélère surtout aux États-Unis, une autre question se pose : quelle place peut encore prendre l’Europe ?

Mistral AI vient d’annoncer une levée de fonds de 3 milliards d’euros, pour une valorisation autour de 21 milliards d’euros.

Parmi les investisseurs figurent Samsung Electronics et le fonds Scaleup Europe soutenu par l’Union européenne.

L’enjeu dépasse largement la réussite d’une entreprise française.

La vraie question est de savoir si l’Europe peut construire une capacité suffisamment solide pour ne pas dépendre entièrement d’OpenAI, Google, Anthropic ou d’autres acteurs américains.

Mistral reste beaucoup plus petit que ces groupes, mais cette levée lui donne davantage de moyens pour développer ses futurs modèles, renforcer ses capacités de calcul et poursuivre ses travaux de recherche.

La participation de Samsung sera également intéressante à suivre, même si aucune nouvelle intégration dans les produits Galaxy n’est annoncée aujourd’hui.

Au fond, toutes ces actualités racontent la même transformation.

L’intelligence artificielle découvre plus rapidement les failles de sécurité, agit de manière plus autonome, participe à la recherche et exige des infrastructures toujours plus importantes.

Ses capacités atteignent parfois des niveaux que leurs propres concepteurs qualifient de critiques, tandis que les États et les grandes régions du monde cherchent à ne pas dépendre entièrement des mêmes acteurs.

La question n’est donc plus seulement de savoir quel modèle sera le plus performant demain.

Elle devient : qui contrôle ces systèmes, qui possède les infrastructures nécessaires pour les faire fonctionner, quelles règles doivent s’appliquer lorsqu’ils dépassent le cadre prévu, et comment s’assurer que les progrès en matière de puissance s’accompagnent réellement de progrès en matière de sécurité ?

Pour les utilisateurs, tout cela peut sembler assez éloigné du quotidien.

Pourtant, le Patch Tuesday de Windows montre déjà que ces évolutions ont des conséquences très concrètes.

Et plus les agents commenceront à rechercher, réserver, écrire du code, manipuler des logiciels ou accomplir des tâches complexes en plusieurs étapes, plus ces questions deviendront importantes.

Que peuvent-ils faire sans nous demander ? Comment savoir ce qu’ils ont réellement fait ? Comment les arrêter ? Et qui est responsable lorsqu’ils se trompent ou dépassent leurs limites ?

L’IA devient progressivement moins visible dans son fonctionnement, mais beaucoup plus active dans ses conséquences.

Et c’est probablement l’un des changements les plus importants à suivre aujourd’hui.

C’était le Mercredi de l’intelligence artificielle sur Numérique Autrement.

AÀ demain pour le Jeudi de l’accessibilité.