Les constructeurs auto sous-estiment l’IA agentique, un risque direct pour la conduite autonome

Des ingénieurs et analystes alertent sur un angle mort technique qui pèse sur la prochaine étape de la conduite autonome, l’architecture de l’IA dite agentique. Selon l’analyse publiée par Torque News, plusieurs constructeurs abordent encore l’autonomie comme un empilement de fonctions, perception, planification, contrôle, sans intégrer pleinement les implications d’un système capable de définir des sous-objectifs, d’arbitrer et d’agir dans la durée. Cette divergence d’approche touche des sujets concrets, la façon de valider la sécurité, de gérer les responsabilités, et de prouver qu’un véhicule reste prévisible dans des situations rares.

Le débat ne porte pas seulement sur la performance, par exemple une conduite plus fluide ou une meilleure anticipation, mais sur la robustesse, la traçabilité et la gouvernance logicielle. Dans un véhicule, un agent qui décide n’est pas un simple module, c’est une logique d’orchestration susceptible d’influencer toutes les autres briques, jusqu’aux mises à jour à distance. De ce fait, une erreur d’architecture peut se transformer en dette technique durable, coûteuse à corriger une fois la flotte déployée.

Torque News décrit une rupture entre IA agentique et piles ADAS classiques

Dans l’approche traditionnelle, les systèmes d’aide à la conduite, ou ADAS, reposent sur une chaîne relativement lisible, capteurs, fusion, détection d’objets, prédiction, planification de trajectoire, puis commande. Cette structure facilite l’ingénierie de sûreté, car chaque bloc a des entrées et des sorties documentées, et des critères de validation associés. Torque News souligne que l’IA agentique modifie la nature du problème, car l’agent ne se contente pas d’exécuter une trajectoire, il peut optimiser une mission, gérer des priorités, et réévaluer une décision à mesure que le contexte évolue.

Cette capacité, souvent recherchée pour améliorer l’autonomie dans des environnements complexes, introduit un défi, l’agent devient un coordinateur transversal. Il peut, par exemple, arbitrer entre confort et prudence, décider d’attendre, de contourner, de changer de voie plus tôt, ou de renoncer à une manuvre. Dans une pile classique, ces arbitrages sont codés dans des règles ou des modèles spécialisés. Avec un agent, une part du comportement dépend d’une logique de décision plus générale, parfois alimentée par des modèles de type grands modèles de langage ou des politiques apprises.

Le risque pointé est celui d’une intégration superficielle, ajouter une couche intelligente au-dessus d’une pile existante, sans redéfinir les contrats de sûreté entre modules. Si l’agent peut réécrire des objectifs locaux, la question devient, qui garantit que les contraintes de sécurité restent prioritaires en toutes circonstances. Dans l’automobile, les normes de sûreté, dont ISO 26262, imposent une traçabilité des exigences et une démonstration de maîtrise des défaillances. Un agent qui produit des décisions contextuelles rend cette démonstration plus exigeante.

Torque News met aussi en avant un enjeu de vocabulaire qui masque des divergences. Certains acteurs parlent d’agentique pour décrire une meilleure planification, d’autres pour désigner un système capable d’utiliser des outils, de mener des séquences d’actions, et d’expliquer ses choix. Sans cadrage, deux solutions très différentes peuvent être rangées sous le même terme, ce qui complique les comparaisons, les audits et les discussions avec les régulateurs.

La validation sécurité d’un agent décisionnel bouscule ISO 26262 et SOTIF

La conduite autonome se heurte depuis des années à une question centrale, comment prouver qu’un système est suffisamment sûr face à l’immensité des cas de circulation. L’arrivée d’un agent décisionnel ajoute une couche, il faut vérifier non seulement la perception et le contrôle, mais aussi la cohérence des intentions dans le temps. Les référentiels comme SOTIF (sécurité de la fonctionnalité) s’intéressent aux limites de performance sans défaillance matérielle. Une architecture agentique peut multiplier les zones grises, car un comportement raisonnable dans un scénario peut devenir inadapté dans un autre, sans qu’il y ait panne au sens classique.

Le premier défi est la testabilité. Dans une chaîne modulaire, on peut isoler un composant, lui injecter des entrées, mesurer des sorties, et établir des marges. Un agent, surtout s’il s’appuie sur des modèles probabilistes, peut produire des décisions variables selon l’historique, la formulation d’un objectif interne, ou un détail de contexte. Cela oblige à renforcer les méthodes de validation, simulation à grande échelle, génération de scénarios rares, tests de non-régression après chaque mise à jour, et surveillance en exploitation.

Deuxième défi, l’explicabilité opérationnelle. Après un incident, un constructeur doit pouvoir expliquer pourquoi le véhicule a freiné, changé de voie, ou hésité. Une approche agentique peut fournir des traces, mais encore faut-il que ces traces soient fiables, horodatées, et liées à des contraintes de sécurité immuables. Torque News insiste sur le fait que l’architecture compte plus que la seule qualité du modèle, car une bonne architecture impose des garde-fous, limitations d’action, vérifications formelles sur certaines contraintes, et hiérarchisation stricte des priorités.

Troisième défi, la gestion des mises à jour. Les véhicules modernes reçoivent des mises à jour logicielles, parfois via OTA. Si l’agent est au cur de la décision, une mise à jour peut modifier le style de conduite, les choix d’anticipation, ou la stratégie d’interaction avec les autres usagers. Cela implique une gouvernance, quels changements sont autorisés, comment vérifier qu’une amélioration locale ne dégrade pas un autre comportement, et comment documenter ces évolutions pour les autorités et les assureurs.

Enfin, il y a la question des limites. Une architecture robuste doit définir des conditions de repli, quand l’agent n’est pas certain, il doit revenir à un mode minimal sûr, ralentir, s’arrêter, ou demander une reprise en main selon le niveau d’automatisation. Sans cette discipline, l’agent peut être tenté de tenter une solution, ce qui est acceptable dans un logiciel grand public, mais beaucoup moins dans une voiture en circulation.

Les choix d’architecture influencent capteurs, calcul embarqué et coûts industriels

Torque News relie l’agentique à des décisions industrielles souvent sous-estimées, le dimensionnement du calcul embarqué, la latence, la redondance et le coût. Un agent qui planifie sur un horizon plus long et qui s’appuie sur des modèles lourds peut exiger des ressources proches d’un centre de données miniature, GPU, accélérateurs IA, refroidissement, gestion énergétique. Dans une voiture, chaque watt compte, car il impacte l’autonomie des véhicules électriques et la taille des systèmes de refroidissement.

La question des capteurs est également structurante. Certains constructeurs misent sur une combinaison caméra, radar, lidar, d’autres sur des approches majoritairement vision. Une architecture agentique peut être plus tolérante à certaines ambiguïtés si elle sait interroger des sources multiples et gérer l’incertitude, mais elle peut aussi devenir plus fragile si elle dépend d’une représentation du monde insuffisamment contrainte. Le choix n’est pas seulement technique, il est économique, un lidar de qualité ajoute un coût, mais peut réduire le risque dans certains cas. À l’inverse, une solution moins chère peut exiger davantage de validation et de surveillance.

Le calcul de bout en bout pose un autre dilemme, centraliser la décision dans un modèle unique, ou conserver une séparation stricte entre perception et planification. L’agentique pousse vers une orchestration plus unifiée, mais l’industrie automobile a historiquement privilégié la séparation pour des raisons de sûreté et de responsabilité. Une architecture hybride apparaît souvent, un agent propose, des contrôleurs de sécurité vérifient et limitent. Ce choix peut augmenter la complexité logicielle, donc les coûts de développement et de certification.

Sur le plan industriel, la chaîne d’approvisionnement compte. Les constructeurs dépendent de fournisseurs de calculateurs, de piles logicielles, et de bibliothèques IA. Si l’agentique devient centrale, la maîtrise des composants critiques devient un avantage compétitif, mais aussi un risque de dépendance. Un constructeur qui externalise trop peut perdre la capacité d’auditer finement les décisions. Un constructeur qui internalise tout doit recruter massivement et maintenir des équipes capables d’industrialiser de l’IA, ce qui est coûteux et rare.

Le coût se retrouve aussi dans l’exploitation. Une architecture agentique bien conçue peut réduire certains incidents et améliorer la satisfaction, mais elle peut exiger une collecte de données plus riche, des pipelines de simulation, et une surveillance continue des dérives. Dans un marché où les marges sont sous pression, l’arbitrage entre ambition technologique et viabilité économique devient déterminant.

Régulateurs, assureurs et responsabilités juridiques face aux décisions d’un agent

Au-delà de la technique, l’agentique pose une question de gouvernance sociale, qui est responsable d’une décision prise par un système autonome, surtout si cette décision résulte d’une optimisation interne difficile à résumer. Les régulateurs, en Europe comme en Amérique du Nord, avancent prudemment sur les cadres d’homologation. Les niveaux d’automatisation et les exigences de preuve varient, mais le point commun reste la nécessité de démontrer une maîtrise du risque. Une architecture agentique mal documentée complique ce dialogue.

Les assureurs s’intéressent à la fréquence et à la sévérité des sinistres, mais aussi à la capacité à attribuer les causes. Si un agent peut modifier sa stratégie après une mise à jour, ou si son comportement dépend d’un apprentissage continu, la question de la stabilité du produit se pose. Les modèles économiques, primes, franchises, responsabilités, reposent sur une certaine prévisibilité. De plus, la gestion des litiges exige des journaux d’événements exploitables, ce qui renvoie à l’architecture des logs, de la télémétrie et de la conservation des données.

La responsabilité juridique se joue aussi dans l’interface homme-machine. Si le véhicule demande une reprise en main, le timing et la clarté de l’alerte sont essentiels. Un agent qui hésite trop tard, ou qui surestime ses capacités, peut placer le conducteur dans une situation impossible. Cette problématique est connue depuis les systèmes de niveau 2 avancés. Avec l’agentique, l’enjeu devient de définir des limites contractuelles, quand le système est autorisé à agir seul, et dans quelles conditions il doit se dégrader.

Torque News met en avant une idée simple, la promesse de l’autonomie dépend autant de la qualité de l’architecture que des progrès des modèles. Une industrie qui se focalise sur des démonstrations spectaculaires, sans investir dans une architecture vérifiable, risque de ralentir sa propre adoption. Les autorités peuvent imposer des exigences plus strictes, les assureurs peuvent augmenter les coûts, et les consommateurs peuvent perdre confiance après quelques incidents médiatisés.

Dans ce contexte, plusieurs acteurs du secteur plaident pour des approches plus transparentes, des audits indépendants, et des standards partagés de journalisation et de validation. La course à l’autonomie ne se gagnera pas seulement sur la puissance de calcul ou la quantité de données, mais sur la capacité à prouver, de façon reproductible, qu’un agent respecte des contraintes de sécurité non négociables dans la circulation réelle.