Le rappel de 2 millions de véhicules par Tesla nous rappelle jusqu’où l’IA des voitures sans conducteur doit encore aller

Tesla a rappelé 2 millions de véhicules américains en raison de préoccupations concernant sa fonction de pilote automatique. Le pilote automatique est destiné à faciliter les manœuvres telles que la direction et l’accélération, mais nécessite toujours l’intervention du conducteur. Cela survient quelques jours seulement après qu’un ancien employé de Tesla, dénonciateur, ait mis en doute la sécurité de la fonction de pilote automatique.

Une simple recherche sur Internet révèle plusieurs cas signalés où les voitures ont commis des erreurs en identifiant des objets sur la route. Par exemple, une voiture Tesla a confondu l’image d’un panneau d’arrêt sur un panneau d’affichage avec la réalité et a confondu la lune jaune avec un feu de circulation jaune.

Il y a également eu de nombreux exemples récents de problèmes avec les « robots-taxis » opérant à San Francisco. Cela soulève la question de savoir si la technologie qui permet aux véhicules de fonctionner de manière autonome est prête pour le monde réel.

La force motrice derrière les véhicules autonomes est l’intelligence artificielle (IA), mais les algorithmes actuels ne disposent pas de la compréhension et du raisonnement humains nécessaires au contexte lors de la conduite. Cela inclut un raisonnement contextuel avancé pour interpréter des signaux visuels complexes tels que des objets obscurcis et déduire des éléments invisibles dans l’environnement.

Interaction sociale

De plus, ces véhicules doivent être capables de raisonner contrefactuellement, c’est-à-dire d’évaluer des scénarios hypothétiques et de prédire les résultats potentiels. Il s’agit d’une compétence cruciale pour la prise de décision dans des situations de conduite dynamique.

Par exemple, lorsqu’un véhicule autonome (VA) s’approche d’une intersection très fréquentée avec des feux de circulation, il doit non seulement obéir aux feux de circulation en vigueur, mais également prédire les actions des autres usagers de la route et considérer comment celles-ci pourraient changer dans différentes circonstances.

Un exemple de ce scénario est fourni par un accident survenu en 2017 dans lequel un robotaxi Uber a traversé un feu jaune en Arizona en 2017 et est entré en collision avec une autre voiture. À l’époque, on se demandait si un conducteur humain aurait abordé la situation différemment.

De plus, l’interaction sociale – un domaine dans lequel les humains excellent et où les robots échouent – ​​est essentielle. Par exemple, sur des routes urbaines avec des voitures garées des deux côtés, il n’est pas toujours clair qui a la priorité et nous utilisons nos compétences sociales pour négocier une manière équitable de procéder.

Aux ronds-points, il est courant que plusieurs voitures arrivent en même temps, ce qui rend difficile de savoir qui a la priorité. Encore une fois, les compétences sociales permettent aux conducteurs de s’arrêter en toute sécurité sur le rond-point.

Pour garantir une coexistence harmonieuse avec les voitures pilotées par l’IA, nous devons de toute urgence développer des algorithmes révolutionnaires capables de penser de manière humaine, d’interagir socialement, de s’adapter à de nouvelles situations et d’apprendre par l’expérience. De tels algorithmes permettraient aux systèmes d’IA de comprendre le comportement nuancé du conducteur humain, de réagir aux conditions routières imprévues, de prioriser la prise de décision tenant compte des valeurs humaines et d’interagir socialement avec les autres usagers de la route.

À mesure que nous intégrons les véhicules pilotés par l’IA dans le trafic existant, les types de normes que nous utilisons pour évaluer et valider le succès des systèmes de conduite autonomes deviendront insuffisants. Il existe un besoin urgent de nouvelles normes et mécanismes pour évaluer les capacités de ces voitures sans conducteur.

Utilisations spécifiques

Ces nouveaux protocoles devraient fournir des méthodes de test et de validation plus rigoureuses, garantissant que les véhicules pilotés par l’IA répondent aux normes les plus élevées de sécurité, de performance et d’interopérabilité (où les systèmes d’IA de différents fabricants peuvent « comprendre » et travailler ensemble). Ce faisant, ils établiront les bases d’un environnement de circulation plus sûr et plus harmonieux, où se mélangent les voitures sans conducteur et les voitures à conduite humaine.

Ce serait une erreur d’abandonner les voitures entièrement autonomes, même sans les développements nécessaires. Il y a encore de la place pour eux, même s’ils ne sont pas aussi omniprésents que pourrait l’indiquer la propagation rapide des véhicules Tesla. Nous en aurons besoin dans un premier temps pour des usages spécifiques comme les navettes autonomes et la conduite sur autoroute. Alternativement, ils pourraient être utilisés dans des environnements spéciaux dotés de leur propre infrastructure dédiée.

Par exemple, les bus autonomes pourraient parcourir un itinéraire prédéfini avec une voie dédiée. Les camions autonomes pourraient également disposer d’une voie séparée sur les autoroutes. Cependant, il est crucial que les utilisations se concentrent sur le bénéfice de l’ensemble de la communauté, et pas seulement d’un groupe spécifique (généralement riche) de la société.

Pour garantir que les véhicules autonomes soient bien intégrés sur nos routes, nous aurons besoin de divers groupes d’experts pour entamer un dialogue. Il s’agit notamment des constructeurs automobiles, des décideurs politiques, des informaticiens, des scientifiques et ingénieurs du comportement humain et social et des organismes gouvernementaux, entre autres.

Ils doivent s’unir pour relever les défis actuels. Cette collaboration devrait viser à créer un cadre robuste qui tienne compte de la complexité et de la variabilité des scénarios de conduite réels.

Cela impliquerait d’élaborer des protocoles et des normes de sécurité à l’échelle de l’industrie, façonnés par la contribution de toutes les personnes concernées et de garantir que ces normes puissent évoluer à mesure que la technologie progresse.

L’effort de collaboration devrait également créer des canaux ouverts pour partager des données et des informations issues de tests et de simulations réels. Il doit également favoriser la confiance du public par la transparence et démontrer la fiabilité et la sécurité des systèmes d’IA dans les véhicules autonomes.