Les miles en mode autonome de Tesla et de Waymo ? Du flan, selon un expert américain

je suis sur LinkeIn un expert américain de la voiture autonome, Philip Koopman, qui est de l'Université de Carnegie Mellon. Et je viens d'en découvrir un autre, John Linland. 

Cet expert du design en sécurité fonctionnelle, qui a travaillé pour Fiat-Chrysler et TuSimple, fondateur de la société QualSAT, remet en cause les millions de miles en mode autonome qui sont avancés comme la preuve que les systèmes autonomes sont prêts et efficaces.

Il n'en est rien.

Dans un post qui gagne à être connu, il publie un article de 25 pages qui appuie le propos. Lindland explique que, ce qui compte, c'est le nombre de miles parcourus par le système entre deux changements de configurations. 

Or, Tesla et Waymo présentent un kilométrage global. Et c'est là que le bât blesse. Régulièrement, les systèmes se retrouvent en échec, parce qu'ils n'ont pas reconnu une situation à risque. Il y aura alors un changement logiciel, ou un changement de carte. Et le système va repartir sur une nouvelle version. 

Ce qui supposerait de remettre les compteurs à zéro. Car les miles mis en avant appartiennent à autant d'anciennes versions.

Dans le cas de Tesla, le FSD supervisé repose sur le conducteur pour reprendre la main. Pour ce qui est du système non supervisé, on va bien voir comment ça va se passer.

Chez Waymo, la voiture fait ce que Lindland appelle un "stop timide". Elle s'arrête, parce qu'elle ne sait pas quoi faire. 

Dans les deux cas, il n'y a pas eu forcément d'accident. Mais pour l'expert, le système était quand même dans un mode d'échec. Et le simple fait d'apporter un patch logiciel ne règle pas le problème, car il faudrait s'assurer que la solution à un problème donné ne remet pas en cause l'intégrité de tout le système. Et pour cela, il faudrait repartir sur de la simulation et de nouveaux tests. 

Le FSD est-il sûr ? L'article de John Lindland rapporte un test indépendant d'AMCI Testing sur 1 000 miles. Il y a eu 75 interventions humaines, soit une tous les 13 miles en moyenne. Le danger vient du fait qu'il a l'air efficace, mais qu'il ne l'est pas tant que ça.  

Quant à Waymo, ce papier rapporte les cas déjà médiatisés ou la voiture s'arrête, puis se lance dans des manoeuvres hasardeuses (rouler dans une rue inondée, frôler des arrêts de bus scolaires...).

Techniquement, l'auteur recommande d'utiliser la norme ISO26262 sur la sûreté de fonctionnement dans l'automobile, ainsi que sa méthode qu'il appelle HARA (Hazard Analysis and Risk Assessment) pour identifier les dangers, évaluer les risques et définir des objectifs de sécurité. 

Bref, au lieu de brandir des chiffres qui impressionnent le public, il vaudrait mieux s'attaquer aux causes profondes et bosser davantage le design du système ainsi que la traçabilité des actions.

Cet article sera ignoré par les partisans de Tesla et par tous ceux qui rêvent de robotaxis américains ou chinois en Europe. Mais, il pose de vraies questions.