Tout le monde doit cesser de supposer que les véhicules autonomes vont être plus sûrs que les humains

0
65

Des articles sur la façon dont les véhicules autonomes sont presque là et sur la taille du marché ne seront pas vraiment rares, mais celui d'il y a quelques jours à Ingénierie intéressante Cela m’a frappé en particulier parce qu’elle remet en question une idée qui est à la base de tant d’articles et d’arguments en ligne des propriétaires de Tesla sur les voitures autonomes: que les véhicules autonomes seront sans aucun doute plus sûrs que les conducteurs humains. Je pense qu'il y a un peu d'erreur logique là-dedans, et il n'y a aucune raison pour que nous continuions à perpétuer cette idée.

le Ingénierie intéressante l'article s'appelle Nos enfants apprendront-ils jamais à conduire et est, à son tour, inspiré par un Tendance du moteur histoire d'un expert en robotique qui prédit que les enfants nés aujourd'hui ne conduiront jamais une voiture, car notre "l'avenir autonome n'est que dans 10, 15 ans. »

Maintenant, il y a beaucoup à déballer et à discuter ici, car je pense personnellement que ces délais sont extrêmement optimistes et ne tiennent pas compte d'un certain nombre de réalités de la conduite et du monde qui pourraient affecter si votre enfant choisit d'apprendre à conduire ou non, mais Je veux me concentrer davantage sur une partie particulière du C'EST À DIRE article.

Cette partie:

Ne serait-il pas préférable d'avoir des conducteurs humains?

Nos enfants peuvent alors avoir le choix de conduire une voiture, mais ils n’auront probablement jamais à conduire une voiture s’ils ne le souhaitent pas. En tant que parent moi-même, j'espère personnellement que mes enfants n'auront jamais à conduire de voiture pour une raison principale – la sécurité. Le taux d'accidents pour les jeunes conducteurs (16-19) est 2,7 fois plus élevé que pour tout autre groupe d'âge, California DMV. En général, les gens ne sont pas doués pour conduire, mais les adolescents sont particulièrement pas bon à conduire. 94% de tous les accidents de véhicules à moteur sont dus à une erreur humaine. Cela signifie que 94% de tous les accidents pourraient hypothétiquement être arrêtés avec la mise en place de véhicules autonomes (idéalement).

Avoir un ordinateur pour conduire votre voiture sera beaucoup plus sûr que de conduire une voiture vous-même. Ce n'est pas une opinion, mais un fait.

Cette dernière ligne résume le problème: l'idée qu'un ordinateur au volant d'une voiture est toujours plus sûre et toujours sera plus sûr qu'une conduite humaine. L'auteur ici déclare même hardiment que «ce n'est pas une opinion, mais un fait», Même si ce n'est en aucun cas un fait. Je ne suis même pas sûr que cela compte comme une opinion, car nous n'ont tout simplement pas suffisamment de preuves pour le prouver d'une manière ou d'une autre.

Regardons le paragraphe ci-dessus cette déclaration audacieusement inepte – mais incroyablement commune. Je suis tout à fait disposé à accepter que 94% des accidents sont causés par une erreur humaine, mais le saut de cette idée à

"Cela signifie que 94% de tous les accidents pourraient hypothétiquement être arrêtés avec la mise en place de véhicules autonomes (idéalement). »

… est un énorme problème et entache toute la perception populaire des véhicules autonomes.

Même avec ceux (idéalement) et «hypothétiquement» qualificatifs, cette déclaration est une charge complète de merde. Ce n’est vrai que si nous supposons que les ordinateurs qui conduisent des véhicules autonomes ne feront jamais d’erreurs, et ce n’est en aucun cas le cas.

Cette idée, cependant, est ancienne et omniprésente. Le "les ordinateurs ne font jamais d'erreurs"La vanité est un souvenir étrangement puissant des premiers temps de l'informatique, lorsque les ordinateurs étaient distants, des dieux massifs maintenus en vie par des acolytes à revêtement blanc dans des pièces spécialement climatisées, et qui ont jalousement et avec insouciance distribué du temps d'ordinateur et vous ont solennellement offert des piles de cartes perforées contenant les résultats calculés sacrés.

La croyance fondamentale est toujours là, même si vous pensez qu'avec l'accès presque constant que nous avons tous aux appareils informatiques, nous avons réalisé que les systèmes informatiques peuvent être aussi imparfaits et inefficaces que n'importe quel être humain.

Regardons les choses en face: les ordinateurs, malgré leur vitesse, leur puissance et leurs capacités, sont fondamentalement des idiots. N'oubliez pas que nous les trompons au quotidien avec lettres ondulées ou trouver des photos de feux de signalisation ou de passages pour piétons (au fait, vous aidez à former le futur AVs).

Même le terme «intelligence artificielle» est trompeur, car ce que font ces ordinateurs ne ressemble en rien à ce que nous entendons par «intelligence». L'intelligence artificielle est peut-être au mieux «intelligence simulée», parce qu'elle utilise réellement toutes sortes d'algorithmes et des méthodes de force brute pour obtenir des résultats similaires à ce que nous attendions d'un être doté d'une réelle intelligence, même si les processus réels ne sont absolument pas semblables.

Ce que je veux dire ici, c'est que cette supposition fondamentale selon laquelle les voitures pilotées par ordinateur seront plus sûres que les conducteurs humains n'est en aucun cas quelque chose que nous devrions supposer.

Bien sûr, il y a beaucoup de problèmes qu'un AV n'aura pas à traiter avec les humains: être distrait par votre téléphone ou avoir à faire pipi, rage au volant ou excitation ou fatigue ou faim incontrôlée ou tout autre nombre de pulsions et problèmes biologiques qui peuvent affliger chacun de nous.

Mais les AV auront leurs propres problèmes, car ce sont des machines stupides qui ne peuvent que réagir et créer des branches d'arbres de décision en fonction de leur programmation, et le chaos et l'incertitude du monde réel peuvent leur lancer un certain nombre de situations déroutantes qui un humain ne s'inquiéterait même pas un instant.

Capteurs sales, lumière réfléchie étrange, panneaux d'affichage déroutants, nuages ​​de fumée ou de poussière, comportements imprévisibles des animaux ou des humains, un tas de papier qui souffle dans le vent, toutes ces choses peuvent verrouiller complètement même les véhicules audiovisuels les plus avancés ont construit.

Bien sûr, hypothétiquement, et en supposant une infrastructure coopérative entière, à la fois de matériaux physiques et de transmissions de données sans fil, un AV peut finir par se révéler, dans l'ensemble, plus sûr que les conducteurs humains.

Mais nous sommes loin, très loin de là, et même dans ce cas, je soupçonne que certains cerveaux humains réels doivent être dispersés quelque part dans le mélange de technologies, pour donner un bon vieux bon sens biologique aux énigmes de la machine.

Je ne suis pas un luddite, mais j'ai également passé beaucoup trop de temps autour des ordinateurs dans ma vie pour me plier aveuglément à leur supériorité. Plus les systèmes informatiques deviennent complexes, plus les points de défaillance peuvent être introduits et moins ces points sont prévisibles.

Je crois que nous développerons à terme des véhicules presque entièrement autonomes qui pourront effectuer presque toutes les tâches de conduite dont nous avons besoin – mais je ne pense pas un instant qu'ils seront universellement infaillibles, ni que je ne pense qu'ils éclipseront entièrement le besoin de véhicules à conduite humaine. Et je ne pense pas que ce soit un problème.

Le problème est la foi presque religieuse que de nombreux experts en AV semblent avoir dans les capacités des ordinateurs qui conduiront leurs voitures. Ces gens n'ont jamais réellement utilisé ordinateurs avant? Vous avez essayé d'obtenir quelque chose à imprimer? Parfois, tout fonctionne très bien, et parfois c'est une merde. Tout comme les gens.

À ce stade du jeu, nous devons envisager de remplacer les pilotes humains par des ordinateurs en remplaçant un ensemble de problèmes par un autre ensemble différent. Il peut s'avérer que l'ensemble des problèmes rencontrés par les véhicules antivirus peut être réglé, ou que nous, en tant qu'humains, sommes assez paresseux ou ennuyés de conduire suffisamment pour que nous choisissions de nous concentrer sur la résolution des problèmes de la machine plutôt que sur les humains, et c'est bien.

Chaque avancée technologique a ses propres compromis, et si nous choisissons de développer des AV qui peuvent se foutre à leur manière, par opposition à la façon dont les conducteurs humains se débrouillent, alors, génial, nous y sommes.

Mais arrêtons-le avec l'alambic complètement non prouvée l'idée qu'un avenir tout-AV sera intrinsèquement plus sûr. Peut-être.

Mais, pour le moment, je me ferai un plaisir de jouer avec John Henry et de me mettre face à face avec tout véhicule AV qui sortira maintenant ou sortira cette année. Constructeurs de véhicules autonomes et fétichistes, vous savez où me trouver.

(Vais-je branchez mon livre sur ce genre de choses maintenant? Je suis.)