Commentaires - Un simple autocollant pour tromper l'intelligence artificielle de la voiture autonome

L'homme a toujours plus de trou que la machine.

On viendra à la voiture autonome, et quand ça fonctionnera aussi bien qu'un humain voir mieux, tout le monde s'y mettra.

Pourquoi ?

Parce que les puissants ont tout à y gagner.

Fini les taxis.

Fini les routiers.

Fini les livreurs.

Fini les véhicules de nettoyage.

Bref le gain économique est très grand, et comme y'en a qui vont continuer de s'enrichir, on y viendra à la conduite autonome...

Avec le temps, la programmation sera de plus en plus fine afin d'éviter ce genre de "piège". Comme avec tout nouveau produit, ce sont les premiers clients qui essuieront les plâtres (au risque d'avoir un accident mortel...)

c'est surement une rono !

Laissons le temps au temps.

Toute nouvelle technologie connaît quelques "balbutiements" (plus ou moins) rapidement corrigés.

Rappelons nous les premiers capteurs de pluie capricieux, les premiers régulateurs de vitesse, etc.

Aujourd'hui, existe-t-il encore un modèle pour lequel ces équipements ne sont pas fiables?

Quid des premiers lecteurs CD où le moindre caillou un peu volumineux les faisaient "sauter"?!

Maintenant, avec les CD-MP3 (et qui plus est, le BT Audio, désormais), impossible de réitérer ça!

Tout avance.

Là, il va juste falloir un peu plus de temps... ;)

Ca marche aussi ave certains ici. Prenez une Skoda, avec un autocollant, masquez le logo et remplacez le par 4 anneaux, et ça devient du prémieumme à leurs yeux. Leur logiciel est beaucoup trop simpliste.

Sans compter 4 autres points importants:

- Possibilité de travailler pendant le trajet, càd gain d'activité de 1h en moyenne par jour... payé pareil évidemment.

- Vente de produits de "consommations" multimédia... bah oui, si il n'y a plus de conduite il faut occuper le conducteur et donc lui faire payer des services ou un abonnement.

- Augmentation des coûts d'assurance, pour diverses raisons techniques impossible à résumer ici.

- Surveillance: à but de renseignement ou à but commercial.

Sauf qu'un capteur de pluie défaillant ne peut pas causer la mort.

Une bagnole autonome qui franchit le stop sur une route nationale fréquentée plutôt que de s'arrêter, pendant que le conducteur est en train de lire un bouquin ou regarder son smartphone et ne peut donc pas réagir à temps... et c'est le carnage.

Bah, il sufffira que chaque panneau émette un signal d'information à la voiture pour pallier au problème.

C'est ce qui se passe avec les TGV. L'information est directement transmise au conducteur dans la cabine par le panneau signalétique. Ik est impossible en effet à l'oeil humain de lire les panneaux à grande vitesse.

Pour la voiture autonome, cela réglerait les problèmes de visibilité la nuit, par temps de brouillard, etc....

Alors, Certes, equiper la plupart des panneaux coûtera cher mais c'est pas pour demain non plus

Un article intéressant de l'Usine Digitale à ce sujet:

https://www.google.fr/amp/www.usine-digitale.fr/amp/article/comment-le-vehicule-autonome-va-transformer-l-infrastructure-routiere-en-4-exemples.N565409

Une nouvelle raison d’être septique comme moi sur les voitures autonomes

Des situations comme celle là il y en a des centaines possibles. Une intelligence humaine suffisamment concentrée sera encore bien plus sure qu'une machine pendant 50 ans au moins

Et l'argument sur les intérêts des puissants est un argument contre l'autonome selon moi, des millions d'emplois seront détruit pour un gain réel pour la population presque inexistant, au mieux on peut dire du confort . Du coup je ne peux qu’être contre

On se fait déjà assez avoir par les puissant de se monde, ne soyons pas stupides et rejetons cette mode contre productive !

Et quand on voit les multiples affaires dans lesquelles les développements logiciels ont été fait à l'arrache pour coller à des deadlines produits ou à des budgets serrés...on est pas franchement rassurés.

Failles des algos, failles de sécurité...et c'est le CONsommateur qui paie les pots cassés.

Voilà qui laisse à penser qu'il y a encore quelques progrès à faire. Ceci dit, vu le nombre grandissant de conducteurs qui semblent ne pas reconnaitre les panneaux non plus...

Perso je ne crois aucunement à la généralisation de la voiture autonome autrement qu'en site propre.

Ou alors, que lorsqu'il n'y aura QUE des voitures autonomes.

La cohabitation entre voitures autonomes et voitures non autonome sur nos infrastructures me semblent difficile tant les facteurs de risques et les situations que toute la recherche du monde ne peut prévoir sont infinis

Il faut des routes ADAPTEES aux véhicules autonomes. Point

A l'entrée de la zone de route adaptée, validée par un organisme à créer, la voiture s'autorisera à passe en mode autonome.

Cette zone peut être indiquée par GPS (encore que j'y crois pas quand deux routes sont parallèles), ou alors des aimants dans le sol, ou un code barre dessiné sur le sol (invention citroen).

Et d'un autre coté c'est aussi la fin du véhicule privé. Certains y gagnent, d'autre y perdent, comme les constructeurs, et ils sont puissant. Ils n'empêcheront pas un service de taxi bien pensé qui gère tout les déplacement dans les agglomérations.

bah, c'est de la mauvaise foi.

le problème est surtout lié à l'algo de la voiture autonome qui a servi de cobaye.

car si ellle ne s'intéresse qu'à ce qu'elle "lit" sur les panneaux, effectivement, on est mal barré.

mais quand on a un stop, il y a théoriquement également un marquage au sol caractéristique d'un stop. il y a également généralement un croisement.

et la voiture autonome peut également "voir" des véhicules arriver sur la route à traverser. elle peut même déterminer leur vitesse et en déduire facilement si le véhicule est ên passe de s'arrêter ou non. etc, etc...

bref, ce n'est pas le principe de la voiture autonome qui est en cause, mais les concepteurs de l'algo de conduite qui n'ont pas fait correctement leur taf, nuance.

ensuite, étant donné le nombre de fois où je vois des conducteurs humains griller les stops, que dire?

la voiture autonome ne sera pas parfaite, encore moins au début. mais les algos de conduite seront améliorés au fil du temps et de l'expérience acquise, ça, c'est une évidence. leur fiabilité sera donc renforcée sur la durée.

maintenant, si la voiture autonome ne sera jamais parfaite à 100%, l'être humain ne l'est pas plus, et lui, ne s'améliorera d'ailleurs probablement jamais. le constat est d'ailleurs au contraire une nette dégradation du comportement des gens sur la route. et je défie quiconque d'affirmer l'inverse.

+1

en revanche, les accidents pourront potentiellement toucher tout le monde, puisque par exemple un conducteur humain d'une voiture classique pourra très bien se faire défoncer par une voiture autonome...

d'où l'importance de partir du principe qu'en cas de doute, l'algo d'une voiture autonome doit au pire décider de s'arrêter.

"Sauf qu'un capteur de pluie défaillant ne peut pas causer la mort."

oui et non.

qui dit capteur de pluie dit déclenchement automatique des essuis-glace, dit également un conducteur qui ne sait plus à terme déclencher manuellement les essuis-glace.

en pleine nuit (sans lune), le mec suit un poids lourd sur une route secondaire qui roule sur un nid de poule rempli d'eau. l'eau asperge subitement le parebrise du mec et les essuis-glace ne se déclenchent pas du fait du capteur défaillant.

à ce moment-là, un virage rentrant... une voiture arrive en face...

si si, ça peut arriver, et avec tous les automatismes existants, beaucoup de gens ne savent même plus conduire une caisse de 30 ans.

"Une intelligence humaine suffisamment concentrée sera encore bien plus sure qu'une machine pendant 50 ans au moins"

en pleine nuit? j'en doute.

de toute façon, je ne sai spas où tu roules précisément, mais si tous les conducteurs humains étaient des "intelligences humaines suffisamment concentrées", ça se saurait depuis le temps... et d'ailleurs, il n'y aurait plus aucun accident.

donc, non, même si toi, t'est du genre ultra concentré quand tu conduis, la réalité, c'est que la majorité des gens ne le sont pas.

et même un type comme moi, pourtant bien concentré, je ne suis pas à l'abri d'un moment d'inattention.

la caisse autonome, elle, ne peut pas être déconcentrée.

Un conseil allez lire l'article original, parce que là c'est évident que le rédacteur caradisiac n'a rien compris et raconte légèrement n'importe quoi...

Ils n'ont pas "posé simplement" quelques stickers au hasard, c'est calculé par un puissant algorithme d'attaque qui vise à tromper la machine de reconnaissance.

Machine de reconnaissance qui n'est en aucun cas celle d'une vraie voiture (les constructeurs ne vont pas donner accès comme ça aux algorithmes qu'ils utilisent !), mais une IA créé ici pour l'étude à partir d'une base de données des panneaux US.

Le but n'est pas de montrer une inefficacité des vrais systèmes autonomes en conditions "normales", un mec lambda qui poserait un sticker au pif pour s'amuser ne bernera jamais le système... mais cela montre que les constructeurs doivent considérer un potentiel "hacking" de leurs algorithmes, et une attaque physique bien ciblée.

L'étude ici : https://arxiv.org/pdf/1707.08945.pdf

Le FAQ à lire pour bien comprendre aussi...

Entre autres :

Based on this work, are current self-driving cars at risk?

No. We did not attack a real self-driving car. However, our work does serve to highlight potential issues that future self-driving car algorithms might have to address.

Should I stop using the autonomous features (parking, freeway driving) of my car? Or is there any immediate concern?

We again stress that our attack was crafted for the trained neural network discussed above. As it stands today, this attack would most likely not work as-is on existing self-driving cars.

+1

ça, c'est le propre de nos sociétés actuelles: faire vite, pas cher, et mal fait.

même dans ma boite, on m'a empêché à maintes reprises d'améliorer des développements mal conçus en m'expliquant qu'on n'a pas les sous, pas le temps, etc... et que tant pis, on fait avec...

le pire, c'est que de laisser les choses en l'état, ça génère des dysfonctionnements récurrents et à répétition qui font... perdre du temps, voire de l'argent, voire bien pire...

imagine dans ce cas les débuts de l'automobile.

avec un tel raisonnement, on aurait interdit l'automobile. et d'ailleurs, c'était le souhait de beaucoup, jusqu'à aller instaurer des limitations de vitesse folkloriques, genre 3 ou 4km/h.

de toute façon, si on ne le fait pas en France ou en Europe, ça n'empêchera pas les chinois, japonais, américains, coréens et d'autres de le faire... et au final, on sera comme des cons sur la planête, avec un train de retard.

ça ne sera la fin du véhicule privé QUE pour ceux ne voulant pas en acheter un.

pour ma part, même si elle est autonome, je continuerai de posséder ma propre caisse.

hors de question par exemple de partager une caisse avec un fumeur, un souillon ou je ne sais trop quoi d'autre...

j'ai également ma propre maison, mon propre jardin, mon propre vélo, mes propres appareils ménagers...

le coup du "on partage tout avec tout le monde", on sait ce que ça donne bien souvent au final...

En tant que dev, je ne peux que compatir à ce que tu décris....c'est partout pareil malheureusement !

Ce qui est bien avec le tout autonome c'est qu'on a plus besoin d'humains. Un peu comme dans les entrepôts grands sites de vente sur le net, full automatisé. Les robots travaillent, conduisent, a notre place, bientôt ils mangeront et respirant pour nous. En gros on sert à quoi?

À payer tous ces nouveaux services bien sûr

Pas mal

Petite variante de l'article en question : un bonhomme se pointe sur le trottoir en tenant au-dessus de sa tête un panneau "stop" parfaitement lisible et hop ! la voiture autonome s'arrête au beau milieu de la rue...

Et pourquoi pas la même chose en brandissant un panneau de sens interdit...

On n'a pas fini de rigoler.

ça dépend, ce qui fait le bonheur de certains fera le malheur des autres. Nul doute que la voiture autonome finira par effacer tout intérêt d'avoir un véhicule privé. Autant avoir un réseau de voiture autonome gérant les besoins de déplacement de toute le monde, ce qui réduira drastiquement le nombre de véhicule sur les routes et donc les ventes des constructeurs.

"Heureusement, les chercheurs affirment que cette faille est très facile à corriger pour les équipementiers et constructeurs. Mais c'est toujours boucher un trou pour en trouver un autre..."

Tiens, je demande à voir!

Ce qui a été fait sur ce panneau n'est ni plus ni moins que le principe de la Captcha!

Et une Captcha, c'est justement un système conçu pour discriminer une machine quelle que soit sa puissance de calcul!

Alors dire qu'on arrange ça avec 2/3 algos, c'est du pipeau!

N'importe quel humain reconnais un panneau décoloré, une machine, j'en doute, encore moins avec un analyseur qui bosse sur un espace colorimétrique en 8 bits (HD/UHD)!!!

L'oeil humain est capable de bosser en 32 bits, d'ou l'efficacité de la Captcha ou tout autre système du style!

C'est bien pour cela qu'il existe 5 niveaux dans le degré d'autonomie des véhicules.

Et tant que le niveau 5 n'aura pas été atteint... bah le conducteur devra faire gaffe!

on est pas chez benny hill !

Ce n'est pas les autocollants qu'il faudra craindre, mais le piratage informatique !

Puis la voiture autonome, se sera encore un pas de plus vers le contrôle de la populace...allez, on applaudit des deux mains

Non c'est vrai, mais je dirais que lorsqu'on commence à réellement observer tout ce qu'il y a de (tragi)comique dans le monde réel, on n'a finalement plus trop besoin de regarder des spectacles d'humoristes

L'absurdité est partout, je me le disais encore ce matin en lisant les infos au sujet du clown américain qui lance des invectives au clown coréen (et vice-versa) et qui vont finir par nous déclencher une guerre juste pour montrer lequel des deux a la plus grosse paire.

Ca nous sort un peu du sujet mais Benny Hill aurait pu faire un sketch marrant là-dessus (enfin bon, il y a déjà eu Docteur Folamour).

Marre de toute l'électronique qu'ils foutent dans les voitures...

Très étrange que la voiture ne prenne pas en compte la forme.

Qui a déjà vu un panneau de limitation de vitesse qui ne soit pas rond (hexagonal ici)? Même effacé, l'homme sais que c'est un stop. C'est bien pour faciliter la reconnaissance que les panneaux ont des formes différentes...

Incroyable de comparer cela à l'apparition des autos

L'apparition de l'automobile n'est en rien comparable à l'arrivé de la voiture autonome. L'augmentation de la mobilité apporté par les autos est nette et incontestablement un progrès pour la société. L'autonomie de quelque chose que l'on a déjà, ça n'apporte presque rien pour des investissements colossaux en véhicules et infras.

Cela ne change rien a la vie des gens ou presque, il faut se mettre ça dans la tête

Et pire, cela permettrait de supprimer des milliers d'emplois (même si c'est tout ce que je souhaite pour ces arnaqueurs de taxis) à terme. Sans pour autant qu'un service s'améliore, aucun intérêt

L'autonomie partielle sur voie rapide et dans un bouchons suffirons amplement à notre bonheur

Ca n'a pas été testé sur une voiture.

ben idéalement, notre rôle futur devrait consister à leur dire ce qu'il faut faire...

en gros, conduis-moi à tel endroit, fais la vaisselle, fais le ménage, passe la tondeuse, débrouille toi, etc...

ça, c'est un vrai problème, car il est clair que ça va amuser un certain nombre de plaisantins...

genre, débouler sur la rue au dernier moment, en sachant que la voiture fera tout pour s'arrêter avant.

ben, oui, notre destin, c'est minority report.

bien ou pas bien, de toute façon, avons-nous le choix?

et on le voit, avec la menace terroriste - bien réelle -, on ne peut plus raisonnablement donner toute latitude à la populace. car si 99% des gens ne font rien de mal, t'as une minorité qui fout la merde et qui justifie tout ce flicage.

"bien ou pas bien, de toute façon, avons-nous le choix?"

Achète un Cat 165 à la place d'une ZOE et tu verra que les constructeurs iront là ou le pognon vas!

Si on est 1 000 000 à rouler en youngtimers et petites séries low coast, tkt, ils vont se calmer!

Nous sommes à la moitié de l'année 2017, il s'agit de mise au point.

Encore heureux qu'ils fassent toutes sortes d'essais, de tests.

Je rappelle que la première voiture autonome n'est pas attendu avant 2020.

Il sera toujours temps à ce moment là d'émettre des critiques à son encontre.

Les VA seront opérationnelles pour le grand public et surtout généralisées sur route d'ici 25/30ans grand maximum.

Mais auparavant, il y aura des applications pour commencer a habituer le grand public.

Des documentaires à gogo.

Des reportages en veux tu en voilà. ..

Bref ! Toute l'habituelle méthode d'endoctrinement.

Vous allez vous y faire les gars...Ne vous inquiétez pas. (Vous n'aurez pas le choix de toute façon.)

je ne connais pas

Tant que le niveau 5 ne sera pas fiable, les véhicules ne seront pas autonomes.

Tout le reste n'est que fabulation et marketing!

Merci pour ces précisions

Ils ont aussi essayé en remplaçant STOP par GO?

va expliquer à un aveugle que la voiture autonome est un non sens et une lubie.

on en reparle après.

pourquoi d'ailleurs faire des aménagements pour les handicapés puisque nous n'en avons pas besoin, ni toi, ni moi ?

et puis, les gens trop agés, suffit de les envoyer dans des mouroirs. après, tout, ils ont fait leur temps...

et les gens qui ont bu un verre de trop? bah, suffit qu'ils attendent quelques heures avant de reprendre le volant ou qu'ils ne boivent pas (après tout, l'alcool devrait être interdit). et si on les chope, ben, hop, en prison.

celui qui a tendance à somnoler en voiture? pas grave! quelques accidents, ce n'est pas dramatique...

et puis, pourquoi s'emmerder à faire autre chose quand on peut prendre son pied à se taper 2h de bouchon sur le périph en s'amusant à accélérer et freiner sans arrêt?

bref, oui, la voiture autonome ne sert à rien et n'est pas une révolution.

Le niveau 5 sera la fiabilité ultime. Tant que cela n’aura pas été atteint: pas de niveau 5. À l’heure actuelle on doit en être au second ou au troisième !!

Laisse venir...