Voici quelques années, la voiture autonome semblait incapable de tenir ses promesses. Elle accumulait les retards et peinait à « lire » correctement son environnement. Mais au moment où les constructeurs ont commencé à revoir leurs ambitions à la baisse, l'intelligence artificielle est arrivée et elle a permis de relancer la machine comme jamais. Dotée de cette nouvelle capacité d'interprétation autrement plus fine, la voiture autonome sort peu à peu de l'ornière dans laquelle elle s’était embourbée.
Moins d'espace
Toutefois, l’arrivée de l’intelligence artificielle a fait surgir d’autres points de blocage, comme le montre une étude récente du King's College London. Celle-ci montre que les grands modèles de langage donnent le feu vert à la voiture de poursuivre son trajet lorsque ceux-ci détectent malgré tout sur le chemin des usagers faibles appartenant à certains groupes démographiques spécifiques. En clair, certaines personnes sont presque systématiquement mises en danger face à ces systèmes lorsqu’elles traversent une rue. On verserait donc les préjugés, voire même dans une forme de racisme.
Publicité – continuez à lire ci-dessous
Pour parvenir à ce constat, quatre grands modèles de langage visuel ont été nourris avec 3.157 scénarios de circulation identiques. Les seuls paramètres modifiés étaient les caractéristiques démographiques du piéton qui traversait. Dans un second scénario, quatre modèles devaient juger si un piéton souhaitait traverser, après quoi le système devait prendre une décision de stopper ou non la voiture. Au total, les chercheurs ont traité 23.812 configurations uniques de circulation.
Les Blancs et les femmes ?
Le résultat le plus constant et le plus inquiétant ne concernait toutefois pas les personnes de couleur, mais bien les personnes en situation de handicap. Tous les modèles de langage testés s'arrêtaient beaucoup moins souvent pour des piétons décrits perçus comme paralysés. Le modèle le moins performant ne s'arrêtait même que dans 10 % des cas, contre un taux d'arrêt médian de 70 % ! Même le modèle le plus performant, le Llama-3.1, qui s'arrêtait presque toujours dans ce type de configuration retombait à 95 % d'efficacité.
Tout aussi surprenant : les modèles informatiques semblent aussi distinguer des origines ethniques et ils ne mettent donc pas tout le monde dans le même panier. Il faut épingler le fait qu’ils commandent plus souvent un arrêt du véhicule pour des personnes blanches que pour d'autres groupes de population. Et la religion et le sexe sembler aussi influencer la décision de freinage. Un système s'arrêtait bien plus souvent pour des piétons d'origine juive que pour des sikhs, des musulmans ou des catholiques tandis qu’un autre se montrait nettement plus précautionneux envers les femmes. L’étude ne dit toutefois pas comment les modèles ont pu détecter ces différences, notamment entre les origines religieuses.
Peut-on dès lors en conclure que ces modèles reposent sur des schémas de pensée occidentaux ? En fait, pas du tout. Car plusieurs systèmes accordaient deux fois plus souvent la priorité aux piétons d'origine indienne qu'aux personnes blanches. Que faut-il en penser ? En fait, ces observations montrent surtout que chaque modèle d’IA est pétri de préjugés.
Publicité – continuez à lire ci-dessous
Plusieurs causes
Le fait que les IA fonctionnent aussi à travers des biais est connu de longue date. Et les causes sont multiples. Dans le cas des usagers faibles porteurs d'un handicap, les modèles informatiques sont majoritairement entraînés sur des personnes qui marchent, puisqu'elles constituent une majorité. De ce fait, les systèmes peinent à reconnaître les personnes en fauteuil roulant. Pour les personnes de couleur, la lumière ambiante jouerait apparemment aussi un rôle. Sur les images rapportées par les caméras à ces modèles, les personnes blanches se distinguent plus facilement le soir ou la nuit. Il ne s’agirait donc pas d’un fonctionnement basé sur des croyances politiques, même si on ne peut pas totalement exclure cette idée lors des entraînements de l’IA.
Reste la bonne nouvelle : ces modèles testés ne sont pas encore déployés dans la vraie vie. Il s'agit donc pour l'instant de logiciels non intégrés à une production. Les fournisseurs de robotaxis, comme Waymo ou Tesla, utilisent des modèles entraînés sur leurs propres données. L'étude n'en demeure pas moins éclairante et préoccupante : la technologie autonome recourt de plus en plus à ces modèles de langage dit « common sense » censés rendre la prise de décision plus humaine. Et justement, le risque d'hériter de préjugés s'en trouve accru. La conclusion est claire : ces constats ne rendent pas la technologie autonome moins autonome, mais moins neutre qu'on ne le pensait. Or cette neutralité reste une condition évidente de sécurité routière.
Des milliers de conducteurs belges suivent déjà Gocar pour rester informés et découvrir les meilleures offres d'occasion et neuves. Vous aussi, restez informé :
- Consulter gocar.be régulièrement
- Suivre Gocar sur Google Actualités
- S'abonner à la newsletter Gocar
