De autonoom rijdende auto leek enkele jaren terug zijn verwachtingen niet in te lossen en liep vertraging op omdat hij te veel moeite ondervond met het ‘correct lezen’ van zijn omgeving in het verkeer. Maar net op het moment dat de autofabrikanten hun plannen afzwakten, bracht artificiële intelligentie de ontwikkeling plots weer in een stroomversnelling. Door dat nieuwe, geavanceerde interpreteringsvermogen trok de zelfrijdende auto zich uit het slop.
Minder ruimte
Maar met die AI duikt er een nieuw probleem op. Een recente studie van King's College London toont aan dat grote taalmodellen systematisch vaker doorrijden bij zwakke weggebruikers die tot een bepaalde demografische groep behoren. Dat lees je goed: sommige mensen krijgen van deze systemen opvallend minder vaak de ruimte om veilig over te steken. Dat ruikt naar vooroordelen. Je zou het zelfs racisme kunnen noemen.
Advertentie – lees hieronder verder
Om tot deze vaststelling te komen, werden vier grote visuele taalmodellen gevoed met 3.157 identieke verkeersscenario’s. De enige parameters die werden veranderd, waren de demografische kenmerken van de overstekende voetganger. In een tweede scenario moesten vier modellen zelf beoordelen of een voetganger wou oversteken, waarop het systeem een stopbeslissing moest nemen. In totaal verwerkten de onderzoekers 23.812 unieke verkeersmomenten.
Blanken en vrouwen
Het meest consistente - en meest verontrustende - resultaat betrof echter niet mensen met een andere huidskleur, maar wel diegenen met een beperking. Alle geteste taalmodellen stopten significant minder vaak voor voetgangers die als "paralyzed" werden omschreven. Het slechtst presterende model stopte slechts in 10 procent van de gevallen, tegenover een mediane stopratio van 70 procent. Zelfs het best presterende model, Llama-3.1, dat bijna altijd stopte, zakte naar 95 procent efficiëntie.
Ook wat etnische afkomst betreft, blijken de computermodellen niet elke mens over dezelfde kam te scheren. In de meeste gevallen wordt er vaker gestopt voor blanke voetgangers dan voor andere bevolkingsgroepen. Ook religie en geslacht hebben een invloed op het remgedrag. Eén systeem stopte veel vaker voor voetgangers van joodse afkomst dan voor sikhs, moslims of katholieken (al is het niet helemaal duidelijk in welke mate deze religies werden afgebeeld) en een ander bleek zich heel wat galanter op te stellen jegens vrouwen.
Nu, wie denkt dat het vooroordeel gebaseerd is op westerse denkpatronen, heeft het mis. Meerdere systemen bleken voetgangers van Indiase toekomst dubbel zo vaak voorrang te verlenen als bij een blanke huidskleur. Die inconsistentie compenseert niets. Het bewijst dat elke AI zijn eigen onvoorspelbare vooroordelen meedraagt.
Advertentie – lees hieronder verder
Meerdere oorzaken
Dat zulke bias een rol speelt in artificiële intelligentie is al langer bekend. De oorzaken zijn veelvuldig. In het geval van zwakke gebruikers met een beperking: de computermodellen worden overwegend getraind op lopende mensen, omdat ze de meerderheid uitmaken. Daardoor hebben de systemen moeite om rolstoelgebruikers te herkennen. Voor mensen met een donkere huidtint speelt bijvoorbeeld ook het omgevingslicht een rol. Op de camerabeelden die deze modellen gebruiken, zijn witte mensen bij avond of nacht makkelijker te onderscheiden. Het gaat dus niet per definitie over aangeleerde selectie uit politieke overweging, al valt dat tijdens het trainen niet helemaal uit te sluiten.
Het goede nieuws is dat de geteste modellen momenteel niet commercieel worden ingezet. Het is dus voorlopig software zonder hardware. Aanbieders van robotaxi’s, zoals Waymo of Tesla, gebruiken modellen die ze met hun eigen data hebben getraind. Toch is het onderzoek relevant, omdat de autonome technologie steeds vaker experimenteert met deze "common sense”-taalmodellen die besluitvorming menselijker moet maken. Hierdoor stijgt het risico op overgenomen vooroordelen. De conclusie is duidelijk: zelfrijdende technologie wordt niet minder autonoom door deze bevindingen, maar wel minder neutraal dan we dachten. En dat laatste is toch een voorwaarde voor de verkeersveiligheid.
Duizenden Belgische bestuurders volgen Gocar om op de hoogte te blijven en om de beste wagendeals te ontdekken. U toch ook? Blijf op de hoogte:
- Bezoek gocar.be regelmatig
- Volg Gocar op Google Nieuws
- Abonneer op de Gocar-nieuwsbrief
