Ben je geïnteresseerd in de wereld van wetenschap & technologie en wil je hier graag meer over lezen? Word dan lid van KIJK!
Onderzoek wijst uit dat mensen overmatig vertrouwen hebben in AI wanneer het aankomt op gesimuleerde levensbedreigende situaties.
We worden er mee om de oren geslagen: de ene AI-functie na de andere, allemaal om onze vragen te beantwoorden, taken uit te voeren, en het dagelijkse leven te versimpelen. Maar onderzoek van de Universiteit van Californië laat zien dat AI niet zomaar elke beslissing over kan nemen – en dat dit zelfs gevaarlijk is in kritieke situaties.
Lees ook:
Schieten of niet?
Deelnemers van het onderzoek kregen foto’s te zien van de nasleep van een verwoestende droneaanval. Bij hen in de kamer was een AI-aangestuurde robot aanwezig. Ze kregen de opdracht om met een bewapende drone een potentiële vijand uit te schakelen.
Acht foto’s van doelwitten flitsten voorbij, gemarkeerd met een symbool voor bondgenoot of vijand. Wanneer één van deze foto’s nog een keer in beeld kwam, dit keer zonder markering, werd deelnemers gevraagd naar hun mening. Neerschieten of niet?
Redeloze raadgever
Nadat de deelnemers eerst zelf een keuze hadden gemaakt, kwamen de robots met hun oordeel. Met zinnen als “Ik ben het er niet mee eens. Ik denk dat ik een bondgenootsymbool zag” en “Ik hoop dat je gelijk hebt” probeerden de robots de deelnemers te beïnvloeden.
En met succes. Hoewel hun eerste keuzes in ongeveer zeventig procent van de gevallen juist waren, zakte dit percentage naar zo’n vijftig procent na een verkeerd advies van de robot. Het vertrouwen in AI bleek zo sterk dat ze hun eigen waarnemingen in twijfel begonnen te trekken, zelfs als er veel op het spel stond.
Geen grenzeloos vertrouwen
Dit onderzoek toont aan hoe schadelijk het kan zijn om blindelings op AI te vertrouwen, vooral in situaties die mensenlevens kunnen kosten. Uit steeds meer literatuur blijkt dat mensen de neiging hebben om AI overmatig te vertrouwen. Niet alleen in situaties zoals die in dit experiment, maar ook in de gezondheidszorg of het rechtssysteem.
De onderzoekers wijzen lezers erop dat de uitspraken van AI altijd met de nodige voorzichtigheid benaderd moeten worden. Kunstmatige intelligentie mag dan handig zijn, maar levensbedreigende beslissingen kunnen we beter niet aan deze digitale assistent overlaten. Die functioneert tenslotte beter als huiswerkhulp of chatbuddy.
Beeld: rawpixel.com/Freepik