Mens versus robot versus mens en robot

Bron: Wikimedia

Zou je in een vliegtuig stappen dat uitsluitend wordt onderhouden door robots? Je oude oma volledig laten verzorgen door een huis vol domotica? Je laten opereren door een volledig geautomatiseerd systeem?

Antwoord je bevestigend op deze vragen, dan geloof je in de onfeilbaarheid van digitale systemen. En daar zijn redenen voor. Machines laten zich bijvoorbeeld niet afleiden door emoties. Een bekend voorbeeld: de zelfrijdende auto van Google maakte tijdens een lange testperiode maar één ongeluk: op het moment dat de menselijke bestuurder ingreep. Ook kunnen computers veel meer data paraat hebben en deze inzetten. Denk aan Watson, de supercomputer die de mens versloeg in de kenniskwis Jeopardy.

Antwoord je ontkennend op deze vragen, dan geloof je in de unieke intelligentie van de mens. Zo kunnen we creatief denken, empathie tonen, verbeelden en razendsnel patronen herkennen. Ook het feit dat we op fysiek terrein (motoriek) de computer op de meeste tests nog verslaan, telt mee. Je oude oma laten wassen door een robot... nog geen goed idee. Overigens: robots en systemen zijn uiteindelijk gemaakt door mensen. En mensen maken fouten, bijvoorbeeld in het ontwerp.

Tijdens het VINT-symposium, eerder dit jaar, sprak Bennie Mols over dit onderwerp. Hij presenteerde er een interessante paradox: 'Hoe meer intelligente taken een machine overneemt, hoe crucialer ingrijpen door menselijke intelligentie wanneer de machine een fout maakt.' Als een robot een eenvoudige taak heeft uitgevoerd, zoals het vastdraaien van een schroef, is gemakkelijk door de mens te controleren of dat goed gebeurd is. Maar we laten robots steeds moeilijker taken uitvoeren en die zijn moeilijker te evalueren.

Mols noemt als voorbeeld de automatische piloot in een vliegtuig. In 2009 was een kapotte hoogtemeter in de Boeing 737-800 van Turkish Airlines de aanleiding voor het neerstorten van het toestel in de buurt van Schiphol. De automatische piloot reageerde op de foutieve gegevens van de hoogtemeter, waardoor deze de verkeerde beslissingen nam. De menselijke piloten raakten in verwarring en wisten niet wat ze moesten doen. Krak!

Een nadere uitwerking gaat over taken die door computers worden overgenomen, maar waarbij tegelijkertijd professionals aanwezig zijn. Zoals in het vliegtuig met automatische piloot:

• hoe beter het geautomatiseerde systeem is
• hoe minder de menselijke professional zijn vaardigheden en alertheid onderhoudt
• hoe kleiner de kans dat deze professional (juist) ingrijpt op het moment dat het systeem faalt

Met name de 'tacit knowledge' zoals die zo mooi beschreven is door Malcolm Gladwell in zijn boek 'Blink. The Power of Thinking without Thinking' is aan ernstige erosie onderhevig als er geen ervaringsleren meer plaatsvindt. Hoe los je dat probleem op?

Video: Bennie Mols tijdens het VINT-symposium 2013 Of lees zijn boek 'Turing's Tango'.