Zwarte dozen...

In de kerstvakantie las ik 'Het internet is stuk. Maar we kunnen het repareren' van Marleen Stikker. Een van de begrippen die in dit boek regelmatig opduikt is 'black box'. Een verkenning van dit begrip.

Op handeling A volgt resultaat B.

In veel situaties is duidelijk wat er tussen A en B gebeurt. Een lichtknop maakt een elektrisch circuit of onderbreekt het. Het licht gaat aan of uit. 

Technologie wordt complexer en complexer. Wat er tussen A en B precies gebeurt is daarmee steeds onduidelijker. Vooral in programmeercode is dat het geval. Als niet (meer) te achterhalen is wat er precies tussen A en B gebeurt, is er sprake van een ‘black box’. 

Zo’n black box kan op twee manieren ontstaan: intentioneel (de code wordt ondoorzichtig gemaakt, bijvoorbeeld om namaken of aanpassen te voorkomen of om te verhullen dat je data worden gepikt of je wordt gemanipuleerd) of niet intentioneel c.q. uit gemakzucht (bijvoorbeeld omdat omwille van de snelheid / het gemak van het programmeren gebruik gemaakt wordt van stukjes code van derden of eerder gemaakte stukjes code).

Het is verder afhankelijk van de kennis van een gebruiker of iets een ‘black box’ is. Voor een leek is een stuk code al snel een ‘black box’, een specialist, zoals een hacker kan misschien een heel eind komen met begrijpen wat er gebeurt tussen A en B.

Hoe complexer de software, hoe groter de kans dat stukken code zelfs voor de maker een ‘black box’ worden. De software gaat dan dingen doen die niet de bedoeling waren of er gaan simpelweg dingen fout. 

We kennen allemaal wel de router die vastloopt. Die kun je wel weer aan de praat krijgen als je er een tiental seconden de stroom afhaalt.

In het spel tussen algoritmes en data kunnen dingen goed fout gaan. Dan herkent de zelfrijdende auto mensen met een donkere huidskleur minder goed dan mensen met een lichte huidskleur (bron: Independent). Word je niet langer als individu, maar op basis van een profiel behandeld (toeslagenaffaire). Met alle gevolgen van dien.

In zo'n 'black box' zitten zomaar vooroordeel bevestigende of bubbel versterkende algoritmen. Je zoekt in Google bij afbeeldingen op trefwoorden als ‘leider’ of ‘directeur’ en krijgt nagenoeg alleen maar mannen te zien. Als je weet dat Google niet zo neutraal is als het lijkt, kun je hier kritisch mee omgaan. Misschien ga je zoeken op de combinatie ‘leider’ en ‘vrouw’. Wantrouwen is in dit geval gezond. Fijn, die suggesties van Spotify of Bol.com (als je dit leuk vindt, vind je dat waarschijnlijk ook leuk). Maar zitten tussen die suggesties liedjes of boeken die extra gepromoot worden, bijvoorbeeld omdat een uitgever of platenmaatschappij die op een of andere manier ‘plugt’.

Digitale geletterdheid betekent dat je je bewust bent van het feit dat de gereedschappen die je dagelijks gebruikt 'black boxes' kunnen zijn of bevatten. Dat je die gereedschappen daarom bewust wel (maar dan kritisch) of niet gebruikt. Of dat je andere gereedschappen gebruikt om te testen wat voor output die geven. Zo kun je verschillende zoekmachines naast elkaar gebruiken.

Kortom: als je te maken hebt met een 'black box', vertrouw niet blind op resultaat B dat voortkomt uit handeling A.