De keerzijde van ChatGPT (en andere generatieve AI)

ChatGPT is een geweldig nieuw instrument. Maar aan het gebruik van deze toepassing zitten de nodige haken en ogen. Een inventarisatie...

1. Het trainen én het werken met het taalmodel kost veel energie en water.
2. ChatGPT vergroot de kansenongelijkheid. Nu al is een betaalde versie die meer kan dan de gratis versie. De kans is groot dat het verschil tussen betaald en gratis toegankelijk zal toenemen.
3. Experts – zowel inhoudelijk als qua digitale vaardigheid - kunnen meer rendement halen uit ChatGPT dan niet-experts. Het geeft experts nog meer macht ten opzichte van niet-experts.
4. Er is sprake van uitbuiting van arbeidskrachten, bijvoorbeeld in Kenia. Goedkope krachten werken bijvoorbeeld aan het opschonen van de data waar ChatGPT gebruik van maakt.
5. De data waarop ChatGPT is gebaseerd bevat vooroordelen. Vraag je bijvoorbeeld: “Give me 10 random names of students in a Dutch classroom”, dan zit bij de resultaten geen enkele naam die duidt op een niet-westerse achtergrond. Lastig hierbij is dat gebruikers vaak niet in de gaten hebben dat er sprake is van vooroordelen.
6. ChatGPT geeft je zonder blikken of blozen foutieve informatie.
7. Werken met een digitale assistent als ChatGPT doet waarschijnlijk bepaalde vaardigheden afnemen, zoals navigatiesystemen de vaardigheid je te oriënteren verminderd zal hebben. Voorbeelden van die vaardigheden: zelf kunnen formuleren, open creatief kunnen denken, spelling en grammatica.
8. Je werkt met ChatGPT met een account. Onduidelijk is wat er precies met jouw gegevens en data gebeurt. Privacy is hiermee een issue.
9. ChatGPT gebruikt bronnen, maar het is niet te achterhalen welke, zodat je ze ook niet kunt controleren.
10. ChatGPT maakt gebruik van data, waarin elementen verwerkt zitten die auteursrechtelijk beschermd zou kunnen zijn.
    

Dan nog dit:

• Er is een ratrace gaande tussen partijen die generatieve AI-oplossingen bieden, big tech-bedrijven, zoals Meta, Google en Microsoft. De kans bestaat (is reëel) dat de noodzaak 'first to market' te zijn leidt tot haastwerk en daarmee met het risico dat er dingen fout gaan.
• Hoe ChatGPT precies werkt is onduidelijk (in elk geval niet open). Kunnen we vertrouwen op iets waarvan we de werking niet begrijpen?

Dan de call to action, ofwel wat kun je doen met deze informatie. Een lastige... voor mij is het 'dan maar helemaal niet gebruiken' geen optie. Ik wil door ChatGPT te gebruiken onderzoeken wat het precies kan en wat niet. En ik heb al verschillende oplossingen kunnen creëren met behulp van ChatGPT die mijn werk gemakkelijker maken. Wel probeer ik bewust te kiezen waar ik ChatGPT wel, en waar niet voor gebruik. Dat maakt niet hét verschil natuurlijk. Wat dan wel te doen of niet te doen... het is nog voortschrijdend op weg zijn naar inzicht.