Waarom ChatGPT's antwoorden altijd een beetje anders zijn
10 april, 2024
Rick Vink
“Het is eigenlijk dat ChatGPT een virtuele dobbelsteen rolt om te beslissen wat het je vertelt”
Inhoudsopgave
Heb je ooit opgemerkt dat als jij en je vriend dezelfde vraag aan ChatGPT stellen, je net iets andere antwoorden krijgt? Dit ligt niet aan jou persoonlijk of dat ChatGPT je probeert te imponeren met zijn veelzijdigheid. Het is eigenlijk dat ChatGPT een virtuele dobbelsteen rolt om te beslissen wat het je vertelt.
Hoe kiest ChatGPT zijn woorden?
ChatGPT is een geavanceerd statistisch model. Het baseert zijn antwoorden op wat het tijdens de training heeft gezien. Het model overweegt alle mogelijke woorden en kiest degene die past bij de context. Het is vergelijkbaar met de autocorrectie op je telefoon, maar dan op steroïden. Het feit dat ChatGPT zo accuraat kan zijn, is behoorlijk indrukwekkend.
Afbeelding 1. ChatGPT voorspelt net als je autocomplete van je mobiel het volgende woord.
Als je net iets correcter wilt verwoorden: ChatGPT denkt eigenlijk in tokens in plaats van woorden. Dit kunnen woorden zijn, maar ook stukjes van woorden, getallen of leestekens. Op basis van de vorige tokens voorspelt het volgende token.
Hoe goed ChatGPT is in het kiezen van een woord hangt sterk af van de data waarmee ChatGPT getraind is. Als de trainingsdata vol staan met grammaticafouten, dan zul je die fouten ook in de antwoorden van ChatGPT terugzien. Hetzelfde geldt voor data die volstaat met feitelijke onjuistheden.
Hoe wordt het ‘volgende woord’ gekozen?
Hoewel je misschien denkt dat ChatGPT gewoon het meest waarschijnlijke woord kiest, is dat niet altijd het geval. Het geeft de woorden een waarschijnlijkheid en kiest op basis daarvan een woord. Dit wordt gedaan met een proces dat vergelijkbaar is met het werpen van een dobbelsteen. Soms heb je geluk en krijg je een geweldig antwoord, en soms… iets minder.
Probeer het zelf maar! Vraag in 10 verschillende Chats dezelfde vraag zoals bijvoorbeeld: “Waarom is het gras groen?” en je zal zien dat het meerdere antwoorden geeft zoals het hieronder te zien is.
Afbeelding 2. ChatGPT heeft meerdere keuzes na elk word. Dit geeft meerde paden die leiden naar een mogelijk antwoord op je vraag.
Je kunt dit proces beïnvloeden met iets dat ‘temperatuur’ genoemd wordt. Zie temperatuur als een mate van wanorde. Waarbij een hele koude temperatuur heel stijf is en een hoge temperatuur wat meer vrijheid heeft. Een temperatuurinstelling van 0 betekent dat ChatGPT een van de meest waarschijnlijke woorden kiest, terwijl een instelling van 1 betekent dat de keuze lijkt op de diversiteit van de data. Standaard staat de temperatuur ongeveer op 0.7, wat betekent dat er een balans is tussen waarschijnlijkheid en de diversiteit van de data.
Workshop ChatGPT inhouse organiseren?
Download hier de brochure!
Kun je het meest waarschijnlijke antwoord krijgen?
Door de temperatuur te verlagen, vergroot je de kans op consistente, accurate antwoorden. Dit is handig als je werkt aan projecten die een hoge mate van consistentie vereisen, zoals bijvoorbeeld het vereenvoudigen van technische documenten. Hoewel de standaard interface van ChatGPT geen optie biedt om deze instelling aan te passen, kun je dit wel doen via de API, in de ChatGPT Playground, en in beperkte mate via Bing Chat. Houd er wel rekening mee dat zelfs bij een temperatuur van 0 er altijd een beetje variatie zal zijn in de antwoorden.
Meer leren over ChatGPT?
Interesse gewekt door dit blog en wil je je verder verdiepen in de wereld van ChatGPT en AI? Wij kunnen je hierbij helpen! We bieden zowel maandelijkse open inschrijving cursussen als in-company trainingen ChatGPT en AI aan die je inzichten geven in de technologische en praktische aspecten van deze boeiende velden. Of je nu een beginner bent of al meer ervaring hebt, er is voor ieder wat wils.
Wat kun je verwachten?
- Diepgaande kennis van ChatGPT en AI
- Praktische toepassingen en case-studies
- Hands-on ervaring met de nieuwste technologieën