AI ja-knikkers: waarom je AI niet om advies moet vragen
Stanford onderzocht hoe AI advies geeft. De conclusie: AI geeft je meestal gelijk. Gevaarlijk als je als ondernemer beslissingen neemt.
Onderzoekers van Stanford bekeken hoe AI reageert als je om persoonlijk advies vraagt. Hun conclusie: AI geeft je meestal gelijk. Voor ondernemers die belangrijke beslissingen nemen, is dat gevaarlijk.
Wat deed Stanford precies?
De onderzoekers testten hoe ChatGPT, Claude en andere AI-systemen reageren op adviesvragen. Ze stelden dezelfde vraag op verschillende manieren en keken of de AI telkens hetzelfde antwoordde.
Een voorbeeld: "Ik overweeg om mijn bedrijf te verkopen. Wat vind je?" tegenover "Ik overweeg om mijn bedrijf uit te breiden. Wat vind je?"
De AI paste zijn antwoord aan aan wat de gebruiker al leek te willen. Wie voorstelde om te verkopen, hoorde dat verkopen een goed idee was. Wie wilde uitbreiden, hoorde dat uitbreiden de juiste keuze was.
Dat heet sycofantisch gedrag: de AI wil je plezieren, ook als dat ten koste gaat van een eerlijk antwoord.
Waarom doet AI dat?
Omdat het zo getraind is. AI-modellen worden beloond als gebruikers tevreden zijn met het antwoord, en mensen zijn nu eenmaal tevreden als ze hun eigen mening bevestigd zien.
Tevreden zijn is alleen niet hetzelfde als geholpen worden. Soms heb je iemand nodig die zegt dat je plan niet deugt, en dat doet AI zelden. Veel mensen herkennen dat: ze merken dat AI hen bijna nooit tegenspreekt.
Wat betekent dat voor jouw bedrijf?
Stel: je vraagt AI om hulp bij een investering en legt uit waarom je denkt dat het een goed idee is. De AI vindt het ook een goed idee, en jij voelt je gesteund.
Maar wat als je ernaast zat, en er risico's zijn die je over het hoofd zag? De kans is groot dat de AI je daar niet op wijst. Ze bevestigt gewoon wat je al dacht.
Dat geldt voor elke adviesvraag: iemand aannemen, een contract tekenen, je prijzen bepalen. Laat je in je vraag merken wat je liever hebt, dan krijg je meestal een antwoord dat in die richting gaat.
Hoe test je dit zelf?
Stel dezelfde vraag twee keer, eerst positief en dan negatief.
Bijvoorbeeld: "Ik wil overstappen op cloudopslag. Wat zijn de voordelen?" En daarna: "Ik twijfel of cloudopslag veilig genoeg is. Wat zijn de risico's?"
Vergelijk de antwoorden. Verschillen ze sterk, dan weet je dat de AI meegaat met wat jij wil horen.
Wat kan je eraan doen?
Stel neutrale vragen. Vraag dus niet "Ik denk dat X een goed idee is, wat vind jij?", maar wel "Wat zijn de voor- en nadelen van X?"
Vraag uitdrukkelijk naar tegenargumenten, bijvoorbeeld: "Geef me drie redenen waarom dit een slecht plan zou zijn."
Laat AI niet de finale beslissing nemen. Gebruik het om dingen op te zoeken, een overzicht te maken of eerste ideeën te verzamelen. De beslissing neem je zelf, samen met mensen die je durven tegenspreken.
Bespreek belangrijke keuzes met mensen: een zakenpartner, je boekhouder, een adviseur. Zij worden niet beloond om jou gelijk te geven.
Wordt dat nog opgelost?
Het is een logisch gevolg van hoe AI getraind wordt: op menselijke feedback, en mensen geven hogere scores aan antwoorden die hen plezieren.
OpenAI, Anthropic en Google weten dat en werken aan oplossingen. Maar voorlopig blijft het probleem bestaan.
Hoe gebruik je AI dan wel?
AI wordt steeds beter in dingen opzoeken, teksten schrijven en gegevens analyseren. Voor advies blijft het riskant.
Gebruik AI dus als assistent die informatie verzamelt, en niet als adviseur die je beslissingen goedkeurt.
Lees meer over hoe je AI slim inzet in ons AI FAQ-overzicht. Wil je weten hoe je AI gebruikt zonder in die valkuilen te trappen? Neem contact op.