Het klinkt overtuigend, maar klopt niet altijd
AI weet alles, maar begrijpt niets. Het is ongelooflijk goed geworden in het geven van antwoorden die logisch, compleet en overtuigend klinken. Maar precies daarin schuilt een risico: een goed verhaal is nog geen bewijs dat het klopt. Betrouwbare AI heeft meer nodig dan alleen een goed taalmodel: structuur, context, werkwijzen, betrouwbare data, controles en menselijke regie.
De dode zalm
In 2009 legden onderzoekers een dode Atlantische zalm in een MRI-scanner. Het doel: kijken of er hersenactiviteit was bij het “zien” van foto’s van mensen en het beoordelen van hun emoties. Tot hun grote verbazing werd er hersenactiviteit gemeten.
Hoe kan dat nou? De zalm was toch dood?
Precies. Het kon ook niet. Maar het werd wel heel duidelijk gemeten. Hiermee toonden onderzoekers aan hoe makkelijk het is om in enorme hoeveelheden data toevallig een patroon te vinden als je resultaten niet streng genoeg controleert. De uitslag kan er heel overtuigend uitzien, maar het betekent niet dat het klopt.
AI heeft zijn eigen dode zalmen
Jaren later zien onderzoekers een vergelijkbaar probleem bij kunstmatige intelligentie: het klinkt heel overtuigend, maar klopt het wel?
Met allerlei technieken proberen ze te verklaren waarom een AI-model een bepaalde uitkomst geeft. Helaas produceren sommige technieken ook overtuigende verklaringen wanneer ze data verdraaien. Er kan dus een logisch verhaal uit de analyse komen zonder dat is aangetoond dat dit verhaal de werkelijke verklaring is. Dat betekent niet dat AI niets begrijpt. Het betekent ook niet dat iedere AI-verklaring onzin is. Maar wel dat je kritisch moet kijken naar de conclusies die het trekt, en dus naar de adviezen die het geeft.
- Welke woorden waren belangrijk?
- Welke neuronen speelden een rol?
- Welke patronen heeft het model geleerd?
Je hebt helemaal gelijk. Ik had daar nog geen rekening mee gehouden...
Logisch klinken is een taalvaardigheid. Kloppen is een bewijsprobleem
Dat onderscheid is belangrijk wanneer je AI gebruikt voor echt werk. Stel dat je een AI om advies vraagt over je marketingbudget. Hetzelfde model dat het antwoord gaf, schrijft er ook een uitstekend verhaal bij. Maar daarmee heb je het antwoord nog niet onafhankelijk gecontroleerd.
Waar moet ik volgend kwartaal mijn marketingbudget in investeren?
Investeer meer in LinkedIn Ads, omdat dit kanaal de hoogste conversieratio heeft.
Waarom?
LinkedIn past het best bij je doelgroep. De conversieratio is het hoogst, de CPC’s zijn acceptabel en de leads zijn van goede kwaliteit.
- Hoeveel conversies waren er eigenlijk?
- Is de attributie betrouwbaar?
- Bereiken die advertenties nieuwe klanten of vooral bestaande klanten?
- Is de gemeten conversieratio statistisch betekenisvol?
- Welke periode is gebruikt?
- Welke andere verklaring past bij dezelfde cijfers?
Diezit.ai is daarom niet één groot AI-brein
Een taalmodel is gebouwd om een waarschijnlijk en passend vervolg te produceren. Daar is het fantastisch goed in. Maar als je AI inzet als collega, adviseur of strateeg, wil je weten waar een antwoord vandaan komt en of je er een beslissing op durft te baseren.
Daarvoor heb je geen grotere prompt nodig. Daarvoor heb je een systeem nodig.
Een generieke AI-chat
- Vraag
- AI-model
- Antwoord
Diezit.ai
- Vraag
- Bedrijfs- en projectcontext
- De juiste specialist
- Werkwijze en skills
- Data, kennis en tools
- Andere specialisten en controles waar nodig
- Advies of uitvoering
- Jouw beoordeling en besluit
Het taalmodel is één onderdeel van het systeem
Eerst de juiste context
Een goed antwoord begint bij begrijpen waar je mee bezig bent: je organisatie, je doelen, je doelgroep en je positionering. Die context hoort bij het bedrijf en het project, niet in één enorme prompt.
Niet alleen instructies, maar een werkwijze
Kwaliteit zit niet alleen in wat een professional weet, maar ook in hoe die werkt. Daarom krijgen agents binnen Diezit.ai rollen, instructies, workflows en skills.
Echte informatie waar die beschikbaar is
Analytics, advertentieplatformen, onderzoeksbronnen en bedrijfsdocumenten: de bron van een feit hoort waar mogelijk buiten het model te liggen. Het model redeneert over de werkelijkheid, maar is niet automatisch de werkelijkheid.
Een antwoord en de controle zijn niet hetzelfde
Als degene die het advies bedenkt ook bepaalt of het goed is, heb je maar één paar ogen. Daarom kunnen digitale collega’s samenwerken, werk opdelen en expertise inschakelen.
Aannames zichtbaar
Een goede adviseur doet niet alsof iedere aanname een feit is. Betrouwbare AI laat zien waar informatie ontbreekt en waar menselijke beoordeling nodig is.
De mens beslist
Ook een slimmer model kan een overtuigend verhaal produceren. Digitale collega’s onderzoeken, plannen, schrijven en voeren uit: AI doet het werk, de mens houdt de regie. Bij belangrijke keuzes stuur jij bij, keur je goed of besluit je iets anders te doen.
Het verschil tussen AI gebruiken en AI organiseren
AI-modellen worden steeds beter. Vandaag is het ene model het slimst, morgen misschien een ander. Je hele werkwijze moet daarom niet afhankelijk worden van één model, één prompt of één leverancier. De duurzame waarde zit in de laag eromheen. Diezit.ai is daarom geen AI-model waarmee je marketing kunt bedrijven, maar marketingsoftware waarin AI is verweven.
Een intelligent antwoord verdient nog geen vertrouwen
De dode zalm leert ons iets heel menselijks. Wanneer we een patroon zien, zijn we ontzettend goed in het bedenken van een logisch verhaal dat erbij past. AI is daar misschien nog wel beter in. Verwar overtuigingskracht daarom niet met bewijs.
Gebruik AI niet omdat het overtuigend klinkt. Bouw een systeem waarin je kunt beoordelen wanneer het gelijk heeft.
Benieuwd hoe Diezit.ai voor jouw werk werkt?
Een half uur met een van ons en je ziet waarop elk antwoord gebaseerd is.