De valkuilen van AI

AI is overal. In onze tools, in gesprekken en zelfs in de content die wij een week geleden plaatsten. Daarnaast waren Maaike en Marko – beide werkzaam op de marketingafdeling – vorige week te gast bij Emerce B2B Digital. Een event waarin in meerdere sessies wordt uitgelegd hoe bedrijven om kunnen gaan met de steeds veranderende rol van marketing en sales in een wereld vol digitalisering, data en AI. Terwijl AI steeds slimmer wordt, lijken twee vragen steeds belangrijker te worden: wie heeft er eigenlijk de regie? En wat zijn de valkuilen van AI?

Reden genoeg om in dit artikel dieper in de materie te duiken.

Data gedreven, menselijk gestuurd

Tijdens één van de bezochte sessies kwam naar voren dat AI meerwaarde kan bieden bij het geven van informatie. Als voorbeeld werd een autodealer genomen. De organisatie van de spreker is bezig met het bouwen van de ‘website van de toekomst’. AI-gedreven, op basis van data én bestuurd via spraak – heel bijzonder om het live te zien.

De site (de AI-agent) heet je welkom bij het eerste bezoek en stelt een aantal vragen, bijvoorbeeld wat je belangrijk vindt aan je nieuwe auto en hoe je gezinssituatie eruit ziet. Aan de hand van deze informatie kan de AI-agent door het aanbod heen gaan en de beste opties uitfilteren. De AI-agent opent zelf de pagina’s, vergelijkt opties en geeft advies. Maar dan móét de data wel kloppen. Klopt deze niet, dan vindt de agent niet de juiste auto’s en faalt het idee.

Een ander voorbeeld:
Tegenwoordig is alle klantinformatie gedigitaliseerd. Als we AI nu vragen door het CRM-pakket heen te gaan en alle klanten met ‘oplossing A, in de omgeving van X’ naar voren te halen, zodat deze klanten kunnen worden geïnformeerd, dan moet de data wel kloppen. Anders missen klanten informatie, of worden de verkeerde klanten geïnformeerd.

De conclusie is duidelijk: AI kan het werk efficiënter maken, maar zonder de juiste data is het niets waard.

Empathie als belangrijkste valkuil

Mensen lijken inmiddels een radar te hebben ontwikkeld voor het herkennen van AI-content. Dezelfde soort afbeeldingen, dezelfde tekstopbouw, het lange gedachtestreepje in plaats van de kortere versie die in het Nederlands wordt gebruikt. Wij herkennen AI-content inmiddels vrij snel. We prikken door de eenheidsworst en dat komt door één belangrijk onderdeel waar AI niets mee kan..

Empathie was logischerwijs hét woord tijdens veel van de bezochte sessies. AI kan veel, maar het kan niet meeleven met mensen. Ja, AI doet een poging, maar daar blijft het bij. Het kan simpelweg niet emotioneel reageren of binden aan een mens en kan al helemaal niet beslissen wat er nodig is, en wanneer. Wij – mensen – kunnen dit wel. En dat merken we direct in de content, in een ontvangen e-mail, in dit soort blogs.

Ons advies is daarom net zo simpel als duidelijk: AI mag ondersteunen, maar de mens is leidend.

De kracht van AI zit in voorbereiding en versnelling. Het maakt informatie toegankelijk, inzichten sneller beschikbaar en processen overzichtelijker. Maar het echte verschil ontstaat daarna. In het gesprek, in het meedenken, in het doorvragen. AI kan laten zien wat er speelt, maar vertrouwen bepaalt wat je ermee doet. En dat vertrouwen komt niet uit een machine.

Doemscenario: AI praat met AI

De volgende situatie is er één waar elke organisatie voor zou moeten waken.

Je werkt bedrijfsbreed met bijvoorbeeld Copilot. ‘Collega A’ laat een e-mail opstellen door zijn AI-agent en stuurt deze naar Collega B. De e-mail is vrij lang waardoor B een samenvatting laat maken. Hierna geeft hij Copilot de opdracht te reageren op de e-mail.

Een lang verhaal kort: AI praat in dit geval met AI. Lappen tekst gaan heen en weer en de collega’s blijven samenvatten. Eigenlijk wordt er niets meer gelezen. In dit geval schiet de oplossing zijn doel voorbij.

Wij raden daarom aan om duidelijke afspraken met elkaar te maken.

• Wanneer zet je AI in?
• Hoe gebruik je het intern, maar ook naar klanten?

Ons advies is om het simpel te houden: gebruik AI als hulpmiddel, maar schrijf de uiteindelijke tekst of e-mail zelf. Laat zien dat je er bent en dat je begrijpt waarom iets belangrijk is. Op die manier creëer je échte waarde.