Stop met AI te vragen zich als software te gedragen.

Traditionele software volgt een pad. AI interpreteert een situatie.

Een rekenmachine hoort geen frisse kijk op zeven maal negen te ontwikkelen. Een CRM-werkproces hoort een verkoopkans niet af en toe naar een andere fase te verplaatsen omdat de formulering goed voelde. We verwachten dat dezelfde input dezelfde regels volgt en hetzelfde resultaat oplevert.

Generatieve AI is anders. Ze voorspelt en construeert een antwoord op basis van waarschijnlijkheden. Kleine contextwijzigingen kunnen het verloop veranderen. Hetzelfde verzoek kan twee verschillende bruikbare antwoorden opleveren, één bruikbaar en één zwak antwoord, of twee verzorgde antwoorden die op verschillende manieren fout zijn.

Die variabiliteit is geen ongelukkig gebrek dat aan de intelligentie kleeft. Ze maakt mede mogelijk dat het systeem een dubbelzinnig gesprek samenvat, een antwoord aanpast of herkent dat twee klanten hetzelfde probleem anders beschreven.

Het vermogen en de onzekerheid komen in dezelfde doos.

Eén indrukwekkende output bewijst bijna niets.

De meeste AI-projecten worden goedgekeurd via theater. Iemand kiest een gunstig voorbeeld, het model geeft een uitzonderlijk goed antwoord en de zaal neemt stilzwijgend aan dat het systeem zich altijd zo zal gedragen.

De productievraag is anders: hoe vaak is de output bruikbaar bij honderden uiteenlopende gevallen, hoe ernstig zijn de fouten, kan het systeem onzekerheid herkennen en hoe snel merkt iemand het wanneer het gedrag afdwaalt?

Daarom is promptgoedkeuring geen kwaliteitsborging. Iemand die één output leest, kan die output beoordelen. Daaruit kan die persoon niet de verdeling van toekomstig gedrag afleiden. Commerciële teams moeten steekproeven nemen uit gewone gevallen, moeilijke gevallen en kostbare uitzonderingen.

Plaats probabilistisch oordeel in een deterministische omhulling.

Niet elk onderdeel van een AI-systeem moet intelligent zijn. Identiteit, rechten, verplichte velden, uitgavenlimieten, goedkeuringsstatussen en auditlogboeken zijn meestal beter af met gewone regels. Gebruik AI waar interpretatie waarde schept. Gebruik deterministische controles waar consistentie het bedrijf beschermt.

Neem een AI-systeem dat aanbeveelt met welk account een verkoper als volgende contact moet opnemen. AI kan recente signalen interpreteren en uitleggen waarom ze ertoe doen. Een regel moet nog steeds voorkomen dat het systeem contact opneemt met iemand die zich heeft afgemeld. Een andere regel kan boven een commerciële drempel menselijke goedkeuring vereisen. Een logboek moet telkens de onderbouwing en de actie vastleggen.

Het doel is niet maximale autonomie. Het is nuttige autonomie met een zichtbare grens.

Beheer variatie via een controlekringloop in vijf delen.

Een betrouwbaar AI-systeem is geen systeem dat nooit varieert. Het is een systeem waarin acceptabele variatie is bepaald, fouten waarneembaar zijn en onzekere gevallen veilig kunnen worden afgehandeld.

Kwaliteit is een verdeling, geen duim omhoog.

Bij open werk is er mogelijk geen enkel correct antwoord. Dat maakt evaluatie nog geen subjectieve chaos. Een samenvatting van een verkoopgesprek kan worden beoordeeld op feitelijke juistheid, dekking van afgesproken velden, scheiding van feiten en gevolgtrekkingen, bruikbaarheid en afwezigheid van ongefundeerde claims.

Sommige controles kunnen deterministisch zijn. Vermeldde de briefing een bron? Bevatte ze een accountverantwoordelijke? Andere controles vragen een beoordelingskader of vergelijking. Wordt de aanbevolen volgende actie door het bewijs ondersteund? Past de toon bij de relatie? Een menselijke beoordelaar, een modelgebaseerde evaluator en latere bedrijfsgegevens kunnen elk andere fouten vinden.

De nuttige eenheid is niet ‘werkte de AI?’ Het is het foutenprofiel. Wat gaat er mis, hoe vaak, met welke gevolgen en onder welke omstandigheden? Zodra dat zichtbaar is, kan het team het systeem doelgericht verbeteren in plaats van te reageren op de laatste slechte screenshot die bij de leiding terechtkwam.

• Volg slagingspercentages per type geval, niet alleen een totaalgemiddelde.
• Bewaar een vaste verzameling moeilijke voorbeelden en voorbeelden met grote gevolgen.
• Meet onterechte zekerheid los van gewone lage kwaliteit.
• Beoordeel de gevallen waarin mensen het vaakst ingrijpen.
• Verbind kwaliteitsmetingen met commerciële resultaten waar het verband echt bestaat.

Leg de afspraken over onzekerheid vast vóór de lancering.

Elk AI-systeem moet afspraken over onzekerheid hebben: de variatie die het bedrijf accepteert, de beslissingen die het systeem mag nemen, het bewijs dat het moet bewaren en het moment waarop een mens overneemt.

Voor een systeem dat contentideeën bedenkt, kunnen de afspraken veel variatie toelaten omdat een mens selecteert wat overblijft. Bij een systeem dat accounts toewijst, is de acceptabele variatie kleiner. Bij een belofte aan een klant over prijs, voorwaarden om in aanmerking te komen of juridische bepalingen kan die nog kleiner zijn.

Dit verandert het gesprek met de leiding. De keuze is niet AI vertrouwen of wantrouwen. De keuze is waar probabilistisch oordeel waarde mag creëren en welke deterministische structuur het moet omringen. Zo wordt een variabel systeem een betrouwbaar onderdeel van commercieel werk.

Betrouwbaarheid is niet de afwezigheid van onzekerheid. Het is het vermogen om er veilig mee te werken.