Heb je een technologiepartner gevonden die jouw AI-roadmap kan realiseren?
De belangrijkste aandachtspunten om te controleren of je technologiepartner écht over de AI-expertise beschikt die hij belooft, voordat je hem jouw roadmap toevertrouwt.
Tegenwoordig beweert vrijwel elke softwareleverancier AI-engineers in huis te hebben. Maar die titel is snel verdiend: een chatbotdemo kun je in een weekend bouwen en kennis van de nieuwste AI-modellen zegt op zichzelf weinig.
Voordat je de roadmap, data of architectuur van je bedrijf aan een externe partij toevertrouwt, moet je jezelf daarom niet afvragen: “Kennen ze het nieuwste AI-model?”, maar: “Kunnen ze een systeem dat afhankelijk is van AI veilig en betrouwbaar laten functioneren binnen onze bestaande product- en ontwikkelomgeving?”
Met deze praktische aandachtspunten ontdek je het voordat je een contract tekent.
Beoordeel de AI-expertise van het hele bedrijf, niet alleen die van één specialist
Vraag naar een aantal concrete voorbeelden van AI-projecten die de partner heeft gerealiseerd. Laat zien welk bedrijfsprobleem werd aangepakt, waarom voor een bepaalde architectuur is gekozen, hoe de kwaliteit werd gemeten en wat uiteindelijk daadwerkelijk in productie is gebracht.
Onderzoek vervolgens of die kennis breed binnen de organisatie aanwezig is of vooral bij één persoon ligt. Wie beoordeelt de keuzes rond AI-modellen en architectuur? Hoe houden engineers hun kennis actueel? En wat gebeurt er als de specialist die aan jouw project werkt, vertrekt?
Juist hier zegt een gestructureerd intern opleidingsprogramma meer dan een functietitel.
Bij Cactus ontwikkelen en certificeren we onze engineers via het CactAI Excellence Program. Dit interne programma biedt een duidelijk traject om AI-vaardigheden te ontwikkelen en te beoordelen, in plaats van uitsluitend te vertrouwen op de informele en vaak weinig gestructureerde manier waarop kennis binnen bedrijven wordt opgebouwd.
Praat met de engineers die daadwerkelijk aan jouw project gaan werken
Ga niet alleen in gesprek met het salesteam, maar ook met de voorgestelde technical lead of ten minste één van de engineers die bij het project betrokken zal zijn.
Het doel is om te beoordelen of ze in de praktijk de juiste technische afwegingen kunnen maken op vier belangrijke gebieden: data, de keuze van modellen en architectuur, evaluatie en productieomgevingen en MLOps.
Beveiliging mag geen bijzaak zijn
Zorg dat je duidelijke antwoorden krijgt op belangrijke vragen over gegevensbescherming en beveiliging.
Worden klantgegevens gedeeld met externe AI-modellen? Mogen de aanbieders van die modellen de gegevens bewaren of gebruiken om hun modellen te trainen? En hoe gaat de technologiepartner om met dataopslaglocaties, encryptie, inloggegevens en API-sleutels, toegangsrechten, bewaartermijnen en het eigendom van code, prompts en afgeleide resultaten?
Bij systemen die gebruikmaken van LLM’s en AI-agents moet het team bovendien bekend zijn met risico’s zoals prompt injection, het onbedoeld blootstellen van gevoelige informatie, onveilige verwerking van AI-output, kwetsbaarheden in de softwaretoeleveringsketen, te ruime toegangsrechten en onbeheersbare modelkosten.
Dit zijn enkele van de belangrijkste risico’s die OWASP momenteel benoemt op het gebied van generatieve AI.
Ook de AI-principes van Cactus, vastgelegd in het Cactus AI Manifesto, besteden aandacht aan menselijke betrokkenheid, privacy, beveiliging, verantwoordelijkheid, intellectueel eigendom van klanten en transparantie.
