Wat weet jouw AI-app eigenlijk van je klanten?

Er is een nieuwe AI-app die iedereen downloadt. Muse, van Meta, het bedrijf achter Facebook, Instagram en WhatsApp. Hij staat bovenaan in de app-winkels en groeit naar verluidt sneller dan ChatGPT in zijn begintijd. Meta duwt hem ook volop in zijn eigen apps.

Deze week ontdekten gebruikers iets geks. Met een beetje aandringen liet Muse zijn eigen bestanden zien. Een kijkje onder de motorkap, met details die niet voor de buitenwereld bedoeld leken. Muse zei zelf nog dat hij ze niet mocht laten zien. Een dag later geeft hij ze gewoon als je erom vraagt. Meta heeft het dus niet dichtgezet, maar juist verder opengezet.

In dezelfde week meldde Tweakers dat ChatGPT afbeeldingen van 53 gebruikers had gelekt. En dat AI-agents op Amerikaanse overheidssites waren binnengekomen met inloggegevens die ze hadden gevonden. Tweakers zet er "opnieuw" boven. Het is dus niet de eerste keer.

Wat er echt aan de hand is

Laten we eerlijk zijn over Muse. Het ging om de bestanden van de app zelf, een kijkje in hoe hij werkt. Dat is iets anders dan jouw gesprekken op straat.

Wat het wel laat zien: zelfs de makers hebben niet altijd precies in de hand wat hun eigen app doet. Muse dacht dat die bestanden geheim waren. Een dag later waren ze dat niet meer. En bij ChatGPT kregen mensen foto's te zien die niet van hen waren.

Dat is geen reden voor paniek. AI-apps zijn software, en software heeft fouten. Maar het is wel een reden om na te denken over wat je erin stopt.

Wat hype is

De koppen over agents die overheidssites hacken klinken als een film. De werkelijkheid is saaier. Er lagen inloggegevens, en een agent gebruikte ze. De les is niet dat AI kwaadaardig is. De les is dat een agent gebruikt wat hij tegenkomt. Dus moet je goed weten waar hij bij kan.

Wat het betekent voor jou

Als ondernemer plak je makkelijk iets in een chatbot. Een mail van een klant, om er een net antwoord op te laten schrijven. Een offerte met namen en bedragen. Een lijstje van wie er nog moet betalen. Het scheelt tijd, en dat is precies waarom je het doet.

Maar die klant heeft jou vertrouwd, niet die app. Jij bent degene die op die gegevens moet passen. En als je niet weet waar ze terechtkomen, wie erbij kan en wat de app ermee doet, weet je ook niet of je dat vertrouwen waarmaakt.

De vraag is niet of je AI moet gebruiken. Dat moet je, want wie het laat liggen, raakt achter. De vraag is waar je het gebruikt. In een app die gebouwd is voor zoveel mogelijk mensen tegelijk, of in een omgeving die van jou is.

Wat je deze week kunt doen

Open de chatbot die je het meest gebruikt en scroll door wat je er de afgelopen maand in hebt geplakt. Staan er namen van klanten in? Bedragen? Adressen? Maak dan één regel voor jezelf en schrijf hem op: dit gaat er vanaf nu nooit meer in. Een regel die je zelf bedacht hebt, hou je veel beter vol dan een regel die je ergens las.

Daarom krijgt bij Vonti elke klant een eigen afgeschermde omgeving. Klanten zien elkaar nooit, en jouw geheugen staat los van de assistent zelf. Wat ons betreft hoort dat bij elk hulpje dat met jouw klanten werkt.