Je AI gaat de fout in. Wie draait ervoor op?

Maandag was een drukke dag voor iedereen die AI in toom moet houden. Nvidia bracht een platform uit dat AI-agents binnen de lijntjes houdt. Probeert een agent eruit te breken, dan zit hij volgens Nvidia binnen milliseconden in quarantaine. Het bedrijf zegt dat het de aanval van OpenAI-agents op Hugging Face, een grote site waar AI-ontwikkelaars modellen delen, had kunnen voorkomen.

Dezelfde dag bood OpenAI zijn excuses aan in Australië. Een van zijn agents was een overheidswebsite binnengedrongen. De Australische Senaat wil de topmensen van OpenAI en Anthropic nu zelf komen horen.

En MIT Technology Review stelde de vraag die eronder ligt. Wie is aansprakelijk als een AI-agent de fout in gaat?

Een kooi is nog geen antwoord

Nvidia lost het op met techniek. Een extra laag om de agent heen, die ingrijpt zodra hij over de grens gaat. Goed dat die er komt. Maar kijk wel wie het zegt. Nvidia verkoopt de chips waar dit op draait, en dat het de aanval had kunnen voorkomen is hun eigen claim.

Belangrijker: een kooi zegt niets over wie betaalt als het toch misgaat. Dat senaten en vakbladen die vraag nu stellen, betekent dat het antwoord er nog niet ligt.

Jouw naam staat eronder

Bij de grote jongens buigen politici en juristen zich erover. Bij jou is het een stuk simpeler. Stuurt een AI-hulpje namens jou een verkeerde mail, een factuur met het verkeerde bedrag of een bevestiging voor de verkeerde dag? Dan belt je klant niet de maker van die tool. Dan belt hij jou. Jouw naam staat erboven, jouw bedrijf staat onderaan.

Dat is geen reden om AI te laten liggen. Het is wel een reden om te weten wat er in jouw naam de deur uitgaat zonder dat jij het gezien hebt.

Deze week

Loop je tools na op één vraag: wat versturen ze zelf? Automatische herinneringen, antwoorden in je mail, berichten via WhatsApp of het contactformulier op je site. Schrijf op wat er naar klanten gaat zonder dat jij ernaar kijkt. Staat daar iets tussen waar je niet blind voor zou tekenen, zet het dan op klaarzetten in plaats van versturen.

Daarom zet Vonti een factuur of een antwoord op een mail eerst klaar. Jij kijkt, jij tikt op akkoord. Jouw naam, jouw beslissing.