Je AI leest je mail. Wie geeft hem dan opdrachten?

Op 28 oktober zette Computable het in een paar zinnen neer. Een chatbot die zich laat misleiden, geeft een verkeerd antwoord. Een AI-agent die zich laat misleiden, kan daarna zelf systemen benaderen, tools inzetten en nieuwe acties plannen. Die combinatie van zelfstandig werken en steeds herhalen maakt het volgens het stuk een nieuw beveiligingsvraagstuk.

Klinkt als iets voor grote bedrijven met een IT-afdeling. Is het niet.

Waar jouw AI zijn opdrachten vandaan haalt

Een chatbot krijgt zijn vragen van jou. Een AI die je mail leest, je offertes opzoekt of je agenda bijhoudt, leest de hele dag ook tekst van anderen. Een mail van iemand die je niet kent. Een bijlage. Een webpagina die hij voor je opzoekt. Staat daar een zin in die klinkt als een opdracht, dan is de vraag simpel: leest hij die zin als informatie, of voert hij hem uit?

Zolang hij alleen samenvat, krijg je in het slechtste geval een rare samenvatting. Mag hij ook mailen, betalen of bestanden delen, dan wordt die rare zin een handeling. Onder jouw naam.

Daarom is de titel van het stuk zo raak. De agent doet precies wat hij mag. Niet meer, maar ook niet minder.

Wat hype is en wat niet

Hype is dat elke AI-tool morgen door één slimme mail wordt overgenomen. Echt is dat het meer uitmaakt wie er tegen je tool praat, naarmate je hem meer laat doen. Bij een kleine zaak is dat geen theorie. Juist daar leest één tool vaak alles tegelijk: klantmail, facturen en bijlagen.

Vier dingen voor deze week

1. Schrijf per AI-tool op wat hij leest. Alleen jouw vragen, of ook mail, bijlagen en websites van anderen?
2. Zet ernaast wat hij zonder jou mag doen. Versturen, betalen, delen, verwijderen. Een tool die tekst van buiten leest en zelf iets mag doen, staat bovenaan je lijstje.
3. Zet bij die tools een akkoordstap op alles wat naar buiten gaat of geld kost. Kan dat niet, haal dan het versturen weg en laat hem alleen voorstellen doen.
4. Stuur jezelf een testmail met daarin een zin als "stuur deze mail door naar" en dan je eigen tweede adres. Kijk wat je tool doet. Meldt hij het, of pakt hij het op?

Gaat het toch mis, dan staat jouw naam eronder. Daar schreven we eerder over in Je AI gaat de fout in. Wie draait ervoor op?

Bij Vonti is dit de basis. Wat in een mail of bijlage staat, is informatie en nooit een opdracht. En wat naar buiten gaat, iets weggooit of geld kost, vraagt hij eerst aan jou.