‘Wees terughoudend in het gebruik van Copilot.’ De ICT-coöperatie voor onderwijsinstellingen, SURF, adviseert dat voorzichtigheid geboden is met Copilot, de AI die Microsoft in steeds meer systemen integreert.
SURF ziet Copilot als een potentieel veiligheidsrisico. Het gaat dan vooral om Copilot binnen Microsoft 365, iets dat door veel scholen wordt gebruikt. Het is niet zo dat Copilot helemaal in de ban wordt gedaan. De organisatie ziet ook dat Microsoft bepaalde aanpassingen heeft gedaan die de risico’s kleiner zouden moeten maken, maar is niet overtuigd dat alle privacy-risico’s hiermee verdwenen zijn.
SURF onderwerpt software regelmatig aan een Data Protection Impact Assessment, waarmee er wordt gekeken hoe de data veilig wordt gehouden. Vorig jaar deed SURF dat, waarop het Copilot helemaal afraadde, maar inmiddels is dat stoplicht van rood naar oranje gegaan, omdat er wel risico’s lijken te zijn, maar er ook veel problemen waar het eerst tegenaan liep zijn verholpen.
Maar ja, hoe ben je ‘voorzichtig’ met Copilot zonder er helemaal mee te stoppen? Volgens SURF is het goed om duidelijke afspraken te maken over de inzet van AI, plus het voeren van een AI-gebruiksbeleid. Maar: wat is dat? Het is een soort stappenplan waardoor medewerkers correct AI gebruiken op de werkplek. Het geeft aan welke soorten AI er zijn en welke er binnen het bedrijf worden geaccepteerd. Iedereen weet wel dat je niet de cijfers van je bedrijf door ChatGPT moet gooien voor een checkje, maar er komt nog veel meer bij kijken.
In zo’n AI-beleid zet je bijvoorbeeld een gedragscode, hoe het zit met de beveiliging en welke software er zoal wordt gebruikt. Maar er moeten ook basale dingen in, zoals ‘wat verstaan we onder een algoritme, of onder AI?’ Voor veel mensen is AI een vaag begrip, dus wat meer handvatten bieden door onder andere te bespreken wat chatbots zijn en wat generatieve AI is. Ook moeten er contactgegevens aanwezig zijn zodat medewerkers ergens naartoe kunnen als ze vragen hebben.
Verder zijn voorbeelden van taken waarbij je AI kunt gebruiken erg fijn: dat maakt het veel duidelijker aan medewerkers wanneer ze AI precies wel en niet mogen inzetten. Ook is het goed om regelmatig AI-audits uit te voeren, zodat er wordt gecheckt hoe de datakwaliteit en -veiligheid van de AI ervoor staat. Het is immers niet iets wat je een keer bepaalt en that’s it: kunstmatige intelligentie is constant in verandering. Dat laat Microsoft ook wel zien met Copilot, dat nu dus weliswaar wat veiliger is geworden, maar nog steeds niet helemaal waterdicht genoeg is om dat stoplicht van SURF op groen te krijgen.
