Wat betekent de Europese AI Act concreet voor freelancers en mkb'ers?

Je hoort de laatste tijd steeds meer over de Europese AI Act, maar hij is niet nieuw. Hij is sinds augustus 2024 van kracht en heeft betrekking op het ontwikkelen en gebruiken van AI. Wel is het zo dat de wet stapsgewijs wordt toegepast, dus er komt als het ware steeds meer bij. Wat moet je er als freelancer of mkb’er over weten?

Ten eerste is het belangrijk om goed te begrijpen wat je rol precies is, want wat er van je verwacht wordt, hangt erg van die rol af. Er zijn aanbieders, die zelf een AI-tool ontwikkelen of AI zo diepgaand in zijn product steekt. En er zijn gebruiksverantwoordelijke entiteiten die bestaande AI-software gebruiken in de bedrijfsvoering. Kortom: als jij binnen je bedrijf ChatGPT door alle medewerkers laat gebruiken, dan val je sowieso onder die gebruiksverantwoordelijke rol. Die rol heet ook wel deployer.

95 procent van de freelancers en mkb’ers is zo’n deployer en dat scheelt, want dan hoef je geen gigantische documenten te schrijven over het algoritme. Maar het is dus ook weer niet alsof je geen enkele verantwoordelijkheid hebt: hoe je het toepast is wel belangrijk. AI wordt bekeken door de wet vanuit het risico dat het vormt: een spamfilter, automatisch transcripten maken en documenten samenvatten is bijvoorbeeld een minimaal risico en dan hoef je eigenlijk alleen de AVG te volgen. Ga je AI inzetten als klantenservice-chatbot of zet jij AI-gegenereerde teksten op je site, dan heb je de tarnsparantieplicht waarbij je duidelijk moet maken dat het om AI gaat.

Wordt AI gebruikt voor kredietbeoordelingen of het selecteren van kandidaten, dan moet er menselijk toezicht zijn, moeten er bias-checks worden verricht en is er documentatie nodig, plus risicoanalyses. Er is ook iets wat als risicoklasse op onaanvaardbaar uitkomt en dat is realtime gezichtsherkenning in openbare ruimtes, manipulatie van kwetsbare groepen en social scoring, maar dat mag inmiddels voor zich spreken dat dat gewoon echt niet mag.

Je weet nu ongeveer waar je aan moet denken, maar wat moet je precies allemaal regelen? Als je medewerkers hebt, dan is het belangrijk dat je ze vertelt hoe ze met AI werken en dat AI bijvoorbeeld kan hallucineren, er geen gevoelige klant- of bedrijfsdata in moet worden gebruikt en dat ze weten waar ze naartoe kunnen met vragen. Bij klantcontact en content die met AI wordt vervaardigd moet aangegeven worden dat er met een virtuele AI-assistent wordt gesproken, of dat de content door AI is geschreven.

Vooral bij HR en AI is er veel voorzichtigheid geboden. AI die automatisch sollicitatiebrieven filtert is een hoog risico en dat beteketn dat er altijd een menselijke eindbeslisser moet zijn. Ook moet je via de softwareleverancier een AI Act Compliance-verklaring vragen. Uiteindelijk is dat de zwaarst wegende AI-regel uit de AI Act, naast dus wat er echt onaanvaardbaar is. Verder gaat het vooral om transparantie en zorgen dat mensen weten waar ze aan toe zijn: eigenlijk wat je zelf ook wil weten als je ergens klant bent en met een chatbot in contact komt wanneer je de klantenservice nodig hebt.