Waarom is de EU AI Act belangrijk voor lokale besturen?
Lokale besturen gebruiken AI bijvoorbeeld voor administratieve ondersteuning, chatbots, personeelsprocessen of dienstverlening aan burgers. De AI-verordening bevat geharmoniseerde regels voor het ontwikkelen, aanbieden en gebruiken van AI-systemen. Welke verplichtingen gelden, hangt af van de rol van het bestuur en van het risico van de concrete toepassing.
Een lokaal bestuur is vaak een deployer: het gebruikt een AI-systeem onder eigen verantwoordelijkheid. Een bestuur kan echter ook als provider worden beschouwd wanneer het zelf een AI-systeem ontwikkelt, onder zijn naam aanbiedt of een bestaand systeem ingrijpend wijzigt. Beoordeel die rol dus per toepassing.
Wat geldt al?
Sinds 2 februari 2025 moeten aanbieders en gebruiksverantwoordelijken maatregelen nemen om, voor zover mogelijk, te zorgen voor voldoende AI-geletterdheid bij personeel en andere personen die namens hen AI-systemen bedienen of gebruiken. Daarbij moet rekening worden gehouden met hun technische kennis, ervaring, opleiding, de gebruikscontext en de personen op wie het AI-systeem wordt toegepast.
Sinds dezelfde datum gelden ook de verboden op bepaalde AI-praktijken. Voor een lokaal bestuur is het daarom essentieel om na te gaan welke toepassingen effectief worden gebruikt, ook wanneer medewerkers rechtstreeks met publiek beschikbare AI-tools werken.
Welke transparantieverplichtingen spelen?
Bij bepaalde AI-systemen moet duidelijk worden gemaakt dat iemand met AI communiceert. Daarnaast gelden specifieke informatie- of markeringsplichten voor onder meer emotieherkenning, biometrische categorisering en bepaalde door AI gegenereerde of gemanipuleerde inhoud. De precieze verplichting hangt af van het type systeem, de context en de rol van het bestuur.
Wanneer is er sprake van hoogrisico-AI?
AI kan hoogrisico zijn wanneer zij wordt ingezet in gevoelige domeinen, zoals werkgelegenheid, onderwijs, toegang tot essentiële publieke diensten, rechtshandhaving, migratie en asiel of de rechtsbedeling. Niet elk systeem in zo’n domein is automatisch hoogrisico. De classificatie moet per toepassing gebeuren op basis van de wettelijke criteria en het beoogde gebruik.
Voor hoogrisico-AI gelden strengere eisen. Afhankelijk van de rol kunnen die betrekking hebben op risicobeheer, datakwaliteit, technische documentatie, logs, menselijke controle, nauwkeurigheid, robuustheid, monitoring, incidentmelding, registratie en conformiteitsbeoordeling. Publiekrechtelijke instanties die bepaalde hoogrisico-AI gebruiken, moeten vóór het eerste gebruik ook een grondrechteneffectbeoordeling uitvoeren.
|
Onze tip |
Wat moet je als lokaal bestuur concreet doen?
-Inventariseer alle AI-systemen, inclusief ingebouwde AI-functies in bestaande software en toepassingen die medewerkers zelf gebruiken.
-Bepaal per systeem het doel, de leverancier, de gebruikte gegevens, de betrokken personen en de verantwoordelijke dienst.
-Leg vast of het bestuur optreedt als deployer, provider, invoerder of distributeur.
-Classificeer elke toepassing en controleer of een verboden, transparantieplichtige of hoogrisicotoepassing aan de orde is.
-Organiseer functiegerichte AI-geletterdheid en documenteer de gevolgde maatregelen.
-Voorzie menselijke controle, meldingskanalen, periodieke monitoring en regels voor veilig gegevensgebruik.
- Stem de AI-beoordeling af met de DPO, informatieveiligheidsfunctie, juridische dienst, HR, IT en aankoop.
- Plan tijdig de acties voor verplichtingen die later van toepassing worden en volg wetswijzigingen en uitvoeringsrichtsnoeren op.
Wat doet Securex voor jou?
Securex ondersteunt je organisatie met concrete hulpmiddelen om AI verantwoord te gebruiken:
-Een online opleiding “AI – compliant & futureproof volgens de EU AI Act”, met modules over AI-basisbeginselen, de risicocategorieën en verboden praktijken, verantwoord AI-gebruik en praktische toepassing.
-Een model voor een intern AI-beleid met richtlijnen over toegelaten gebruik, verantwoordelijkheden, AI-geletterdheid en veilig omgaan met gegevens. Het model kan worden aangevraagd via consultinglegal@securex.be.
-Juridische informatie via Lex4You over de impact van AI op de arbeidsomgeving en de verplichting rond AI-geletterdheid.
Meer informatie over de opleiding: AI – compliant & futureproof volgens de EU AI Act
Model AI-beleid aanvragen: consultinglegal@securex.be
