🤖 PropAI — AI Act Risicoklasse-beoordeling
Document: AI Act Risicoklasse-beoordeling per AI-functie
Opgesteld: 20 juni 2026
Referentie wetgeving: Verordening (EU) 2024/1689 (AI Act), gepubliceerd 12 juli 2024
Referentie richtsnoeren: Europese Commissie draft richtsnoeren hoog-risico classificatie, 19 mei 2026 (art. 6 lid 5 AI Act)
Verantwoordelijke: Lars Tils, PropAI (Verwerker + Aanbieder AI-systeem)
Rol PropAI: Aanbieder (provider) én Deployer van AI-systemen — art. 3 lid 3 en lid 4 AI Act
Herzieningsdatum: 1 december 2027 (vóór deadline verplichtingen stand-alone hoog-risico systemen)
📚 Juridische bronnen gebruikt voor deze beoordeling:
1. Verordening (EU) 2024/1689 — officiële tekst (EUR-Lex, NL versie) — Bijlage III, art. 6, art. 50
2. EC Draft Guidelines HRAI classificatie, 19 mei 2026 — Hunton Andrews Kurth analyse + Global Policy Watch analyse
3. Europese Commissie AI Act Service Desk — Bijlage III toelichting
4. Autoriteit Persoonsgegevens NL — AI Act implementatietijdlijn
5. Cloud Security Alliance — EU AI Act High-Risk Deadline analyse (augustus 2026 vs. december 2027)
6. Orrick LLP — 6 Steps Before 2 August 2026 (november 2025)
7. EC Digital Strategy pagina — officiële risiconiveaus toelichting
8. Digital Omnibus on AI — herziene implementatietijdlijn (december 2027 voor stand-alone systemen)
⚠️ CRUCIALE UPDATE — GEWIJZIGDE DEADLINES (juni 2026)
Op basis van het
Digital Omnibus on AI zijn de deadlines voor stand-alone hoog-risico AI-systemen (Bijlage III) herzien:
| Type systeem | Oude deadline | Nieuwe deadline |
|---|
| Stand-alone hoog-risico (Bijlage III) — o.a. PropAI | 2 augustus 2026 | 2 december 2027 |
| In product ingebedde hoog-risico AI (Bijlage I) | 2 augustus 2026 | 2 augustus 2028 |
| Transparantieverplichtingen art. 50 (chatbots, deepfake) | 2 augustus 2026 — ONGEWIJZIGD |
| Verboden AI-praktijken (art. 5) | Reeds van kracht februari 2025 |
Conclusie voor PropAI: De deadline voor hoog-risico verplichtingen is verschoven van
augustus 2026 naar december 2027. Dit geeft extra tijd voor voorbereiding. Transparantieverplichtingen (art. 50) blijven gelden per augustus 2026.
Bron: Hunton Andrews Kurth, 20 mei 2026 — "Digital Omnibus on AI revised the implementation schedule: requirements for stand-alone high-risk AI systems are now due to apply from December 2, 2027."
STAP 1 — Kwalificatie als AI-systeem (art. 3 lid 1 AI Act)
Allereerst: vallen PropAI's AI-functies onder de definitie van "AI-systeem" in art. 3 lid 1 AI Act?
Art. 3 lid 1 AI Act definieert een AI-systeem als: "een op een machine gebaseerd systeem dat is ontworpen om met verschillende gradaties van autonomie te werken en dat na het ingebruiknemen aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen invoer afleidt hoe het output kan genereren zoals voorspellingen, aanbevelingen, beslissingen of inhoud die van invloed kan zijn op reële of virtuele omgevingen."
✅ OORDEEL: Ja — PropAI's AI-functies kwalificeren als AI-systeem
Groq/OpenAI-gebaseerde analyse genereert voorspellingen, aanbevelingen en inhoud op basis van invoer van gebruikers. Voldoet aan art. 3 lid 1 AI Act.
STAP 2 — Verboden AI-praktijken (art. 5 AI Act — van kracht per februari 2025)
Vóór risicoklasse-beoordeling: toets op absoluut verbod.
| Verbod (art. 5) | PropAI toepassing? | Oordeel |
|---|
| Manipulatieve/misleidende AI | Nee — AI ondersteunt verhuurders, geen manipulatie huurders | ✅ Niet van toepassing |
| Exploitatie kwetsbaarheden | Nee | ✅ Niet van toepassing |
| Sociaal scoren door overheid | Nee — privaat platform, geen overheid | ✅ Niet van toepassing |
| Biometrische identificatie op afstand | Nee | ✅ Niet van toepassing |
| Emotieherkenning werkplek/onderwijs | Nee | ✅ Niet van toepassing |
| Biometrische categorisering beschermde kenmerken | Nee | ✅ Niet van toepassing |
✅ CONCLUSIE STAP 2: PropAI valt buiten alle verboden AI-praktijken van art. 5. Geen absoluut verbod van toepassing.
STAP 3 — Risicoklasse-beoordeling per AI-functie (art. 6 + Bijlage III AI Act)
PropAI heeft 5 onderscheidbare AI-functies. Elke functie wordt apart beoordeeld conform de tweestaps-test van art. 6 AI Act en de EC draft richtsnoeren van 19 mei 2026.
🏠 AI-Functie 1 — Risicoscore per huurder / pand
Beschrijving: AI genereert een risicoscore (0-10) per huurder op basis van huurhistorie, betalingsgedrag en pandkenmerken. Verhuurders zien deze score bij huurderprofielen.
Bijlage III toets — Punt 5(b): "AI-systemen bestemd voor gebruik ter beoordeling van de kredietwaardigheid van natuurlijke personen of ter vaststelling van hun kredietscore"
EC Draft Richtsnoeren 19 mei 2026 over punt 5(b): "The classification of an AI system under point 5(b) of Annex III ('AI systems intended to be used to evaluate the creditworthiness of...') must be assessed on the basis of its intended purpose." De Commissie benadrukt dat de beschrijving in product-materialen, marketing en technische documentatie bepalend is — niet alleen wat het systeem technisch doet.
Art. 6 lid 3 filter-toets (kan hoog-risico uitsluiten): Is de functie uitsluitend ondersteunend zonder materiële invloed op besluitvorming? Op basis van EC richtsnoeren: nee — een risicoscore die zichtbaar is voor verhuurders bij acceptatiebeslissingen heeft materiële invloed op de besluitvorming (acceptatie/weigering huurder).
⚠️ MOGELIJK HOOG RISICO — Bijlage III punt 5(b)
Onderbouwing: Een AI-risicoscore die verhuurders informeert over de "betrouwbaarheid" van een huurder is functioneel vergelijkbaar met een kredietscore. De EC richtsnoeren stellen dat systemen die de financiële situatie of betrouwbaarheid van personen beoordelen en besluitvorming materieel beïnvloeden, onder punt 5(b) vallen.
Mitigerende factor: PropAI beoordeelt geen kredietwaardigheid in strikte bancaire zin. De score is gebaseerd op huurhistorie, niet op financiële gegevens (inkomen, BKR). Als PropAI de score nadrukkelijk positioneert als "ondersteunende informatie, niet als beslissende factor" én de verhuurder altijd de beslissing neemt, kan de art. 6(3) filter van toepassing zijn.
Aanbeveling: Herpositioneer de risicoscore expliciet als "ondersteunende indicator" in alle productmaterialen, niet als "risicobeoordeling huurder". Documenteer dat de score geen enkele beslissing automatisch triggert.
📄 AI-Functie 2 — Document-analyse (inkomensbewijs / ID-verificatie)
Beschrijving: AI analyseert geüploade documenten van huurders (loonstroken, arbeidscontracten) en extraheert informatie voor onboarding-verificatie.
Bijlage III toets — Punt 5(b) + Punt 4:
- Punt 5(b): Beoordeling kredietwaardigheid — gedeeltelijk (inkomensbewijs raakt financiële situatie)
- Punt 4(a): Toegang tot essentiële private diensten (huisvesting is een essentiële dienst) — relevant
Bijlage III punt 4(a) — officiële tekst AI Act: "AI-systemen bestemd voor gebruik ter besluitvorming over de toegang van natuurlijke personen tot essentiële particuliere diensten en het genot van die diensten." Huisvesting kwalificeert als essentiële particuliere dienst conform recitaal 58 AI Act.
🟠 BEPERKT RISICO — met aandachtspunten
Onderbouwing: De AI extraheert alleen informatie uit documenten (OCR + samenvatting). De AI neemt geen beslissing over toelating — dat doet de verhuurder. Op basis van de EC draft richtsnoeren van 19 mei 2026 scenario (iv) "preparatory function in support of a human-led assessment" kan de art. 6(3) filter hier worden toegepast, mits:
1. De AI alleen extraheert en presenteert (niet scoort of beoordeelt)
2. De verhuurder altijd de beslissende handeling verricht
3. Dit consistent is beschreven in alle productmaterialen
Aanbeveling: Beperk de AI expliciet tot "informatie-extractie" — geen scoring of beoordeling van documenten. Documenteer dit in de technische documentatie.
📸 AI-Functie 3 — Plaatsbeschrijving-analyse (fotobeoordeling schade)
Beschrijving: AI analyseert foto's van woningen bij in- en uitcheck om schade te detecteren, te beschrijven en een conditiescore te geven (0-10). Output beïnvloedt mogelijk de borgsom-teruggave.
Bijlage III toets:
- Punt 5(b): Geen — geen beoordeling kredietwaardigheid persoon
- Punt 4: Mogelijke link via borgsom-beslissing (financieel belang huurder)
- Punt 1 (biometrie): Nee — geen gezichtsherkenning of biometrische data
✅ MINIMAAL RISICO
Onderbouwing: De AI analyseert vastgoed-objecten (ruimtes, muren, vloeren) — niet personen. Er is geen beoordeling van een natuurlijke persoon. De borgsom-beslissing raakt financiële belangen van huurders, maar de AI-output is een objectbeschrijving, geen persoonsgebonden beoordeling. Art. 6 lid 3 filter is toepasbaar — de AI voert een preparatory function uit ten behoeve van een menselijke beoordeling door de verhuurder.
Aandachtspunt: Als de borgsom automatisch wordt berekend op basis van de AI-score zonder menselijke tussenkomst → risico op escalatie naar hoog risico. Zorg voor expliciete menselijke goedkeuring bij elke borgsom-beslissing.
💬 AI-Functie 4 — Chatbot / PropertyGPT (AI-assistent voor verhuurders)
Beschrijving: AI-chatbot beantwoordt vragen van verhuurders over huurwetgeving, WWS-punten, contracten en platformgebruik.
Bijlage III toets: Geen enkel punt in Bijlage III is van toepassing — de chatbot informeert verhuurders (professionele gebruikers) over wetgeving en platformfuncties. Geen beslissingen over personen.
Art. 50 AI Act — Transparantieverplichting (deadline: 2 augustus 2026 — ONGEWIJZIGD):
✅ MINIMAAL RISICO — Bijlage III
⚠️ Art. 50 TRANSPARANTIE verplicht per aug 2026
Onderbouwing: De chatbot valt niet onder hoog-risico. Maar art. 50 lid 1 AI Act vereist dat aanbieders van AI-systemen die bedoeld zijn voor interactie met natuurlijke personen ervoor zorgen dat de persoon weet dat hij/zij met een AI-systeem communiceert — tenzij dit voor een redelijk geïnformeerde persoon duidelijk is.
Actie vereist vóór 2 augustus 2026: Zorg voor een zichtbare "AI" of "Bot" label bij de chatinterface. Vermelding in huurderportaal én bij verhuurder-chat.
📊 AI-Functie 5 — AI-aanbevelingen / Orchestrator (workflow-automatisering)
Beschrijving: AI-orchestrator scant dagelijks het platform en genereert proactieve aanbevelingen (bijv. "contract loopt af", "EPC-keuring vereist", "huurder heeft openstaande betaling"). Kan automatische herinneringen versturen.
Bijlage III toets:
- Beslissingen over personen? — Indirecte invloed (herinneringen richting huurders)
- Automatische verwerking met rechtsgevolg? — Nee, tenzij automatische incasso of boete-berekening
✅ MINIMAAL RISICO
Onderbouwing: De orchestrator genereert signalen en herinneringen — geen beslissingen over personen met rechtsgevolg. De verhuurder handelt op basis van de aanbevelingen. Art. 6(3) filter: preparatory/supporting function. Geen Bijlage III van toepassing.
Aandachtspunt: Als automatische e-mails richting huurders worden verstuurd zonder menselijke goedkeuring → documenteer dit als "geautomatiseerde communicatie" en informeer huurders dat communicatie deels geautomatiseerd is (art. 50 AI Act, overweging 132).
SAMENVATTING RISICOKLASSEN
| AI-Functie |
Bijlage III punt |
Risicoklasse |
Deadline |
Actie vereist |
| 1. Risicoscore huurder |
Punt 5(b) — mogelijk |
⚠️ Mogelijk Hoog |
Dec 2027 |
Herpositionering + art. 6(3) documentatie |
| 2. Document-analyse onboarding |
Punt 4(a) — mogelijk |
🟠 Beperkt |
Dec 2027 |
Alleen extractie, geen scoring — documenteer |
| 3. Plaatsbeschrijving foto-analyse |
Geen |
✅ Minimaal |
– |
Menselijke goedkeuring borgsom |
| 4. Chatbot / PropertyGPT |
Geen (Bijlage III) |
✅ Minimaal + art. 50 |
2 aug 2026 |
"AI" label in chat-interface |
| 5. Orchestrator / aanbevelingen |
Geen |
✅ Minimaal |
– |
Documenteer geautomatiseerde communicatie |
VERPLICHTINGEN BIJ HOOG-RISICO (van toepassing op Functie 1 — voor 2 december 2027)
Als Functie 1 (risicoscore) definitief als hoog-risico wordt geclassificeerd, gelden de volgende verplichtingen:
| Verplichting | Artikel | Wat PropAI moet doen |
|---|
| Risicobeheersysteem | Art. 9 | Documenteer risico's van de score + mitigerende maatregelen |
| Data-governance | Art. 10 | Trainingsdata vrij van bias; geen discriminatoire patronen |
| Technische documentatie | Art. 11 + Bijlage IV | Volledig systeem gedocumenteerd |
| Logging / audit trail | Art. 12 | Automatische logs van AI-beslissingen bewaren |
| Transparantie richting deployers | Art. 13 | Verhuurders informeren over werking, beperkingen en risico's |
| Menselijk toezicht | Art. 14 | Verhuurder kan altijd overrulen; geen volledig geautomatiseerde beslissing |
| Nauwkeurigheid + robuustheid | Art. 15 | Prestatieniveaus en betrouwbaarheidsmarges documenteren |
| Kwaliteitsmanagementsysteem | Art. 17 | Intern QMS opzetten voor AI-systeem |
| EU-database registratie | Art. 49 + 71 | Systeem registreren in EU AI-database |
| Fundamental Rights Impact Assessment | Art. 27 | Beoordeling grondrechtenimpact huurders uitvoeren |
📋 ACTIEPLAN — PRIORITEITSVOLGORDE
- DIRECT (vóór 2 augustus 2026) — Art. 50 transparantie:
- Chatbot-interface labelen met "🤖 AI-assistent" — zichtbaar voor alle gebruikers
- Huurderportaal: melding dat geautomatiseerde communicatie deels AI-gedreven is
- Privacyverklaring uitbreiden: vermelding van AI-gebruik per functie
- STAP 1 (augustus–oktober 2026) — Functie 1 herpositionering:
- Risicoscore hernoemen naar "Overzicht huurhistorie" — niet "risicobeoordeling"
- UI-tekst aanpassen: "Dit is ondersteunende informatie. De verhuurder neemt altijd de beslissing."
- Art. 6(3) filter-beoordeling documenteren en opslaan (intern)
- STAP 2 (november–december 2026) — Technische documentatie:
- Per AI-functie: doel, input, output, gebruikte model, beperkingen documenteren
- Bijhouden welke versie van Groq/OpenAI model wordt gebruikt
- Logging van AI-outputs uitbreiden in audit_log tabel
- STAP 3 (2027 — vóór december 2027 deadline):
- Definitieve hoog-risico classificatiebeoordeling (evt. met juridisch adviseur)
- Indien hoog-risico: EU-database registratie, FRIA uitvoeren, art. 17 QMS
- Update privacyverklaring + verwerkingsregister met definitieve AI Act status
⚖️ Juridische noot: Dit document is een interne risicoklasse-beoordeling conform art. 6(3) AI Act en de EC draft richtsnoeren van 19 mei 2026. De richtsnoeren zijn niet juridisch bindend — de gezaghebbende interpretatie berust bij het Hof van Justitie van de EU (HvJEU). Bij classificatie als hoog-risico wordt aanbevolen een gespecialiseerde AI-jurist te raadplegen. Dit document dient als bewijs van due diligence en goede trouw bij naleving van de AI Act.
Opgesteld door: PropAI AI-assistent op basis van officiële EU-bronnen
Verantwoordelijk: Lars Tils, PropAI
Datum: 20 juni 2026
Herzieningstermijn: 1 december 2027 (verplicht vóór deadline hoog-risico verplichtingen)
Versie: 1.0
Datalekprocedure ·
Verwerkersovereenkomst
Geraadpleegde bronnen: EUR-Lex 2024/1689, EC Draft Guidelines 19 mei 2026, Hunton Andrews Kurth analyse 20 mei 2026, Global Policy Watch 11 juni 2026, Cloud Security Alliance, Autoriteit Persoonsgegevens NL, Digital Omnibus on AI 2026.