Bent u bekend met het bericht «Incassobedrijf gebruikt AI om kwetsbare schuldenaar te spotten: «Kan bizarre situaties opleveren»»?1
Zijn er bij u meer voorbeelden bekend van incassobureau’s en andere organisaties die toezien op (problematische) schulden die gebruik maken of willen maken van kunstmatige intelligentie? Om hoe veel bedrijven gaat dit?
Het kabinet acht het aannemelijk dat steeds meer incassodienstverleners gebruik zullen maken van kunstmatige intelligentie (hierna: AI) tijdens het minnelijke of buitengerechtelijke incassotraject. Bijvoorbeeld de PAIR Finance Group doet dit al.2 Het kabinet tekent hier in het algemeen bij aan dat de toepassing van AI zorgvuldig en binnen de kaders van (privacy)wetgeving moet gebeuren. Voorts blijkt uit de praktijk ook steeds meer dat de consument te woord wordt gestaan door een chatbot die de eerste vragen afvangt. Deze ontwikkeling beperkt zich dan ook niet tot incassodienstverleners.
Gebruik van chatbots en in het algemeen «het opnemen van contact» waar het buitengerechtelijke incassoactiviteiten betreft, sluiten aan bij het kwaliteitskader dat sinds 1 april 2024 geldt voor buitengerechtelijke incassodienstverlening op grond van de Wet kwaliteit incassodienstverlening (hierna ook: WKI). De kwaliteit van de incassodienstverlening staat centraal, ongeacht de techniek die daarbij wordt ingezet. Het aantal incassodienstverleners dat daadwerkelijk gebruikmaakt van AI wordt niet bijgehouden en is niet bekend.
Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen van correspondentie van mensen met schulden? Op welke data is dit systeem getraind en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee aan dataminimalisatie?
Uit het artikel worden de precieze methoden of werkwijzen van Intrum mij niet duidelijk. Datzelfde geldt voor het gebruik van data door Intrum en wat er gebeurt met de input van mensen met schulden. Vanuit het Ministerie van Binnenlandse Zaken & Koninkrijksrelaties (BZK) is er contact met incassobureau Intrum. Medewerkers van het Ministerie van BZK en van het Ministerie van Justitie en Veiligheid (JenV) plannen een gesprek in met incassobureau Intrum om rond het zomerreces over de breedte van dit thema te spreken met elkaar. In het contact met uw Kamer worden de relevante opbrengsten van het gesprek betrokken.
In hoeverre Intrum voldoet aan de vereisten, waaronder die met betrekking tot dataminimalisatie,3 die op grond van de Algemene Verordening Gegevensbescherming (AVG) gelden is ter beoordeling van diens Functionaris Gegevensbescherming en aan de toezichthouder, te weten de Autoriteit Persoonsgegevens (AP). Dat is mij op dit moment niet bekend.
Ziet u risico’s bij het inzetten van zelflerende kunstmatige intelligentie door incassobureau’s, zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie?
Ja, het kabinet ziet dat de inzet van AI door incassobureaus gepaard kan gaan met bepaalde risico’s. Hier wijst de organisatie Bits of Freedom in het aangehaalde bericht ook op. Gelet op voornoemde vindt het kabinet het belangrijk om erop te wijzen dat bij de toepassing van AI al de nodige waarborgen en regels gelden. De risicogebaseerde aanpak van de Europese AI-verordening, met als vuistregel hoe hoger de (potentiële) impact van een AI-systeem op de burger hoe strenger de eisen, sluit hierbij aan. Als daarnaast bij het trainen of gebruiken van algoritmes persoonsgegevens worden verwerkt, bijvoorbeeld afkomstig uit gevoelige correspondentie, dan is de AVG van toepassing. Het is aan de toezichthouder om op de naleving toe te zien en hierop te handhaven.
Deelt u de mening dat organisaties in de schuldenindustrie uiterst terughoudend moeten zijn met het inzetten van kunstmatige intelligentie en algoritmes? Kunt u onderbouwen waarom?
Te allen tijde moet voorkomen worden dat mensen met schulden verder in de problemen komen door toepassing van AI. Zoals het kabinet hiervoor al aangeeft dient de professionaliteit en de kwaliteit van incassodienstverlening voorop te staan. Dit om in het verleden geconstateerde misstanden bij de inning van geldvorderingen tegen te gaan. Daarbij dienen de belangen van zowel de schuldeisers bij inning van de vordering als de bescherming van de schuldenaren tegen het ontstaan van problematische schulden in balans te zijn. De genoemde balans gaat ook op bij het doel van de inzet van AI. De verantwoordelijkheid voor het naleven van de geldende wet- en regelgeving, bijvoorbeeld op grond van de AVG en WKI, ligt bij de incassodienstverleners en andere ondernemingen die incassowerkzaamheden verrichten. In gesprekken met de branche besteedt het kabinet hier aandacht aan.
Kunt u garanderen dat het gebruik van kunstmatige intelligentie voor consumenten altijd optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke correspondentie door een dergelijk systeem te laten controleren?
Nee, dat kan het kabinet niet garanderen. Dat laat onverlet dat er eisen gelden voor de wijze van benaderen van de schuldenaar op grond van de WKI.4 Ook in het geval door een incassodienstverlener AI wordt ingezet, zal deze partij zich moeten verhouden tot de WKI. Mensen met schulden mogen bijvoorbeeld niet oneigenlijk onder druk worden gezet. Daarbij geldt dat ten aanzien van persoonlijke correspondentie incassodienstverleners gehouden zijn aan de AVG die bescherming biedt bij de verwerking van (bijzondere) persoonsgegevens van alle betrokkenen. Aan de inzet van AI zullen op termijn expliciete eisen worden gesteld ten aanzien van de techniek die wordt gebruikt.
Intrum geeft aan dat deze AI-toepassing «een bewezen succes is in het Verenigd Koninkrijk,» kunt u toelichten op welke manier het Verenigd Koninkrijk AI-toepassingen in de schuldenindustrie momenteel gebruikt? Welke invloed heeft dit gehad op personen met schulden, hoe is hun privacy geborgd en hoe is het toezicht daarop geregeld?
Het onderzoek naar de praktijk uit het Verenigd Koninkrijk is mij onbekend. Daarom is er contact met Intrum voor een toelichting en om hierover van gedachten te wisselen. Dat gesprek zal tussen in ieder geval medewerkers van BZK, van JenV (JenV is verantwoordelijk voor de WKI) en Intrum plaatsvinden. Zie ook mijn antwoord op vraag 3.
Welke kaders gelden er momenteel voor het gebruik van kunstmatige intelligentie door incassobureau’s en schuldeisers? Zijn er bestaande kaders voor het gebruik van algoritmes, die ook van toepassing zijn op kunstmatige intelligentie?
Om te beginnen moet het gebruik van AI als daarin persoonsgegevens worden verwerkt voldoen aan de AVG, bovendien treedt vanaf de zomer de AI-verordening gefaseerd in werking. De AI-verordening bevat regels voor het gebruik van AI in de EU en regelt ook het toezicht op die regelgeving.
Past de voorgestelde AI-toepassing van Intrum binnen de kabinetsvisie Generatieve AI en de Werkagenda Waardengedreven Digitaliseren? Zo ja, kunt u toelichten op welke punten deze AI-toepassing in de schuldenindustrie bijdraagt aan maatschappelijk waardevolle digitalisering? Zo niet, kunt u uiteenzetten op welke vlakken deze AI-toepassing in strijd is met het kabinetsstandpunt? Welke consequenties verbindt u daar aan?
In algemene zin kunnen AI-toepassingen die mensen helpen om hun positie te versterken – zeker mensen in meer kwetsbare posities – op bijval van het kabinet rekenen. Uiteraard dienen deze AI-toepassingen met waarborgen omkleed te worden. Dat wil zeggen dat aan bestaande wet- en regelgeving (zie ook het antwoord op vraag 8) en aan nieuwe eisen die voortvloeien uit de AI-verordening (zie het antwoord op vraag 11) moet worden voldaan, maar ook dat bredere morele overwegingen over de inzet van dergelijke toepassingen aan de orde moeten zijn.
Welke instrumenten zal de Europese AI-verordening bieden om zo nodig in te grijpen of op de rem te trappen als kunstmatige intelligentie op een onwenselijke manier te werk gaat in de publieke- en private sector?
Op 21 mei jl. heeft de Telecomraad van de EU de AI-verordening aangenomen waarna de implementatie van de AI-verordening in gang wordt gezet en fasegewijs in werking zal treden. De AI-verordening stelt eisen aan de ontwikkeling van risicovolle AI-systemen, nog voordat ze op de markt worden gebracht of in gebruik worden genomen met als doel om ervoor te zorgen dat ze veilig zijn en mensenrechten respecteren. De verordening stelt een risicogebaseerde benadering voor en stelt verplichtingen aan aanbieders en gebruikers afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt. De AI-verordening zal van toepassing zijn op alle sectoren, waaronder ook de schuldenindustrie. De verordening heeft een algemeen karakter en is niet beperkt tot een specifieke branche. Alleen bij inzet voor opsporings- en veiligheidsdiensten gelden aangepaste regels.
Bent u bereid om nu al te werken aan duidelijke kaders voor het gebruik van kunstmatige intelligentie, vooruitlopend op de AI-verordening, bij organisaties die verstrekkende financiële besluiten maken over mensen en gevoelige persoonsgegevens verwerken?
Verschillende bepalingen uit de AI-verordening worden na inwerkingtreding gefaseerd van kracht, te beginnen met de bepalingen over verboden praktijken na een half jaar. Het streven is dat in juni 2025 verplichtingen gaan gelden voor aanbieders van generieke AI-toepassingen (die ten grondslag liggen aan concrete AI-toepassingen). Daarbij is de verwachting ook dat dan het nationale toezicht op AI is geregeld. Weer een jaar later, in juni 2026, treden de vereisten voor hoog risico in werking. Vanwege de fasegewijze invoer neemt het kabinet daarom verschillende stappen om de implementatie van deze verordening optimaal te laten verlopen. Het kabinet is in gesprek met bedrijven en (mede)overheden om de impact van de AI-verordening in kaart te brengen. Het kabinet zal een uitvoeringswet maken en waar nodig bestaande wetgeving daarop aanpassen. Het toezicht op de AI-verordening wordt verder ingericht in samenwerking met toezichthouders.
Kunt u aan de hand van de verboden categorieën, zoals beschreven in artikel 5, lid 1c, van de AI-verordening5 beoordelen of de AI-screening door een incassobureau van mensen met (mogelijk) problematische schulden gerechtvaardigd is? Kunt u afzonderlijk ingaan op hoofdartikel 5, lid 1c en sub-onderdelen i en ii?
De AI-verordening kent een aantal verboden, waaronder een verbod op social scoring waar u naar refereert met artikel 5. Dan gaat het om AI-toepassingen met de intentie om die in de handel te nemen, of om door, of namens, overheidsinstanties ingezet te worden op basis van data afgeleid uit sociaal gedrag, om mensen te classificeren en te beoordelen. Een toevoeging in lid 1c en subonderdelen i en ii, is dat de toepassingen leiden tot ongunstige of onrechtvaardige benadeling van groepen. Het kabinet geeft geen oordeel of een toepassing geoorloofd is of niet. Dat is aan de toezichthouders en in voorkomend geval uiteindelijk aan de rechter.
Valt de schuldenindustrie onder het toepassingsbereik van het verbod op emotieherkenning op de werkplek en in het onderwijs, die de AI-verordening voorschrijft? Zo niet, bent u bereid om een dergelijke uitbreiding van het toepassingsbereik te onderzoeken en indien mogelijk in de nationale uitvoeringswet te verwerken?
De schuldenindustrie valt onder het toepassingsbereik van het verbod op emotieherkenning indien gebruik wordt gemaakt van AI-technieken voor social scoring en het gebruik daarvan nadelige en ongunstige gevolgen heeft voor personen zoals omschreven in artikel 5 lid 1c i en ii.
Wordt er in de schuldenindustrie en soortgelijke sectoren waar veel gevoelige persoonsgegevens worden verwerkt actief meegekeken door de Autoriteit Persoonsgegevens op het gebruik van AI? Welke rol speelt de Inspectie Justitie en Veiligheid bij het toezicht op algoritme- en AI-toepassingen in de sector, nu de Wet kwaliteit incassodienstverlening per 1 april 2024 in werking treedt?
Hoewel de AI-verordening nog niet in werking is getreden is de AVG wel van toepassing en is een toezichthouder (AP) actief die op de juiste toepassing van deze wetgeving toeziet. Dit geldt ook waar het de verwerking van (bijzondere) persoonsgegevens betreft door incassodienstverleners. De AVG is bovendien van toepassing indien (bijzondere) persoonsgegevens worden verwerkt bij het gebruik van AI. De AP is coördinerend toezichthouder op algoritmes en AI die risico’s met zich meebrengen voor publieke waarden en grondrechten.6Bijna alle algoritmes verwerken persoonsgegevens en vallen daarmee onder het toezicht van de AP. Verder heeft de AP in haar «Focus AP 2020–2023» aangegeven dat «algoritmes & AI» één van haar focusgebieden is.7, 8 Het belangrijkste aandachtsgebied binnen dit focusgebied is het stelsel van toezicht op AI en algoritmes waarin persoonsgegevens worden gebruikt. De AP stelt dat het hierbij van belang is dat bedrijven en organisaties die geautomatiseerd besluiten nemen aan de eisen uit de AVG voldoen, zoals de informatieplicht, transparantie, uitlegbaarheid en menselijke tussenkomst.
Naast eisen uit de AVG gelden de regels uit de Wet kwaliteit incassodienstverlening. De WKI regelt de verplichte registratie in het Register incassodienstverlening9 door en stelt kwaliteitseisen aan buitengerechtelijke incassodienstverleners. Het toezicht en de handhaving op de naleving van de kwaliteitseisen van de WKI zijn primair belegd bij de Inspectie Justitie en Veiligheid (hierna: de Inspectie).10 De Inspectie kan via regulier toezicht langsgaan bij incassodienstverleners of informatie opvragen. De Inspectie kan geen individuele klachten van schuldenaren of schuldeisers in behandeling nemen. Op haar website kan via het «Klachtenformulier Wet kwaliteit incassodienstverleners» wel een melding worden gemaakt. De Inspectie gebruikt deze meldingen om keuzes te maken in haar toezicht en om te bepalen welke incassodienstverleners worden onderzocht.
Op welke termijn verwacht u aan de Kamer wet- en regelgeving voor te leggen die kaders stelt en normen bepaalt voor de toepassingen van kunstmatige intelligentie in de publieke- en private sector?
De AI-verordening is op 21 mei jl. door de Europese Telecomraad aangenomen en treedt naar verwachting vanaf de zomer fasegewijs in werking. Zie antwoord op vraag 11 voor de inwerkingtreding van alle categorieën van AI.
Zie voor informatie de website van Justis: www.justis.nl/producten/screening-incassodienstverlening/kwaliteitseisen-screening-incassodienstverlening (onder: bereikbaarheid en benadering) en artikel 13, derde lid, van de WKI. De website Inspectie JenV geeft informatie over hoe de controle op regels plaatsvindt: www.inspectie-jenv.nl/toezichtgebieden/toezicht-op-de-incassomarkt/hoe-controleert-de-inspectie (onder: derde bullet).
Kopieer de link naar uw clipboard
https://zoek.officielebekendmakingen.nl/ah-tk-20232024-2117.html
De hier aangeboden pdf-bestanden van het Staatsblad, Staatscourant, Tractatenblad, provinciaal blad, gemeenteblad, waterschapsblad en blad gemeenschappelijke regeling vormen de formele bekendmakingen in de zin van de Bekendmakingswet en de Rijkswet goedkeuring en bekendmaking verdragen voor zover ze na 1 juli 2009 zijn uitgegeven. Voor pdf-publicaties van vóór deze datum geldt dat alleen de in papieren vorm uitgegeven bladen formele status hebben; de hier aangeboden elektronische versies daarvan worden bij wijze van service aangeboden.