Ga naar de inhoud
Home » Actueel » Toezicht op Artificiële Intelligentie (AI) en algoritmes

Toezicht op Artificiële Intelligentie (AI) en algoritmes

Rekening houden met privacy

Bedrijven en instellingen maken steeds vaker gebruik van AI en algoritmes om hun diensten en producten beter te kunnen afstemmen op de wensen van de klant of om hun bedrijfsprocessen te optimaliseren. Dat is een goede ontwikkeling, maar veel bedrijven en instellingen houden te weinig rekening met  de privacy aspecten.

Bij de toepassing van AI en algoritmes kunnen persoonsgegevens worden verwerkt. Behalve toetsing aan de Algemene verordening gegevensbescherming (AVG) voor privacyrechten komen dan ook ethische en juridische vraagstukken aan de orde. Immers, niet alles wat mag zou je moeten willen. Wetenschappers, waaronder Stephen Hawking, waarschuwden voor de risico’s van AI.

Wat zijn de vereisten?

Alvorens met AI en algoritmes wordt gestart, vereist de AVG vaak een Data Protection Impact Assessment (DPIA). Deze DPIA moet ons inziens het brede scala van risico’s omvatten omdat het maatschappelijk verkeer behalve op bescherming van persoonsgegevens een bedrijf of instelling ook zal aanspreken op ethisch gedrag. Ook moet het bedrijf of instelling aangeven waarom het gebruik van AI en algoritmes proportioneel is.

De DPIA wordt de verantwoording van de risico’s voor de rechten en vrijheden van personen en de passende maatregelen die ertoe moeten leiden dat deze risico’s vermeden of beheerst worden.

Tijdens de implementatie en de operationalisering van AI en algoritmes moet de DPIA steeds worden bijgewerkt op basis van nieuwe inzichten. Er kunnen nieuwe bedreigingen bekend worden, betere beheersingsmaatregelen beschikbaar komen of de omvang van de verwerking kan zich uitbreiden. De DPIA kan pas worden afgerond als de bewaartermijn van de verwerking is verstreken.

De ontwikkeling van AI en algoritmes gaat snel. Hoe eerder begonnen wordt met een DPIA, des te eerder kunnen risico’s met beheersingsmaatregelen door security by design en privacy by design worden meegenomen in de requirements.

De Autoriteit Persoonsgegevens (AP) heeft in een bericht van 17 februari 2020 aangegeven de toezicht op AI en algoritmes te verscherpen. Een deugdelijke DPIA geeft de AP het vertrouwen dat u de bescherming van persoonsgegevens en privacy serieus neemt.

Meer informatie

Heeft u vragen of heeft u behoefte aan een afspraak? Neem gerust contact met ons op via +31 0 (70) 392 22 09 of info@duthler.nl.