Op 30 oktober 2023 kondigden de leiders van de G7 hun overeenstemming aan over een reeks internationale leidende principes voor kunstmatige intelligentie (AI) en een vrijwillige gedragscode voor AI-ontwikkelaars, als onderdeel van het Hiroshima AI-proces dat werd geïnitieerd tijdens de G7-top in mei 2023. Deze ontwikkeling werd met enthousiasme ontvangen door de Europese Commissie, die onder leiding van voorzitter Ursula von der Leyen actief betrokken was bij dit proces. Deze internationale overeenkomst is van groot belang, aangezien de principes en gedragscode een aanvulling zullen vormen op de juridisch bindende regels die momenteel worden afgerond binnen de EU AI Act. De EU heeft zich reeds gepositioneerd als een regelgevende pionier op het gebied van AI, en deze nieuwe overeenkomst weerspiegelt de inzet om betrouwbare AI te bevorderen en tegelijkertijd de veiligheid en rechten van individuen te waarborgen. De elf leidende beginselen zijn ontwikkeld door de G7-landen en de EU in nauwe samenwerking, en ze voorzien in richtlijnen voor organisaties die geavanceerde AI-systemen ontwikkelen, inzetten en gebruiken. Deze beginselen leggen de nadruk op het nemen van passende maatregelen om risico's te identificeren en te beperken tijdens de hele levenscyclus van AI-systemen, het bevorderen van transparantie en verantwoordingsplicht, het delen van informatie en het investeren in robuuste beveiligingscontroles.

Hof Amsterdam 26 september 2023, IT 4413; ECLI:NL:GHAMS:2023:2532 (Appellante tegen Allsafe). Allsafe heeft appellante ingeschakeld om een op maat gemaakt softwaresysteem voor haar te ontwikkelen. Allsafe is niet tevreden over het systeem dat appellante heeft geleverd en heeft daarom de facturen onbetaald gelaten. Ook heeft Allsafe de overeenkomst ontbonden. Appellante vordert in deze procedure betaling van die facturen. Appellante vordert in deze procedure betaling van de facturen. Allsafe vordert op haar beurt terugbetaling van de betaalde facturen als gevolg van de ontbinding van de overeenkomst. De rechtbank heeft de vorderingen van appellante afgewezen en de vorderingen van Allsafe gedeeltelijk toegewezen.

Persbericht Europese Commissie. Onder de Digital Services Act (DSA) dienen zeer omvangrijke online platforms, oftewel VLOP's (Very Large Online Platforms), te voldoen aan voorschriften inzake transparantie. Als onderdeel van deze nalevingsvereisten, zijn deze platforms verplicht om transparantierapporten openbaar te maken. Enkele van deze platforms hebben reeds aan deze verplichting voldaan. Hieronder vallen Amazon, LinkedIn, TikTok, Pinterest, Snapchat, Zalando en Bing. Deze rapporten worden gepubliceerd om samen met een database van de Commissie met verklaringen en aanvullende voorschriften voor aangewezen diensten, bij te dragen aan het creëren van helderheid en verantwoording met betrekking tot het modereren van online content op deze platforms. Dit initiatief streeft naar een meer transparante benadering van de inhoudsmoderatie op online platformen en versterkt de naleving van de DSA.

Met het aanhangige wetsvoorstel wordt uitvoering gegeven aan de digitale marktverordening (hierna: DMA). De Afdeling advisering Raad van State (hierna: Afdeling) adviseert hier over het wetsvoorstel. Handhaving van de DMA vindt plaats door de Europese Commissie (hierna: Commissie), nationale instanties ondersteunen hierbij. In de uitvoeringswet wordt de Autoriteit Consument en Markt (hierna: ACM) benoemd als de bevoegde nationale autoriteit in Nederland. Zowel de ACM als de Commissie heeft de bevoegdheid onderzoek te starten naar de naleving van de DMA, waardoor overlap ontstaat in hun werkzaamheden. Volgens de DMA eindigt in dat geval het onderzoek van de nationale autoriteit wanneer de Commissie een onderzoek start naar dezelfde inbreuk. Op voorhand is echter niet altijd duidelijk of een handeling van een poortwachter onder de DMA valt of dat een ander soort overtreding aan de orde is. In gevallen van overtredingen van het mededingingsrecht of van de P2B-verordening heeft de ACM namelijk een zelfstandige toezichthoudende rol, waarbij zij handhavingsmaatregelen kan opleggen. De DMA laat daartoe ruimte, maar verlangt wel dat de ACM de Commissie op de hoogte stelt van onderzoeken en eventuele opgelegde maatregelen.

Vzr. Rb. Amsterdam 18 oktober 2023, IT 4404; ECLI:NL:RBAMS:2023:6530 (Eiser tegen Criteo). Eiser is een Nederlandse natuurlijke persoon. Gedaagden zijn rechtspersonen die onderdeel uitmaken van het Criteo-concern. Criteo is een belangrijke speler in de ‘Adtech-industrie’. Criteo plaatst via de website van derden zogeheten ‘tracking cookies’ op computers en/of mobiele apparaten. Tracking cookies bevatten een uniek ID, een willekeurige lijst van karakters, die wordt toegewezen aan de browser van een bepaalde websitebezoeker. Bij iedere website die een link heeft met Criteo en die met die browser wordt bezocht, wordt dezelfde tracking cookie uitgelezen. Het doel van Criteo met de tracking cookies is om advertenties af te stemmen op het gedrag van websitebezoekers. Dit is ook gebeurd bij eiser zonder dat hij daarvoor toestemming heeft verleend, waardoor hij stelt dat in strijd met de AVG en de telecommunicatiewet is gehandeld. Eiser vordert staking en gestaakt houden van het plaatsen van tracking cookies via websites van derden door Criteo. Daarnaast vordert eiser dat hij in kan zien met wie zijn persoonsgegevens gedeeld zijn en dat deze verwijderd worden.

Aanhangsel Handelingen II 2022/23, nr. 2037. Minister Dijkgraaf van Onderwijs, Cultuur en Wetenschap en minister Wiersma van Primair en Voortgezet Onderwijs beantwoorden Kamervragen ten aanzien van tekstgenerator ChatGPT. De minister antwoordt dat hij van het bestaan van ChatGPT weet en dat hij ChatGPT geen geschikte tool vindt voor leerlingen om schrijfvaardigheden te leren. ChatGPT is echter niet in staat om context of betekenis uit tekst af te leiden volgens de minister, waardoor kritisch lezen en analyseren van teksten nog belangrijker worden in de toekomst. Op scholen worden plannen opgesteld om basisvaardigheden zoals taal en digitale geletterdheid te ontwikkelen. Aan de ministers wordt gevraagd of ze de gevaren zien van ChatGPT. De ministers stellen dat ChatGPT mogelijkheden biedt voor efficiëntie en verkrijging van informatie. Zij zien mogelijkheden in het bevorderen van de competentie, digitale geletterdheid en het verminderen van werkdruk voor leraren. Ook is het kabinet volgens de ministers op de hoogte van eventuele gevaren van deze technologie. Zo bestaan risico’s op het gebied van privacy en kan ChatGPT gebruikt worden voor schadelijke doeleinden. Daarom is een nationaal onderwijslab (NOLAI) aan het werk om veilige en verantwoorde innovaties te ontwikkelen en evalueren. Zij houden daarbij privacy en autonomie van leraren en leerlingen in het oog.

Het wetsvoorstel opvraagbaarheid gegevens voor spoedeisende zorg dient ervoor te zorgen dat medische gegevens makkelijker op te vragen zijn als iemand spoedeisende zorg nodig heeft. Dit komt ten goede van de zorg, omdat hierdoor beter kan worden bepaald hoe snel iemand moet worden geholpen en wat voor hulp iemand nodig heeft. Door dit wetsvoorstel zal tevens minder kans bestaan op medische fouten. Het wetsvoorstel regelt dat sommige zorgaanbieders in principe verplicht worden bepaalde gegevens opvraagbaar te maken. Die “verplicht opvraagbaar gemaakte gegevens” mogen alleen worden ingezien door bepaalde zorgverleners in geval van spoedeisende zorg en alleen als de cliënt geen bezwaar maakt. Het concept wetsvoorstel is hier te raadpeegen.

Artikel van Isabel van Tuyll van Serooskerken en Noor de Werd. De Hoge Raad heeft op 8 september 2023 een arrest gewezen dat van belang is voor de geldigheid van algemene voorwaarden in een zakelijke (b2b) setting. De reflexwerking van de zwarte en grijze lijst lijkt te zijn verruimd. 

Rb. Amsterdam 6 september 2023, IT 4407; ECLI:NL:RBAMS:2023:5743 (Verzoeker tegen ING). Verzoeker had krediet afgesloten bij ING voor zijn eenmanszaak. Op een bepaald moment kon verzoeker het krediet niet meer terugbetalen en is hij failliet verklaard. ING heeft meerdere malen verzocht om het betaalde bedrag terug te betalen, maar verzoeker was hiertoe niet in staat en is toegelaten tot de schuldsanering. Toen verzoeker de schuldsanering had afgerond met een schone lei, heeft ING de bijzonderheidscode 3 toegevoegd in het BKR-systeem aan de kredietverlening van verzoeker. Verzoeker heeft ING tweemaal verzocht om de bijzonderheidscode bij de BKR-registratie te verwijderen, maar kreeg tweemaal nul op rekest. Verzoeker verzoekt nu de rechtbank om ING te veroordelen de codering van de BKR-registratie te verwijderen. Partijen zijn het erover eens dat de BKR-registratie juist is. De einddatum van bijzonderheidscodering 3 aan de BKR-registratie is 2025, maar verzoeker is van mening dat deze eerder verwijderd dient te worden. Een BKR-registratie is aan te merken als het verwerken van persoonsgegevens waarop de AVG van toepassing is.

Op 20 oktober 2023 heeft de Raad van de Europese Unie conclusies aangenomen met betrekking tot digitale empowerment voor de bescherming en handhaving van grondrechten in het digitale tijdperk. Deze conclusies richten zich op twee kernthema's: de bevordering van digitale empowerment bij individuen en belangrijke sectoren, en het tot stand brengen van een veilige digitale omgeving waarin grondrechten worden gewaarborgd. In deze aangenomen conclusies doet de Raad een oproep aan de lidstaten om binnen hun bevoegdheden passende maatregelen te nemen. Hieronder vallen het bevorderen van adequate mediawijsheid en digitale geletterdheid, het intensiveren van inspanningen om de digitale kloof te verkleinen, en het implementeren van geschikte initiatieven om ervoor te zorgen dat iedereen gelijke toegang heeft tot online overheidsdiensten. Bijzondere aandacht wordt ook geschonken aan de specifieke behoeften van diverse groepen, waaronder kinderen en jongeren, ouderen, vrouwen en meisjes, evenals personen met een handicap. Het doel is om ervoor te zorgen dat niemand wordt buitengesloten en dat digitale empowerment en de bescherming van grondrechten voor alle Europese burgers een realiteit worden. Deze conclusies weerspiegelen de voortdurende inzet van de EU om de uitdagingen van het digitale tijdperk aan te pakken en de digitale inclusie te bevorderen.