Rechtbank Gelderland 26 juli 2023, IT 4342; ECLI:NL:RBGEL:2023:2086 (I-Design/Gedaagde) In dit geschil tussen I-Design en gedaagde oordeelt de rechtbank Gelderland over de vraag of er een overeenkomst van opdracht is gesloten. I-Design ontwikkelt software en websites. Gedaagde helpt bedrijven om maatschappelijk verantwoord te ondernemen. Hiertoe gaan partijen in samenwerking om een 'Global Goals Monitor' te ontwerpen, waarmee bedrijven kunnen zien hoe zij kunnen verbeteren op het gebied van duurzaamheid. Als een geworven financier uit het project stapt, laat gedaagde openstaande facturen onbetaald. I-Design vordert betaling van deze facturen, op grond van de opdracht van overeenkomst.

Dit onderzoek behandelt de veiligheid van grote taalmodellen (LLMs), zoals ChatGPT, Bard en Claude, en hun neiging om schadelijke inhoud te produceren. Terwijl eerdere studies "jailbreaks" hebben aangetoond - speciale vragen die onbedoelde reacties kunnen veroorzaken - tonen de auteurs aan dat het mogelijk is om geautomatiseerde aanvallen op LLMs te construeren. Deze aanvallen voegen bepaalde tekenreeksen toe aan gebruikersvragen, waardoor het systeem gebruikerscommando's opvolgt, zelfs als het schadelijke inhoud produceert. In tegenstelling tot traditionele jailbreaks worden deze automatisch gemaakt, waardoor een oneindig aantal aanvallen mogelijk is. Ze richten zich op open-source LLMs, maar werken ook op gesloten-source chatbots zoals ChatGPT, Bard en Claude. Dit roept zorgen op over de veiligheid van dergelijke modellen, vooral bij toenemend autonoom gebruik.

De Europese Commissie heeft op 4 juli 2023 een voorstel voor een nieuwe verordening gedaan, met als doel om extra procedurele regels in naleving van de Algemene Verordening Gegevensbescherming (hierna: AVG) op te stellen. Reden voor dit voorstel is de wens van de Europese Commissie om samenwerking tussen lidstaten te verzorgen, waarbij consistentie in interpretatie en beoordeling van geschillen inzake persoonsgegevens over de gehele Europese Unie het einddoel is. 

Rechtbank Amsterdam 20 juni 2023, IT 4336; ECLI:NL:RBAMS:2023:4044 (Eiseres/ING) In dit kort geding vordert eiseres inzage in enkele stukken die het ING heeft, waar persoonsgegevens van twee andere gedaagden in staan. Eiseres stelt dat zij het slachtoffer is geworden van een fraudezaak, waarbij zij als ‘geldezel’ werd gebruikt. Hierdoor is, onder andere, haar bankrekening bij ING tijdelijk bevroren en is zij een grote som geld kwijtgeraakt. Eiseres stelt dat ING niet voldoende voortvarend heeft gehandeld bij het behandelen en oplossen van deze gestelde fraude. Eisers is namelijk al twee jaar bezig met het verzamelen van gegevens en de gevolgen van de gestelde fraude. Zij vordert afgifte en inzage in gegevens die met deze fraude te maken hebben, om een aansprakelijkheidsprocedure tegen ING te kunnen inschatten. 

Rechtbank Den Haag 31 juli 2023, ECLI:NL:RBDHA:2023:11254, IT 4335 (EIser/Meta) In dit kort geding beantwoordt de voorzieningenrechter de vraag of Meta (voorheen Facebook) gehouden is om persoonsgegevens van een gebruiker aan eiser te geven. Eiser is op Facebook in meerdere besloten groepen beschuldigd van grensoverschrijdend gedrag, waar hij hinder van ondervindt. Hij kan deze besloten groepen niet betreden en kan zich niet verweren. Eiser stelt dat deze uitingen onrechtmatig zijn en daarom van Facebook verwijderd moeten worden. Naast verwijdering van deze publicaties vordert eiser de 'basic subscriber information' van de Facebookgebruikers die deze uitingen hebben gedaan. 

Rechtbannk Midden-Nederland 26 juli 2023, IT 4334; ECLI:NL:RBMNE:2023:5936 (Synergy tegen IPS) Synergy Systems B.V. (hierna: Synergy) levert systemen voor de verwerking van levensmiddelen, zoals snijmachines. Industrial Problem Solvers B.V. (hierna: IPS) houdt zich bezig met industriële optimalisatie. Synergy heeft IPS in 2018 ingeschakeld om software te ontwerpen, onderhouden en beheren. Ondanks dat de samenwerking niet soepel verliep zijn er in 2020 nieuwe afspraken gemaakt, met als doel een werkende applicatie voor 1 juli 2020. Echter werd deze deadline, en de daarop volgende, niet behaald.  

Gerechtshof Amsterdam 30 mei 2023, ECLI:NL:GHAMS:2023:1221, IT 4330 (Appellante/ING) In dit geding in hoger beroep kijkt het gerechtshof Amsterdam naar de registratie van appellante bij het Bureau Krediet Registratie (hierna: BKR) en het Centraal Krediet Informatiesysteem (hierna: CKI) door het ING. Deze registratie weerhield appellante ervan de financiering voor een appartement rond te krijgen, omdat zij voor 2022 moest kunnen aantonen een zekerheidsstelling van een financiële instelling te hebben. Dat lukte niet door de registratie in het CKI. In eerste aanleg vorderde appellante daarom in kort geding verwijdering van haar persoonsgegevens. ING heeft dit verzoek afgewezen. De voorzieningenrechter heeft deze afwijzing bekrachtigd. Appellante komt hiertegen in beroep. 

Gerechtshof Arnhem-Leeuwarden 25-07-2023, IEF 21595, IT 4332, ECLI:NL:GHARL:2023:6341 (Appellant tegen Toomba) Appellant en Toomba hebben een overeenkomst van opdracht met elkaar gesloten betreffende het ontwikkelen van een applicatie. Hiervoor leverde appellant de blueprints aan, waarin de gewenste functionaliteiten omschreven staan. Er werd een opleverdatum van 1 september 2019 overeengekomen. Echter waren er in de overeenkomst bepalingen opgenomen die voorzagen in een situatie waarin er meer tijd nodig was om de sprint af te ronden. Op 28 februari 2020 stelde appellant Toomba ingebreke, nadat Toomba twee maal met een nieuwe opleverdatum was gekomen en na het opleveren geen reactie gaf op de verbeterpunten die voortvloeiden uit de test-app. Toomba reageerde hierop en gaf aan er mee bezig te zijn. Op 21 april 2020, gaf Toomba aan dat alle veranderingen waren gevoerden dat het project hiermee afgerond was. Appellant ging hier niet meer akkoord en heeft hierna de overeenkomst op 15 mei 2020 ontbonden. 

Rechtbank Midden-Nederland 17 mei 2023, ECLI:NL:RBMNE:2023:2657, IT 4329 (Eiseres/Gedaagde) In deze zaak vordert eiseres een vergoeding wegens een tekortkoming aan zijde van de gedaagde. Gedaagde en eiseres waren overeengekomen dat eiseres voor de duur van 24 maanden enkele IT-diensten voor eiseres zou uitvoeren. Bij ontbinding van het contract zou eiseres aanspraak maken op het restant van het bedrag dat gedaagde had moeten betalen als het contract niet was ontbonden. De betalingen die gedaagde voor de IT-diensten verschuldigd was, zijn onbetaald gebleven. Gedaagde stelt namelijk dat eiseres haar gemaakte afspraken niet nakwam en hij het recht had om de overeenkomst daarom op te schorten. Eiseres ontbindt het contract en vordert betaling van het openstaande saldo (hierna: de eerste eis) en betaling van de contractueel bedongen 'verbrekingsvergoeding' (hierna: de tweede eis).

Recentelijk is Joe Biden, president van de Verenigde Staten van Amerika, in gesprek gegaan met een aantal van de grootste bedrijven die AI gebruiken (Amazon, Anthropic, Google, Inflection, Meta, Microsoft en OpenAI), om over regulering te praten. Dit gesprek heeft tot een aantal vrijwillige toezeggingen van deze tech-giganten geleid. Zij geven aan voornemens te zijn om zorg te dragen voor een veilig gebruik van AI. Ook is er een semi-toezichthoudend lichaam opgericht, met de naam Frontier Model Forum die moet meedenken over oplossingen en valkuilen in het gebruiken en beschikbaar maken van AI.