Open brief van de AP aan OpenAI
De Autoriteit Persoonsgegevens (hierna: de AP) heeft contact opgenomen met OpenAI, de ontwikkelaar van ChatGPT, omdat de AP zich zorgen maakt over de manier waarop de chatbot getrained wordt. De grote kwantiteiten data die aan het zelflerende algoritme worden gevoerd kunnen immers persoonsgegevens bevatten. De AP heeft als taak om de Algemene Verordening Gegevensverwerking (hierna: de AVG) te handhaven en heeft daarom een ChatGPT-taskforce opgericht.
ChatGPT is een geavanceerd taalmodel dat teksten kan generen op basis van suggesties die door de gebruiker worden gedaan. Een gebruiker kan om hulp vragen bij het schrijven van een script, opheldering over nieuwsberichten en zelfs om advies bij (juridische) kwesties. Het probleem is echter dat onduidelijk is welke data wordt gebruikt en hoe deze geïncorporeerd wordt. Data die van het internet wordt gehaald kan gevoelige informatie bevatten en de teksten die worden gegeneerd worden niet gecontroleerd op juistheid. Samen met andere privacytoezichthouders in de Europese Unie gaat de AP op onderzoek naar de manier waarop data, met name persoonsgegevens, door OpenAI wordt gevonden en opgeslagen door het ChatGPT-algoritme, teneinde effectief toezicht te kunnen houden. De eerste stap daartoe is een open brief van de AP aan OpenAI, waarin gevraagd wordt hoe OpenAI en ChatGPT omgaan met persoonsgegevens.
Daarnaast is er nog het probleem dat de teksten die ChatGPT genereert opgeslagen worden om het algoritme verder te trainen. Dat de teksten niet op juistheid worden gecontroleerd en gebruikers alle informatie die zij willen aan het algoritme kunnen geven, betekent dat er een grote kans is dat gevoelige gegevens in de databases van OpenAI komen. Deze gegevens moeten in navolging van de AVG worden verwerkt, wat op dit moment (waarschijnlijk) niet gebeurd. Vandaar dat de AP contact heeft opgenomen met OpenAI. De AP is niet de enige partij die zich zorgen maakt om de opmars van ChatGPT. De Italiaanse privacywaakhond heeft gebruik van de chatbot zelfs tijdelijk verboden. Hoe de samenwerk tussen toezichthouders en OpenAI zal verlopen is vooralsnog niet duidelijk.
