Les commissaires à la protection des données des Länder allemands ont engagé une procédure administrative contre OpenAI, la société à l’origine de ChatGPT. Ils souhaitent ainsi déterminer quelles données ont été utilisées pour entraîner l’IA – et sur quelle base juridique les données en question ont été utilisées.
D’où proviennent les données de formation pour ChatGPT ?
Dieter Kugelmann, chef de la Taskforce pour l’intelligence artificielle des Länder allemands et commissaire à la protection des données du Land de Rhénanie-Palatinat, déclare à cet égard que le consentement est obligatoire lorsque des données personnelles sont utilisées pour entraîner une IA. En l’absence d’un tel consentement, l’utilisation des données viole les règles européennes en matière de protection des données. Cela rendrait finalement le fonctionnement de ChatGPT illégal.
Comme on ne sait jusqu’à présent absolument pas d’où proviennent les données de formation du programme et quels consentements OpenAI a obtenu dans ce contexte, les commissaires à la protection des données des Länder allemands ont engagé une procédure contre l’entreprise. Dans le cadre de cette procédure, l’origine des données de formation doit être clarifiée. La poursuite des procédures à cet égard dépend des conclusions à cet égard.
Le KI sans base légale est un problème
Kugelmann a souligné au Tagesspiegel qu’il voyait avant tout un problème dans le déploiement de l’IA sans base juridique claire. À l’heure actuelle, les offres d’IA telles que ChatGPT sortent littéralement de terre et offrent des services de plus en plus étendus. De nombreuses questions juridiques associées à ces services restent encore à clarifier. Outre l’absence probable de consentements pour le traitement des données personnelles, cela concerne également les droits d’auteur associés aux résultats de l’IA. Plus récemment, ces deux aspects sont devenus très clairs dans le contexte d’une chanson d’IA imitant Drake et The Weeknd. Tant le traitement du matériau original que l’utilisation (commerciale) du matériau obtenu semblent en fin de compte juridiquement problématiques.
Les commissaires à la protection des données des Länder allemands ont uni leurs forces sur le sujet et ont rédigé une lettre commune dans laquelle ils fournissent des informations sur la procédure et l’objectif. Kugelmann a également précisé dans ce contexte que l’Italie n’est pas un modèle en la matière. En Italie, ChatGPT a récemment été temporairement interdit avec effet immédiat afin de mettre en œuvre des règles strictes de confidentialité et d’accès. Selon Kugelmann, l’accent est plutôt mis sur la clarification de la situation juridique existante et sur son respect, comme expliqué précédemment.
