Il s’agit du tout premier cadre juridique au monde sur l’IA
Qu’est-ce qui vient de se passer? Les législateurs de l’Union européenne ont voté mercredi à une écrasante majorité en faveur d’une loi historique régissant l’intelligence artificielle. Appelé AI Act, le nouveau règlement a été approuvé par 523 voix contre 46 et devrait changer la manière dont l’IA est utilisée par les agences gouvernementales et les entreprises de l’UE.
Dans un communiqué de presse suite au vote, le Parlement européen a déclaré que la nouvelle loi constitue le tout premier cadre juridique sur l’IA et qu’elle permettra de faire un travail équilibré en abordant les risques liés à l’utilisation de la technologie émergente tout en positionnant l’Europe pour jouer un rôle de premier plan. rôle de premier plan dans son développement à l’échelle mondiale. Les législateurs ont également déclaré que la loi visait à protéger le grand public contre les utilisations néfastes de l’intelligence artificielle tout en fournissant aux développeurs et aux organisations d’IA des lignes directrices contraignantes sur la manière de l’utiliser de manière non intrusive.
Selon l’UE, la loi sur l’IA sauvegardera les droits fondamentaux des citoyens européens, ainsi que les valeurs démocratiques et la durabilité environnementale contre « l’IA à haut risque ». Dans le cadre de ce plan, la nouvelle loi interdit certaines applications d’IA qui, selon les législateurs, menacent les droits des citoyens. Il s’agit notamment de « systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et de la récupération non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale ».
D’autres applications figurant sur la liste « interdites » incluent la « reconnaissance des émotions » sur les lieux de travail et dans les écoles, ainsi que la notation sociale. Pour éviter un avenir dystopique présenté dans des films comme Minority Report, la loi interdit également catégoriquement la police prédictive lorsqu’elle repose uniquement sur le profilage d’une personne ou l’évaluation de ses caractéristiques. Enfin, l’IA qui « manipule le comportement humain ou exploite les vulnérabilités des personnes » est également interdite par la nouvelle loi.
Cependant, comme pour la plupart des lois sur les droits civils et la vie privée, il existe certaines exemptions pour l’application de la loi. Bien que l’utilisation de l’IA à des fins policières ait été largement interdite dans la nouvelle loi, les fonctionnaires sont autorisés à utiliser des systèmes d’identification biométrique en temps réel dans certaines situations si des « garanties strictes » sont respectées. Par exemple, la police de l’UE peut utiliser l’IA pour rechercher des personnes disparues ou pour prévenir une attaque terroriste, à condition d’obtenir une autorisation judiciaire ou administrative préalable.
En ce qui concerne les logiciels d’IA à usage général, la loi stipule clairement qu’ils doivent répondre à certaines exigences de transparence, notamment « le respect de la loi européenne sur le droit d’auteur et la publication de résumés détaillés du contenu utilisé pour la formation ». La loi précise également que les images générées par l’IA ou les contenus audio et vidéo manipulés, également appelés « deepfakes », doivent être correctement étiquetés comme tels.
