28 novembre 2023
29 juin 2020
Le Défenseur des droits et la CNIL ont publié conjointement un rapport sur les algorithmes, portant chacun leurs expertises au service des droits fondamentaux des personnes. Si le recours aux algorithmes n’est pas nouveau, l’utilisation devient de plus en plus massive : au sein du secteur privé et des administrations (prestations sociales, police, justice, hôpitaux, accès aux services publics, procédures d’embauches) conditionnant l’accès aux droits des personnes accompagnées par le secteur social et médico-social. Sujet resté longtemps dans l’angle mort des débats publics, un travail de vigilance doit être mené afin de prévenir les discriminations qui pourraient découler de ces technologies.
Pour rappel :
Un algorithme c’est : la description d’une suite d’étapes permettant d’obtenir un résultat à partir d’éléments fournis. Par exemple, une recette de cuisine est un algorithme permettant d’obtenir un plat à partir de ses ingrédients. Pour qu’un algorithme puisse être mis en œuvre par un ordinateur, il faut qu’il soit exprimé dans un langage informatique et prend la forme d’un logiciel : une application.1
Une discrimination c’est : la discrimination consiste à favoriser ou défavoriser un individu, en raison de certaines de ses caractéristiques ou de certains de ses choix personnels. Ce traitement différencié des personnes influe sur leurs droits fondamentaux : l’accès aux droits, à un service, à une fonction, etc. 2
Les deux autorités indépendantes font part de leurs préoccupations sur l’effet de ces technologies sur les droits fondamentaux étant conçus par des humains et pouvant donc être biaisés. Les trois formes de discriminations peuvent être à l’œuvre par l’intermédiaire des algorithmes :
Discrimination directe3 : parfois de manière intentionnelle avec l’incorporation d’un biais discriminatoire interdit (sexe, origine, etc.) dans l’algorithme.
Discrimination indirecte4 :
A noter que la combinaison des critères neutres peuvent tendre vers de la discrimination.
– Discrimination systémique5 : L’application de biais discriminatoires dans un algorithme se fait de manière automatique et cette répétition parfois à grande échelle pourrait systématiser les discriminations. Ceci risquant de renforcer la stigmatisation envers certaines populations. Car, le but d’un algorithme est de repérer des comportements ou des caractéristiques de groupe afin de dire les actions à adopter. Ainsi, en incorporant des données discriminantes dans le système, celui-ci va proposer une marche à suivre « rationnelle » pouvant faire penser que ce sont des décisions objectives même si discriminantes.
« Ce risque de discrimination est d’autant plus grand pour les groupes sociaux qui font déjà l’objet de discriminations systémiques majeures au sein de la société, par exemple, les femmes, les personnes en situation de handicap ou les personnes issues de l’immigration. »
La CNIL et le Défenseur des Droits ont donc formulé les recommandations suivantes :
– La non-discrimination n’est pas une option mais bien un cadre juridique. Les biais discriminatoires dans les algorithmes devraient pouvoirs être repérés et corrigés et les auteurs de ces biais devraient pouvoir être sanctionnés
– Il y a un enjeu pour que les victimes fassent valoir leurs droits. Le problème étant que les effets discriminatoires des algorithmes ne sont souvent mesurables qu’à l’échelle des groupes. Ils risquent de rester tout à fait invisibles pour les victimes.
Pour rappel, les 25 types de discriminations sont :
1 Définition de la CNIL https://www.cnil.fr/fr/definition/algorithme
2 Voir le Défenseur des droits et la CNCDH sur ce sujet
3 C’est lorsqu’une personne est choisie ou rejetée délibérément par rapport à une autre sur le fondement d’un ou de plusieurs des 25 critères listés.
4 C’est lorsqu’une pratique ou une règle mise en place semble neutre, mais qu’en réalité, cela entraine un désavantage pour une certaine catégorie de personnes.
5 Elle est intégrée et issue d’un jeu d’acteurs ou du système de la société. Elle se rapproche de la discrimination indirecte mais se produit de manière massive.
28 novembre 2023
28 novembre 2023
27 novembre 2023
🔔Les Marmites de Noël sont de retour dans 19 villes de France ! Du 2 au 23 décembre, venez à notre rencontre & soutenez les personnes en difficulté. Votre générosité permettra aux plus démunis de vivre dignement Noël Soutenez nos actions ➡️ https://marmite.jedonne-armeedusalut.org/ ✨
Amendement adopté au Sénat : 6000 places d’hébergement en plus malgré l’avis défavorable du gouvernement.
Une bonne nouvelle alors que des milliers d’enfants vont à l’école après avoir passé la nuit à la rue.
Après plusieurs années de mobilisation contre l'enfermement administratif des enfants, @UNICEF_france salue l'adoption d'amendements élargissant l’interdiction aux 16-18 ans et aux locaux de rétention administrative. https://www.assemblee-nationale.fr/dyn/16/amendements/1855/CION_LOIS/CL683 #PJLimmigration
.@julienbayou (Ecologiste) propose d'interdire le placement des femmes enceinte en centre de rétention administrative (CRA). "La France a été condamnée 12 fois pour traitements inhumains et dégradants."
#DirectAN #Immigration #PJLImmigration
M’sieur le président @EmmanuelMacron, suite à votre intervention du 25 novembre, veuillez trouver ici une suggestion.
Le gouvernement et les députés doivent revenir à accueil et intégration republicains : suppression des ajouts du Sénat, accès significatif au travail #PJLimmigration @SylvainMaillard @FlBoudie @BorisVallaud @ElsaFaucillon @julienbayou @Fabien_Roussel @SachaHoulie @stelladupont
Pascal Brice dans @lejdc_fr suite au durcissement du projet de loi #immigration au Sénat : « Les sénateurs ont affirmé que l’intégration républicaine en France, c’est fini » 👇
https://www.lejdc.fr/paris-75000/actualites/pascal-brice-les-senateurs-ont-affirme-que-lintegration-republicaine-en-france-cest-fini_14411898/
Pascal Brice dans @lejdc_fr suite au durcissement du projet de loi #immigration au Sénat : « Les sénateurs ont affirmé que l’intégration républicaine en France, c’est fini » 👇
Immigration - Pascal Brice : "Les sénateurs ont affirmé que l’intégration républicaine en France,...
Alors que les députés se penchent sur la loi immigration, Pascal Brice, ancien directeur de l’Ofpra (Office fran...
www.lejdc.fr
Efficacité du #PJLimmigration: nous devons mieux cibler la délivrance des obligations de quitter le territoire #OQTF. En concentrant leur délivrance sur les étrangers réellement expulsables, nous limitons la création de personnes ni régularisables, ni expulsables @EnCommun_parti
Ce Mardi, 782 personnes ont demandé une mise à l’abri. 32 demandes ont pu aboutir. C’est 27 de plus que la semaine dernière.
#MiseAL’Abri