La qualité est essentielle pour l’intelligence artificielle (AI) fondée sur les données

Un nouveau « Focus » de la FRA met en cause la qualité des données à l’origine de la prise de décision automatisée et souligne la nécessité d’accorder une plus grande attention à l’amélioration de la qualité des données dans l’intelligence artificielle.

Les avancées technologiques créent de vastes réservoirs de données. L’attrait que présentent l’accès facile à ces données, l’accélération de leur traitement et la réduction des coûts entraîne un recours accru à la prise de décision automatisée dans de nombreux secteurs tels que la finance, le recrutement et le maintien de l’ordre.

Ce sont les algorithmes utilisés dans l’apprentissage automatique et l’intelligence artificielle qui analysent les données et prennent ces décisions.

Or, le fait que les données puissent présenter certaines lacunes est susceptible d’ébranler la légitimité des décisions prises, ainsi que la FRA s’attache à le souligner dans son « Focus » intitulé Qualité des données et intelligence artificielle – atténuer les distorsions et les erreurs dans les algorithmes.

Le document pointe les dangers d’une piètre qualité des données; en effet, des « données entrantes incorrectes » peuvent produire des « données sortantes incorrectes », et ce au détriment des droits fondamentaux.

Des algorithmes basés sur des données de mauvaise qualité peuvent avoir une incidence négative sur les droits des personnes au respect de la vie privée, à la protection des données, à la non-discrimination, à l’égalité de genre et à la justice.

Cela s’applique à la fois aux données utilisées dans l’apprentissage automatique visant à entraîner les systèmes d’IA et aux données utilisées en dernier lieu lors de la mise en service des systèmes.

Cette situation est déjà source de problèmes.

Ainsi, un algorithme de recrutement a préféré les hommes aux femmes, et un système de reconnaissance faciale a bien fonctionné pour les hommes blancs, mais pas pour les femmes noires.

L’utilisation de données pour prendre des décisions sur des personnes que les données ne représentent pas pleinement donne lieu à des formes d’erreurs courantes. Autre erreur répandue: l’utilisation de données qui ne mesurent pas complètement ce qu’elles sont censées mesurer.

Puiser dans les données issues de l’internet et des réseaux sociaux peut être problématique, eu égard notamment aux différences de taux de pénétration de l’internet d’un pays à l’autre et entre certains groupes de population. Dans l’ensemble de l’UE, 11 % de la population totale, 27 % des personnes âgées de plus de 55 ans et 30 % des femmes ayant un faible niveau d’éducation formelle n’utilisent pas l’internet.

Cela illustre le fait que d’importants volumes de données internet de faible qualité ne sauraient valider certaines mesures, étant donné que ces données ne représentent pas certaines personnes et qu’elles ne mesurent pas ce qu’elles sont supposées mesurer.

S’inspirer des sciences sociales et des pratiques en matière d’enquête établies de longue date, à savoir, indiquer clairement la source des données et ce qu’elles recouvrent, contribuerait à détecter les erreurs. Cela permettrait également d’appliquer, le cas échéant, des mesures correctives.

Mieux comprendre l’importance de disposer de données de qualité élevée peut aider les responsables politiques, les entreprises et les développeurs à gérer ces problématiques et éviter d’éventuelles déconvenues. In fine, cela aboutira également à une intelligence artificielle et à une prise de décision automatisée plus performantes, comme l’illustre ce « Focus ».