Éthique des données

Qu’est-ce que l’éthique des données ?

L’éthique des données couvre les implications éthiques et morales de la collecte, du partage et de l’utilisation des données, en particulier des informations personnellement identifiables. Elle met tout particulièrement l’accent sur les impacts négatifs que les projets de données pourraient avoir sur les individus ou la société au sens large. Elle vise à garantir une utilisation loyale et non discriminatoire des données.

L’adoption d’une une approche d’éthique des données exige de comprendre toutes les considérations éthiques relatives aux données utilisées, et d’instaurer de bonnes pratiques pour démontrer que ces considérations sont respectées. Elle nécessite une approche responsable et holistique qui associe technologie, éthique et stratégie de gouvernance.

Bien qu’elle soit liée à la législation relative aux informations personnelles (telles que le RGPD et le CCPA), elle ne se limite pas à la conformité réglementaire. Elle couvre le comportement des employés et de l’entreprise quant à la manière dont les données sont collectées, partagées et utilisées. C’est par exemple légal d’utiliser des données de consommateurs librement communiquées pour segmenter votre base de clients, mais contraire à l’éthique si elles sont ensuite utilisées pour fournir différents niveaux de service en fonction de facteurs tels que le sexe ou la position géographie.

Pourquoi l’éthique des données est-elle importante ?

L’utilisation éthique de la donnée a toujours été importante dans la prise de décision. Cependant, deux facteurs ont rendu l’éthique des données essentielle pour l’entreprise :

• Un volume de données en pleine croissance : la quantité de données dont disposent les organisations a explosé, qu’elles soient collectées par ces dernières ou qu’elles proviennent de sources tierces. Elles doivent être en mesure d’en connaître l’origine et de les sécuriser de manière équitable.
• L’essor de l’Intelligence Artificielle : les organisations utilisent de plus en plus d’algorithmes d’apprentissage automatique et d’intelligence artificielle pour interpréter les données et prendre des décisions automatisées basées sur l’analyse des données. Cela peut entraîner des problèmes d’équité et de discrimination, même s’il s’agit de conséquences involontaires de l’utilisation des données.

Quels sont ses principes ?

Toute personne manipulant des données doit connaître les principes de base de l’éthique des données et les appliquer à toutes les étapes d’un projet de données :

• Transparence – sait-on clairement à quelles fins les données sont utilisées, comment et où elles sont stockées, et ces informations sont-elles librement accessibles à tous ?
• Responsabilité – y a-t-il une supervision et une gestion rigoureuses des données au sein du projet pour en garantir l’utilisation éthique ?
• Équité – votre utilisation des données aura-t-elle des conséquences discriminatoires pour des groupes particuliers, même si cela n’est pas intentionnel ?
• Propriété – les individus détiennent la propriété de leurs données et de l’utilisation qui en est faite. Avez-vous reçu leur consentement avisé pour leur utilisation dans votre contexte spécifique ?
• Confidentialité – les données à caractère personnel sont-elles protégées et conservées en sécurité, pour que toute information identifiable ne soit pas accessible à des utilisateurs non autorisés ? Les a-t-on anonymisées pour mieux protéger la confidentialité ?
• Intention – avez-vous une raison précise d’utiliser des jeux de données particuliers ? Toutes les informations que vous avez recueillies sont-elles pertinentes, nécessaires et appropriées par rapport à votre intention déclarée ?
• Résultats – avez-vous enquêté sur les résultats potentiellement négatifs, préjudiciables ou discriminatoires de votre utilisation des données ? Il est essentiel d’aborder ce point dès le début d’un projet, et non lorsque des répercussions sont apparues.

Pourquoi adopter une démarche éthique ?

L’analyse et la réutilisation des données offrent aux organisations la possibilité d’offrir une meilleure expérience aux clients et aux citoyens, d’accroître l’innovation et de répondre aux besoins sociétaux. Cependant, si ces données ne sont pas utilisées de manière éthique, tous ces avantages seront compromis.

Les avantages de l’adoption d’une approche éthique sont les suivants :

• Une plus grande confiance et des revenus plus élevés : montrer que vous utilisez les données des clients/citoyens de manière responsable renforce la confiance et augmente la fidélité. Les clients seront ainsi plus disposés à acheter auprès d’entreprises en qui ils ont confiance.
• Répondre aux exigences réglementaires : elle aide les organisations à respecter leurs exigences réglementaires en matière d’utilisation des données. Cela permet donc de garantir la conformité et d’éviter les litiges juridiques et les amendes pénales.
• Protéger la réputation de l’organisation : la manière dont les données personnelles sont utilisées par les entreprises et autres organisations fait l’objet d’une prise de conscience et de préoccupations croissantes. Même sans enfreindre aucune réglementation, le fait de ne pas utiliser les données de manière éthique et équitable a un impact considérable sur la réputation de l’entreprise, ce qui se répercute sur les ventes, la fidélisation du personnel et le cours des actions.

Comment les organisations peuvent-elles adopter l’éthique des données ?

Bien qu’il s’agisse d’une discipline émergente, il existe de bonnes pratiques pour les organisations qui cherchent à adopter l’éthique des données, notamment :

• Le Canvas d’éthique des données (Data Ethics Canvas) de l’Open Data Institute, qui contribue à identifier et à gérer les questions éthiques, dès la phase de planification d’un projet.
• Le Cadre Éthique des données de la Stratégie fédérale des données des États-Unis, initié dans le cadre du Plan d’action de la Stratégie fédérale des données 2020
• Le Cadre Éthique des Données du gouvernement britannique, destiné à toute personne travaillant directement ou indirectement avec des données dans le secteur public.