L’éthique by design, un atout stratégique pour les entreprises
Temps de lecture : 7 minutes
Publié le 27 août 2019
Qu’est-ce que l’éthique by design ? En quoi les entreprises sont-elles concernées ? Comment peuvent-elles intégrer ce concept à leurs process ?
Flora Fischer est doctorante en philosophie et éthique des techniques à l’UTC (Université de technologie de Compiègne) et chargée de mission au Cigref. Elle a coordonné et animé la réflexion pour l’élaboration du référentiel pratique Éthique & numérique publié en octobre 2018 par le Syntec Numérique et le Cigref, un réseau de grandes entreprises et d’administrations publiques. Objectif de ce document : sensibiliser les acteurs du numérique aux questionnements éthiques sur leurs pratiques actuelles et apporter des éléments de réponse concrets. Nous l’avons interrogée pour décrypter avec elle le concept de l’éthique by design ainsi que ses enjeux pour les entreprises.
Flora Fischer
Doctorante en philosophie des technologies à l’UTC
Qu’est-ce que l’éthique by design ?
Flora Fischer : Pour commencer, je pense qu’il est nécessaire de différencier l’éthique de la conformité. Ces deux notions sont souvent confondues.
- La conformité pose des normes, des lois ou des règles – c’est-à-dire des principes dictés par une ou plusieurs instances extérieures et qui s’inscrivent dans un cadre universel – qui ont force d’autorité et prescrivent des comportements. Il est de la responsabilité de chacun de respecter ces règles et lois, sous peine de sanctions.
- L’éthique, elle, est une réflexion personnelle ou collective qui repose sur des principes ou des valeurs. Elle oriente nos actions et nous donne des lignes de conduite. Certaines situations nous confrontent parfois à des conflits de valeurs. La réflexion éthique nous guide alors pour agir dans le meilleur sens possible. L’éthique est un acte de responsabilisation – et non uniquement de responsabilité – d’engagement et d’intégrité, dans la mesure où elle dépend non pas d’instances extérieures, mais des individus ou collectifs d’individus.
Lire aussi Le référentiel publié par le Cigref et le Syntec numérique (2018)
L’idée de l’éthique by design, c’est d’intégrer des valeurs et des principes humains dès la conception des outils technologiques. Cela se traduit par une réflexion déontologique, qui se concrétise ensuite techniquement.
D’un point de vue déontologique. Quels sont les devoirs que se donnent les concepteurs pour promouvoir des technologies conformes à des valeurs éthiques comme le juste, le bien, l’autonomie etc. ?
Prenons l’exemple de la technologie de reconnaissance faciale. Est-il par exemple éthiquement souhaitable de l’utiliser pour qu’elle puisse catégoriser des typologies de personnes suivant leurs origines ou leur orientation sexuelle ? (En 2017, un algorithme a été entraîné par des chercheurs de Stanford pour distinguer hétérosexuels et homosexuels, ce qui a fait naître de grands débats éthiques ; NDLR)
D’un point de vue technique : comment concrétise-t-on les principes et les valeurs qu’on se donne (par exemple, le respect de la vie privée) dans la conception d’une solution technologique ?
Pour illustrer cette notion d’éthique by design, nous pouvons citer l’exemple d’une de ses briques, le privacy by design, qui traite des principes de protection de la vie privée sur des outils numériques. Ce concept a émergé dans les années 90 au Canada. Il s’inspire d’un champ théorique, le « Value sensitive design », développé par Batya Friedman et Peter Kahn. Il est aujourd’hui intégré dans le RGPD.
Avec le règlement européen, les entreprises doivent intégrer la protection des données à caractère personnel dès la conception de projets liés à du traitement des données.
Pour cela, elles doivent prendre des mesures techniques et organisationnelles appropriées. Développeurs et spécialistes de la protection des données travaillent ainsi de concert. C’est un cas intéressant puisqu’il nous montre comment la réflexion éthique arrive parfois à la législation.
Un autre exemple est celui du design de l’attention. Ce concept regroupe un ensemble de stratégies et techniques visant à capter l’attention de l’utilisateur à travers des procédés ergonomiques pas toujours très respectueux de l’usager. Tristan Harris, ancien « design ethicist » de Google, a ainsi dénoncé la conception volontaire d’interfaces captant l’attention au quotidien par diverses techniques : lancement automatique des vidéos, fils d’actualités sans fin (scrolling), dark patterns (qui orientent volontairement nos comportements avec, par exemple, des codes couleurs plus attractifs pour inciter à cliquer sur un bouton « j’accepte »)… Les effets de cette captation de l’attention reposent principalement sur la déconcentration et le fait de rendre les individus plus dépendants. Cela permet in fine d’orienter plus facilement leurs comportements dans une visée marketing.
Quelle est l’histoire de l’éthique by design ?
Le concept d’éthique by design est récent. On peut lui trouver plusieurs origines. Tout d’abord le champ du « Value sensitive design » qui a théorisé, nous l’avons dit, le concept de privacy by design. Mais on retrouve aussi cette expression dans les années 2010 avec le livre Ethics by Design, de Stephanie L. Moore, qui se positionne dans le contexte de la sociologie des organisations et non des techniques. Elle prendra tout de même l’exemple des téléphones portables pour expliquer les retombées négatives de l’extraction du lithium pour la fabrication des batteries, qui a un impact environnemental très fort. Elle explique donc que l’éthique n’a pas été intégrée en amont de leur conception, et que les conséquences pourront avoir un impact négatif sur la société, l’environnement mais aussi sur l’entreprise.
Puis en 2012 on trouve l’ouvrage Addiction by design de Natasha Schüll, qui pose les prémisses des problématiques soulevées aujourd’hui par le design de l’attention. Cette chercheuse au MIT a mené une longue enquête sociologique sur les machines à sous à Las Vegas. Elle a observé l’ergonomie, le fonctionnement et les algorithmes qui régissent les machines. Ces derniers doublent les effets d’addiction en incitant la personne à rejouer immédiatement avec des messages tels que « retentez votre chance ! » Ainsi, les gens jouent pour jouer au lieu de jouer pour gagner. Ce fut le premier constat de manipulation par l’attention que nous avons évoqué plus haut.
En quoi l’éthique by design concerne-t-il les entreprises ?
Si elle ne fait pas l’objet d’une simple vitrine marketing, l’éthique by design pourra représenter un véritable atout pour les entreprises. Déjà, parce que les collaborateurs et les consommateurs attendent des comportements de plus en plus vertueux de la part de ces dernières.
Les valeurs éthiques d’une entreprise influent à la fois sur son image et sur ses capacités de recrutement. Par exemple, plus de 29 000 étudiants de grandes écoles ont signé le Manifeste pour un réveil écologique qui les engage à ne pas travailler pour les entreprises qui ne sont pas responsables écologiquement.
Ce sont encore des signaux faibles, mais qui font prendre conscience aux entreprises que leur comportement éthique est un élément qui devient majeur.
Lire aussi IA & éthique « Il faut savoir prendre du recul » – Cécile Wendling
Pour une entreprise, comment faire de l’éthique dès la conception ?
Aujourd’hui, la dimension éthique est encore trop négligée.
Mais comment faire concrètement ? Dans notre référentiel, nous proposons aux entreprises de commencer en se posant trois questions préliminaires :
- L’éthique du numérique fait-elle l’objet d’un traitement spécifique dans l’entreprise (y a‑t-il des comités dédiés, des programmes de sensibilisation portant exclusivement sur l’éthique du numérique, de l’IA etc.) ?
- L’éthique du numérique fait-elle partie des enjeux de gouvernance globale de la transformation numérique ?
- Le sujet de l’éthique du numérique est-il défini clairement et différencié des sujets de conformité / du travail des directions juridiques ?
La technologie a très longtemps été perçue comme éthiquement neutre alors qu’elle peut poser des problèmes dès sa conception.
J’insiste sur le sujet de la sensibilisation des développeurs aux problématiques éthiques. C’est important car, pour la majorité, ils n’ont pas conscience de leur responsabilité parfois sociétale. Ils devraient avoir leur propre déontologie. Ne serait-ce que pour garder une forme d’indépendance et d’autorité. Vis-à-vis par exemple, des injonctions du marketing qui peuvent être contradictoires avec leurs valeurs. En général, les collaborateurs qui travaillent sur les interfaces et les retours utilisateurs, comme les UX designers par exemple, sont plus sensibles à ces questions, plus proches de leur travail au quotidien. Cette sensibilisation peut se faire via des stages ou des ateliers. Si l’organisation veut vraiment mettre en place une politique éthique cohérente, il faut intégrer les métiers techniques. L’éthique n’existe pas si elle n’est que l’affaire du top management. Elle doit être l’affaire de tous.
Notre référentiel propose également une façon concrète de structurer la réflexion éthique en entreprise à travers trois catégories. L’éthique by design, l’éthique des usages (quel usage éthique faisons-nous des technologies qui sont déjà à notre disposition ?), l’éthique sociétale (comment la technologie impacte-t-elle notre société ?).
Mais on pourrait également tout à fait imaginer que les entreprises établissent des chartes. Elles reprendraient des règles applicables à l’échelle de leurs directions informatiques. Ces chartes aideraient les employés à s’assurer que les outils qu’ils conçoivent sont éthiques. Et ce, sans biais algorithmiques et conformément au privacy by design.
Lire aussi Comment développer une IA éthique?
Microsoft, engagé pour une IA éthique
Microsoft s’appuie sur six principes éthiques pour guider le développement et l’utilisation de l’intelligence artificielle :
Équité : les systèmes d’IA doivent traiter tout le monde avec équité.
Inclusion : les systèmes d’IA doivent impliquer tout le monde et intéresser les individus.
Fiabilité et sécurité : les systèmes d’IA doivent être fiables et sûrs.
Transparence : les systèmes d’IA doivent être intelligibles.
Confidentialité et sécurité : les systèmes d’IA doivent être sécurisés et respecter la confidentialité.
Responsabilité : les systèmes d’IA doivent disposer d’une responsabilité algorithmique.
Pour en savoir plus, vous pouvez consulter cet article détaillant les grands principes éthiques adoptés par Microsoft.
Les entreprises doivent-elles recruter des profils spéciaux pour s’occuper de l’éthique by design ?
Actuellement, il n’y a pas de métier dédié à l’éthique by design dans les entreprises. Il y a des responsables « Ethique et RSE » pour la plupart des grands groupes. Mais les dimensions liées à l’éthique de la conception numérique sont encore peu traitées, sauf avec l’IA depuis quelques années.
Dans notre référentiel, nous proposons qu’un chief digital officer, en charge de la transformation numérique de l’entreprise, s’en occupe. Ce dernier connaît les métiers et les technologies et possède une vision cohérente des enjeux de l’entreprise.
