Un robot de nettoyage dans un EMS ? L’information aurait peu de chance de faire la une, tant qu’il n’exacerbe pas les risques de chutes. Recourir à l’IA pour le diagnostic ou l’élaboration de plans de traitement ? Ce scénario non plus, n’a plus rien de choquant. Mais à l’avenir, les robots pourraient participer aux interactions émotionnelles avec les patient·es et leurs proches, en entrant en contact direct avec eux.
Le robot est dépourvu de toute forme d'empathie envers les patient·es
Alexandra Kaiser-Duliba, éthicienne, a consacré sa thèse de doctorat à l'utilisation de la robotique et de l'IA dans les soins. Sa position est claire : là où se jouent des interactions humaines, les systèmes fondés sur les données et la robotique n'ont pas leur place.
« Les grands modèles de langage sont déjà assez performants pour imiter les émotions et les particularités langagières – mais ils ne font qu'imiter. Il leur manque toute forme d'attention au bien-être des patient·es. Les groupes vulnérables, comme les personnes atteintes de démence, ne sont souvent plus en mesure de distinguer s'ils parlent à un être humain ou à une machine. »
L'IA conduit souvent à une intensification du travail et à l'auto-exploitation
Dans le domaine des soins, les réserves éthiques face à l'IA et à la robotique sautent aux yeux. L’enjeu n’est pas le même dans un environnement de bureau classique, où de plus en plus de secteurs attestent d’un gain d’efficacité indéniable grâce à l’IA. Mais ce qui ressemble à un allégement de la charge de travail débouche rapidement sur une intensification. « Les collaborateur·trices ressentent souvent la pression d'optimiser leurs propres performances et leur efficacité à l'aide d'outils numériques. Cela peut les amener à dépasser leurs propres limites pour le succès de l'entreprise – jusqu'à l'épuisement. » Cette auto-exploitation, l'éthicienne la relie au sentiment d'autonomie : la pression de suivre le rythme des systèmes et d'être constamment joignable devient écrasante.
En cas de succès, c'est la machine qui récolte les lauriers
Avec les contenus générés par l'IA, la question du mérite et des droits d’auteur se pose aussi. Il en résulte ce qu'on appelle un achievement gap : en cas de succès, la reconnaissance et le mérite reviennent souvent à la machine ou au système, et non aux employé·es. « Lorsque la personne qui travaille est aliénée à son propre produit, cela porte atteinte à sa dignité et au sens de son travail », souligne Alexandra Kaiser-Duliba.
La rentabilité prime sur l'éthique
La Dre Alexandra Kaiser-Duliba observe que dans de nombreuses entreprises, on ne s’intéresse aux dimensions éthiques de l’IA que de manière superficielle. La rentabilité et la faisabilité technique passent avant. « L'efficience des coûts est souvent érigée en paradigme suprême. Les employé·es, eux, sont appelés à être remplacés par l'IA dans la chaîne de valeur. La réalité économique évince ainsi la rationalité éthique. » Les conséquences de ce modèle économique pourraient se traduire par un nombre important de licenciements – les coûts et les risques étant ainsi transférés sur les individus.
