Chatbots : le CNPEN souhaite mettre fin à la confusion

Dans un avis rendu le 9 novembre, le Comité national pilote d’éthique du numérique (CNPEN) formule plusieurs recommandations concernant l’usage des agents conversationnels (chatbots), qui ne cessent de se développer dans la société.

Bien évidemment, les Ehpad et les médecins coordonnateurs sont concernés. Le CNPEN souhaite ouvrir le débat et recommander des garde-fous pour éviter les dérives. Il adresse ainsi plusieurs recommandations aux industriels pour que, dès la conception de ces outils, les principaux utilisateurs, en l’occurrence les professionnels de santé, soient impliqués. Treize préconisations sont aussi formulées à l’adresse des autorités publiques qui ont la responsabilité d’accroître l’effort de formation, d’éducation, mais aussi d’expérimentation à l’échelle de la société. Par exemple, en Ehpad, il est fortement préconisé de toujours introduire un tiers, le soignant, dans l’utilisation de ces machines, afin de ne jamais laisser seuls, le résident et l’agent conversationnel. « L’usage de ces outils doit toujours résulter d’une coopération entre l’homme et la machine. Quand l’humain cède sa place, le danger commence », rappelle Laurence Devillers, co-rapporteure de cet avis.

Pour plus d’informations : www.ccne-ethique.fr