Difficile de passer à côté de l’information, tant elle a été relayée par la presse ces dernières semaines : une société chinoise aurait désigné un robot en qualité de PDG. Cette société, c’est Net Dragon Websoft ltd., l’un des leaders mondiaux dans le secteur des jeux vidéos en ligne. Dans un communiqué de presse publié à la fin de l’été, la firme annonce fièrement avoir désigné Mme Tang Yu, un robot humanoïde alimenté par une intelligence artificielle, en tant que CEO de sa filiale phare, Fujian NetDragon Websoft Co., Ltd.
Le communiqué explique ensuite que cette désignation s’inscrit dans la stratégie d’innovation de l’entreprise, qui se tourne de plus en plus vers le « metaverse ». Elle ajoute que, d’un point de vue plus concret, elle poursuit à travers ce choix un objectif de performance : améliorer la qualité des tâches de travail, rationaliser les flux de processus… etc.
Coup de com’ ou révolution juridique ?
Si l’on en croit la plupart des articles sur le sujet, la chose serait entendue, un robot peut être PDG.
C’est oublier qu’en droit il existe une distinction entre les personnes et les choses. Or, parmi celles-ci, seules les personnes (les individus personnes physiques ou certains groupements de personnes ayant acquis la personnalité morale) sont aptes à exercer des prérogatives juridiques. Les choses, quant à elles, ne peuvent au mieux que faire l’objet d’appropriation, en tant qu’objets de droit : on exerce sur les choses des prérogatives juridiques (utiliser, exploiter, modifier, détruire, s’en séparer, etc.). Pour l’heure, un robot et même plus exactement un programme informatique (car c’est bien de cela dont on parle, même incorporé dans un objet ayant une apparence physique), est une chose.
Même si le système juridique chinois est différent du nôtre, il est très peu probable que le droit chinois des sociétés ait été libéralisé au point de pouvoir désigner un dirigeant qui ne serait pas doté de la personnalité juridique. D’ailleurs, si l’on consulte les documents officiels et la liste des dirigeants de NetDragons, Mme Tang Yu n’apparaît nulle part…
En outre, conférer la personnalité juridique à un robot entrainerait de toutes façons des interrogations juridiques bien délicates : le robot pourrait-il être responsable de ses fautes ? Si oui, sur quel patrimoine ? Le robot pourra-t-il se déplacer devant un tribunal en cas de procès dirigé contre lui ? Devra-t-il être représenté par une personne physique ? Disposera-t-il de droits opposables à tous ? Certains ont tenté d’apporter des réponses à ces questions en réfléchissant à l’élaboration d’une « personnalité robot ». Mais de façon quasi-unanime chez les juristes aujourd’hui, il s’agissait d’une fausse bonne idée, désormais abandonnée, et c’est tant mieux.
Un outil d’aide à la décision
L’algorithme ayant été baptisé Tang Yu par la société NetDragon est donc plus certainement un simple outil d’aide à la décision, sur lequel vont s’appuyer les dirigeants pour mener leur stratégie et légitimer certaines prises de décision. D’ailleurs, si l’on lit très précisément le communiqué de presse, il est bien indiqué que Tang Yu servira de « hub de données » et d’ « outil d’analyse pour soutenir la prise de décision rationnelle dans les opérations quotidiennes, ainsi que pour permettre un système de gestion des risques plus efficaces ».
Gardons donc les pieds sur terre. Les dirigeants de NetDragon n’ont pas laissé leur entreprise dans les mains d’une intelligence artificielle. Ils se sont en réalité dotés d’un logiciel pour les aider à mener leurs analyses financières, sociales, économiques et à prendre de décisions éclairées. Mais au bout du compte, ce sont bien les dirigeants qui prendront les décisions, pour lesquelles ils seront engagés juridiquement.
A ce propos, il leur conviendra d’être très vigilants dans l’utilisation de cet outil. En effet, aussi efficace soit-elle, les avis et suggestions de Tang Yu ne devront pas être suivis aveuglément par les dirigeants de NetDragon. Ils devront continuer à faire preuve de discernement et à n’appliquer que des décisions conformes à l’intérêt de la société. Dans l’hypothèse où la validation systématique des suggestions de Tang Yu devait créer un préjudice pour la société ou les investisseurs, les dirigeants pourraient voir leur responsabilité engagée, pour imprudence, négligence, faute de gestion, etc. On avait déjà un peu esquissé ces questions ici.
Une première tentative à Hong-Kong en 2014
Ce n’est pas la première fois que ce genre de dispositif est mis en place dans une entreprise à grand renfort de communication. Par exemple, une société de capital investissement appelée « Deep Knowledge Venture », basée à Hong-Kong avait prétendu en 2014 avoir nommé un robot appelé « VITAL » en qualité de membre de leur conseil d’administration ! On pouvait déjà formuler les mêmes remarques que dans les paragraphes précédents. Le projet a depuis été abandonné.
J’avais rédigé un article de fond sur le sujet, intitulé : « De l’administrateur augmenté à l’administrateur électronique. Entre réalité et fiction », dans l’ouvrage collectif « Mélanges en l’honneur du professeur Henri Hovasse. L’ingénierie sociétaire et patrimoniale », paru en 2016, p. 3. Vous pouvez vous le procurer en cliquant ici.
Bref, ne cédons pas à l’anthropomorphisme en matière d’IA : ni Terminator, ni HAL ni Her ne viendront demain occuper des sièges aux conseils d’administrations de nos entreprises ni assumer des mandats sociaux. En revanche, des outils d’aide à la décision se développent et utilisent l’IA. C’est une réalité et les dirigeants doivent être conscients des enjeux associés, notamment en terme de responsabilité.
Pour l’instant, Tang Yu ne s’est pas encore exprimée en public…Dans le communiqué, seul le président de NetDragon a pris la parole. Etonnant, non ?