Les dirigeants face à l’irruption de l’IA

Cette réflexion est issue d’un atelier conduit au printemps sur comment, nous, dirigeants, vivons la transformation qui s’impose du fait de l’irruption de L’Intelligence Artificielle dans nos activités ? En quoi cette transformation nous questionne (ou non), comment nous lui donnons sens (et non uniquement quel sens nous lui donnons), comment nous transforme-t-elle nous-même et comment adaptons-nous nos façons de diriger ? L’atelier a abordé le sujet autour de trois questions, qui ont été traitées en mode « enquête ». Les trois questions de départ ont été :

• La guerre de l’IA aura-t-elle lieu ?
• Sagesse et Transformation feront-ils bon ménage ?
• Que restera-t-il à l’homme lorsqu’il aura été augmenté ?

« La guerre de l’intelligence artificielle aura-t-elle lieu ?»

De nombreux auteurs prédisent un affrontement inévitable entre les deux formes d’intelligence, l’une humaine, l’autre artificielle. Cela fait vendre des livres et parler les médias. Ceux qui ne sont pas d’accord sont des optimistes, des naïfs ou des laxistes … Est-ce la bonne façon de voir la chose ? L’IA fait peur, ce n’est pas nouveau (cf. 2001 Odyssée de l’espace de Stanley Kubrick). Mais l’émotion n’est pas raison, et la peur est mauvaise conseillère quand il faut agir. « Il faut avoir moins peur de l’IA que de la bêtise humaine » suggère Joël de Rosnay. La question serait donc de tirer le meilleur de l’IA en termes d’opportunités, tout en restant vigilant sur les menaces qui existent bien. Malgré le flou entretenu l’intelligence humaine et intelligence artificielle sont de nature différente : L’une est le produit de la vie, l’autre n’est que puissance de calcul (qui est en effet radicalement supérieure à celle de nos cerveaux). En pensant (intelligemment, c’est-à-dire en reliant ensemble les choses) l’humain fait plus que calculer, imiter, ou se mesurer. Il engage sa vie. Plusieurs idées viennent compléter ce panorama (idées issues du rapport C Villani, remis récemment au gouvernement pour stimuler le développement de l’IA au niveau national).

• L’IA de demain ressemblera à ceux qui la font. Il est donc nécessaire d’y participer et d’y injecter nos valeurs. Sinon, ce seront les valeurs de ceux qui la font qui s’imposeront à nous.
• Il sera nécessaire de rendre compréhensible auprès du grand public les algorithmes utilisés par l’IA. C’est ce qu’ils nomment l’explicabilité.
• La responsabilité, de manière générale, doit toujours incomber à un humain. (Sul un humain peut-être responsabilisé, pas une machine).
• L’intelligence humaine est collective et le sera toujours.

A ce stade de l’enquête le problème qui se pose derrière la question est : Comment « nous » y prendre ensemble pour contrer le parti des cassandres, des docteurs Folamour et des va-t-en guerre ? Lors de l’atelier, le groupe d’enquête a validé les indices suivants :

• La découverte par les humains de nouvelles formes de « puissance » à leur disposition n’est pas une première dans notre histoire. Elles ont été chaque fois l’occasion de transformations et de questionnements simultanés. Ceux-ci ont fait avancer les réflexions, les doctrines et les modes opératoires (cf. pour l’énergie nucléaire, la notion d’équilibres de la terreur nucléaire, de symétrie des dommages, …). Le plus probable est que l’IA provoque ces mêmes « adaptations et régulations » qui s’étaleront dans le temps.
• Certains « groupes » y voient l’opportunité de « prendre véritablement le pouvoir » dans les jeux de concurrence, de façon tellement écrasante qu’elle pourrait leur assurer une domination durable. Le risque est clairement là, tellement est démesurée leur ambition. Contrer cette tentative de prise de pouvoir est une question majeure.
• Les modes pour contrer cette tentation seront « intelligents ». (Intelligence humaine, collective, politique, éthique, avec un dessein, …)
• Dans l’esprit, l’IA est assimilée à une personne alors qu’il ne s’agit que d’un outil produit par l’intelligence humaine.

Poursuite de l’enquête : (pour mémoire)

« La sagesse et la transformation font-ils bon ménage ? »

Tout le monde sait à peu près à quoi correspond la sagesse et s’en fait une idée plutôt positive. En première approche la sagesse correspond à quelqu’un qui est raisonnable et qui a une relation saine avec ses désirs. Sagesse et transformation allaient de soi pour les sages de l’antiquité. Le monde était mouvant, ses lois (celles de dieux) le plus souvent échappaient à l’entendement des humains. Sagesse et transformation de la nature faisaient alors bon ménage. Depuis plus de 2000 ans, la rationalité est la grande alliée de la sagesse. D’autres formes d’intelligence y oeuvrent, et notamment la ruse (le Métis) qui a permis à Ulysse de rejoindre sa maison malgré les contrariétés des dieux. Quand on entend aujourd’hui parler de transformation, on peut comprendre beaucoup de choses différentes : réorganisations, mécanisation, automatisation, changement d’habitudes, durcissement des rapports humains, mutations de codes, … On est loin des « transformations de la nature », auxquelles on s’était habitué. Le mot transformation est porteur de menaces, fondées ou non. Quand l’idée de transformation est établie sereinement dans les têtes, la question que se pose légitimement tout un chacun est comment je vais vivre dans ce monde qui se transforme, comment je vais y habiter « durablement », comment je vais assimiler ce qui arrive et m’y accommoder ? A ce stade de l’enquête le problème qui se pose derrière la question est : « comment maintenir la vivabilité dans les transformations en cours ? » Lors de l’atelier, le groupe d’enquête a validé les indices suivants :

• Il y a « communion » sur l’idée de sagesse qui demeure le socle à partir duquel se construisent les choses. (Se percevant comme des littéraires, l’idée leur parait évidemment partagée).
• Il est nécessaire de définir la « transformation ». En première approche la transformation est un moyen (pour un dessein). Tout dépend du sens que l’on y donne.
• La transformation doit ressembler à ceux qui la font.
• La sagesse inclut des modes de pensée et d’action qui temporisent, qui observent en s’arrêtant quelques instants, voire qui prennent le temps de la contemplation. Comment alors préserver ces ressorts pour bien conduire les transformations selon un rythme particulièrement accéléré ?
• La transformation sans sagesse est-elle raisonnable ? Le bon sens recommande de ne pas opposer sagesse et transformation, et de les voir comme deux facettes d’une même chose.

Poursuite de l’enquête : (pour mémoire)

« Que restera t-il à l’homme lorsqu’il aura été augmenté ? »

Nous sommes tout un chacun déjà fortement augmenté : avec nos calculettes, nos ordinateurs, nos smartphones, mais aussi avec nos voitures, nos livres, nos crédits, nos assurances, nos aliments, nos organisations, … La question est que les « nouvelles technologies » produisent de façon extrêmement rapide et innovante, comme nous ne l’avons jamais connu. Les dispositifs de vie en société que nous avons élaborés au fil de notre histoire (droit, politique, éducation, systèmes de santé et de solidarité, …), pour absorber les progrès technologiques (imprimerie, énergie, chimie, magnétisme, information, …) sont à la peine face à cette accélération. Comprendre les mécanismes qui agissent lorsque nous sommes augmentés nous aidera à avancer sur la question : Un phénomène d’augmentation que nous avons vécu, nous semble, a posteriori, comme l’avoir été naturellement, selon une courbe d’apprentissage. Ce phénomène d’apprentissage par des êtres vivants a été étudiés notamment par le biologiste logicien Jean Piaget. Il a mis en évidence deux mouvements qui opèrent conjointement dans un apprentissage : l’assimilation et l’accommodation. Nos plasticités réussies nécessitent ces deux mouvements. Les « besoins » en augmentation s’accélérant, comment allons nous agir pour que ce couple « assimilation – accommodation » fonctionne au mieux. Cela ne va pas de soi. Beaucoup face à l’urgence, insistent sur l’assimilation (par la pédagogie), en oubliant le temps nécessaire de l’accommodation (réglages de ses modes habituels). A ce stade de l’enquête le problème qui se pose est : « comment allons-nous nous y prendre pour introduire de nouvelles augmentations humaines dans nos organisations, en jouant sur le couple assimilation – accommodation ? »  Lors de l’atelier, le groupe d’enquête a validé les indices suivants : La question de l’augmentation pose la question fondamentale du sens à y trouver (pourquoi / pour quoi augmenter l’humain ?) mais fait naître aussi de nombreuses opportunités, comme celle du temps à récupérer pour réfléchir et penser, à être attentif aux émotions, se mettre en relation avec l’autre, faire se parler des profils éloignés a priori (ex : le philosophe avec l’informaticien). (NB : La méthode de type enquête vise à clarifier ce flou).

• L’absence de limites des développements actuels font penser à la possibilité d’augmentations infinies et donc aux abus, aux excès, aux abîmes : le transhumanisme surfe sur cette vague. Le groupe refuse que l’humain ne soit réduit qu’à une ressource au service d’un autre dessein.
• Le métier de l’assurance étant largement fondé sur la relation, l’émotion et la réputation (a fortiori dans la gestion des sinistres), l’augmentation doit être considérée comme une aide à faire croître cette relation –> la relation augmentée
• Hypothèse formulée par le groupe en réponse à la question « que restera-t-il à l’homme lorsqu’il sera augmenté ? » :
• Prendre du plaisir (vivre).
• Rester libre

Poursuite de l’enquête : (pour mémoire)