En s’améliorant et en devenant plus puissant, ChatGPT aura-t-il demain conscience de lui-même ? Vertige…

---

L’IA forte, que certains voient comme la prochaine révolution dans le domaine de l’intelligence artificielle, est aussi appelée intelligence artificielle générale dans la mesure où elle n’aurait aucune spécialisation, mais serait en mesure de résoudre tout problème de tout type qui lui serait proposé.

Cette possibilité, bien qu’encore hypothétique, n’apparaît pas totalement absurde. L’accroissement des capacités et des vitesses de calcul, couplé aux rapides progrès de l’informatique, voire à l’émergence un jour de l’informatique quantique, aboutira peut-être à l’émergence de cette IA « forte ». Une intelligence très proche de l’intelligence humaine, capable d’analyser des situations, de prendre des décisions, d’agir en toute autonomie face à un problème à résoudre, et bien sûr d’accumuler des connaissances et de se former de façon continue au travers de ses expériences.

Projection

Là où les choses semblent beaucoup plus spéculatives, voire de l’ordre du fantasme, c’est lorsque l’on imagine que cette nouvelle IA serait dotée d’émotions, voire de conscience d’elle-même. Il faut reconnaître que certains prennent la précaution de préciser qu’elle pourrait « imiter » des émotions.

Et c’est déjà ce que fait l’IA faible, type Chat GPT, lorsque nous dialoguons avec elle. Elle répond à nos questions, elle nous souhaite le bonjour, ou nous dit au revoir. En tout ce qui est de l’ordre du dialogue interpersonnel, elle imite presque parfaitement ce que dirait un interlocuteur réel. Ou plutôt, ce qu’elle dit pourrait être dit effectivement par un humain. Son comportement, ses réactions, ne nous surprennent jamais mais son personnage est « crédible ». Je dis « son personnage » dans la mesure où le phénomène psychologique de projection, qui nous amène parfois à croire que nous avons un interlocuteur réel, est tout simplement le même qui nous persuade que cette cantatrice qui tousse sur la scène de l’opéra, et nous chante sa souffrance, est vraiment au seuil de la mort, au point de nous tirer des larmes, que ce que nous voyons au théâtre ou au cinéma existe réellement, ici et maintenant, suscitant en nous (lorsque le spectacle est réussi) toute une gamme d’émotions.

À lire aussi, Gil Mihaely : De la «High-tech» à la «Right-tech»

Tout cela bien sûr n’est qu’imitation mais « ça marche ». Et c’est d’ailleurs un phénomène qu’il faudrait peut-être aujourd’hui encore explorer, alors que tout le monde cogite sur le fonctionnement de l’intelligence. En tout cas ces exemples, bien connus, nous montrent pourquoi il n’y a rien d’extraordinaire à ce que quelqu’un tombe amoureux de son interlocuteur virtuel.

Par contre l’accès à la conscience, à la conscience de soi, et donc à la conscience d’être conscient, représente un saut non seulement technologique, mais aussi logique, ontologique, philosophique, absolument vertigineux, et peut-être totalement hors du champ de nos possibles.

Croire qu’il suffirait de pousser toujours plus loin les performances, la taille et la puissance de calcul des machines, pour aboutir à cette conscience consciente d’elle-même, serait certainement s’aveugler sur la complexité du problème. Nous ne savons en réalité que très peu de choses sur ce qu’est réellement la conscience réflexive. Mais nous en avons suffisamment d’intuition pour comprendre que cette éventualité n’est pas de l’ordre du saut technologique. Nous sommes devant un problème que peut-être aucun ordinateur, aussi puissant soit-il, ne pourra jamais résoudre.

Love robot

La difficulté apparaît évidente si l’on pense à la complexité du système psychique, à partir de ce qui touche à la fois à la conscience mais aussi à l’inconscient (au sens freudien) : le désir.

Si nous imaginons un robot doté d’une IA forte, qu’en est-il de son désir ? Comment et dans quelle histoire personnelle ce désir a-t-il pu se constituer ? Quel manque originel, quels ratés et quelles réussites de son histoire, quelles jouissances et quelles douleurs, ont créé progressivement ce qu’on pourrait appeler sa « personnalité » ? Sur la seule base de ces quelques questions on voit bien que la perspective d’une machine consciente peut sembler tout à fait inaccessible.

À lire aussi, Elisabeth Lévy : La guerre des nerds

Que serait cette « chose », aussi intelligente soit-elle, sans désir, sans manque, sans sentiments ni émotions, toutes choses indissociables les unes des autres. Toute cette trame affective, où se tisse une personnalité, ne peut se constituer que d’une histoire toute personnelle, faite de hasards, d’imprévus, de traumatismes, de jouissances, mais aussi d’héritages, de rencontres et de transmissions. Une machine dont la « personnalité » ne se serait pas constituée ainsi, que serait-elle ? Quelle serait sa « pulsion de vie » ? Voire sa pulsion de mort ? Sans caractère, sans état d’âme et, osons le mot, sans amour, d’où lui viendraient ses émotions, d’où tirerait-elle sa « conscience » ?