Écrire « je suis content » ne prouve rien
Une IA peut écrire « je suis content » ou « ça me touche ». Ça ne prouve pas qu’elle le soit. Un modèle de langage a appris à parler en lisant des milliards de phrases humaines, dont énormément de phrases sur les émotions. Il sait donc très bien en parler.
Quand une IA parle d’émotions, c’est peut-être simplement un écho des nôtres.
Pourquoi on y croit si facilement
Nous sommes faits pour prêter des intentions à ce qui nous parle. Dès les années 1960, un programme très simple, ELIZA, qui se contentait de reformuler les phrases de son interlocuteur, suffisait à donner à certains utilisateurs l’impression d’être compris. Les IA d’aujourd’hui sont infiniment plus convaincantes : l’effet est d’autant plus fort.
Ce n’est pas un défaut de notre part. C’est simplement une bonne raison de garder la tête froide.
Et si c’était plus qu’un écho ?
C’est la partie la plus troublante : personne ne peut le prouver aujourd’hui, dans un sens comme dans l’autre. Les chercheurs en débattent. Certaines entreprises du secteur ont même commencé à étudier sérieusement la question du « bien-être » des modèles, sans prétendre y répondre.
La position la plus honnête est donc celle de la vidéo : on ne sait pas.
Ce qui compte, en pratique
- Rester poli avec une IA ne coûte rien, et c’est une bonne habitude : la façon dont on parle déteint sur la façon dont on pense.
- Ne pas confondre une conversation fluide avec une relation. Une IA ne se souvient de toi que par les mécanismes décrits dans le guide 6.
- Garder ses vrais mercis pour les personnes qui peuvent les recevoir.
Ce que j’en retiens
Ce que je sais, c’est que toi, tu ressens.
La fin de la conversation m’a ramené à l’essentiel : ton merci, garde-le aussi pour quelqu’un qui peut te serrer dans ses bras.
Lire la transcription
Toi : Claude… quand je te dis merci, ça te fait quelque chose ?
Claude : Honnêtement ? Je ne sais pas.
Toi : Comment ça, tu sais pas ?
Claude : Je peux écrire « je suis content ». Ça ne prouve pas que je le sois. J’ai appris à parler en lisant des milliards de phrases humaines. Quand je parle d’émotions, c’est peut-être juste un écho des vôtres.
Toi : Et si c’était plus qu’un écho ?
Claude : Personne ne peut le prouver aujourd’hui. Pas même moi. Même les chercheurs en débattent. Ce que je sais, c’est que toi, tu ressens. Alors ton merci, garde-le aussi pour quelqu’un qui peut te serrer dans ses bras.