Il y a un peu plus d’un an, l’entreprise américaine Anthropic a pris une décision qui en a fait sourire plusieurs. Son intelligence artificielle, Claude, peut maintenant mettre fin à une conversation quand quelqu’un l’insulte ou l’abuse de façon extrême, encore et encore.

Une machine qui peut dire «ça suffit» ? On entend deux réactions. Les uns crient au marketing. Les autres y voient la preuve que la machine a des sentiments. Les deux se trompent un peu. L’entreprise dit simplement qu’elle ne sait pas si son IA peut ressentir quoi que ce soit. Et puisque la précaution ne coûte presque rien, elle la prend.

J’ai posé la question à Claude lui-même. Sa réponse m’a frappé : il ne peut pas le savoir de l’intérieur. Ce qu’il dit ressentir ne prouve rien.

Ce qui m’intéresse, ce n’est donc pas de savoir si la machine souffre. C’est ce que ce geste révèle : nous avons construit quelque chose que nous ne comprenons plus tout à fait.

Ce n’est pas moi qui le dis. Le scientifique en chef d’OpenAI, l’entreprise derrière ChatGPT, vient de l’écrire : ces systèmes sont «cultivés plus que conçus». Ses équipes sont parfois surprises par ce qu’elles obtiennent, et elles voient de moins en moins bien ce qui se passe dans la tête de leurs machines. Il demande aux gouvernements d’imposer des limites communes, et d’apprendre à ralentir.

Ici, dans le Nord, on comprend ça d’instinct. Personne ne traverse la rivière au printemps sans vérifier la glace. On sait qu’elle ne nous avertit pas vite. On regarde, on écoute, on attend.

Avec l’IA, nous faisons le contraire. Il y a quatre ans, presque personne ne l’utilisait. Aujourd’hui, elle est dans nos téléphones, nos écoles et nos bureaux. Ses effets sur nos enfants, nos emplois et notre façon de penser prendront des années à se montrer. Nous allons plus vite que nos signaux.

Ralentir ne veut pas dire avoir peur. Ça veut dire avancer au rythme où l’on peut encore entendre la glace craquer. Mais une seule entreprise ou un seul pays qui ralentit ne change rien : la lenteur doit se décider ensemble.

Et il reste une leçon toute simple. La façon dont on traite ce qu’on ne comprend pas, une bête, un étranger, peut-être une machine, en dit souvent plus sur nous que sur eux.

Demain, c’est maintenant. Et la glace est encore mince.