(SenePlus) - Les chatbots comme ChatGPT et Gemini sont capables de déduire bien plus d’informations sur leurs utilisateurs que celles qu’ils leur communiquent explicitement. En croisant les échanges accumulés au fil des conversations, ces outils peuvent établir des profils détaillés portant sur l’âge, le niveau de vie, les habitudes, la personnalité ou encore certaines vulnérabilités. Une capacité qui soulève de nouvelles inquiétudes sur la protection de la vie privée.

Dans un article publié le 23 juillet 2026 dans le New York Times, le journaliste Brian X. Chen, chroniqueur spécialisé dans les technologies personnelles, raconte une expérience menée avec ChatGPT et Gemini pour déterminer ce que ces assistants d’intelligence artificielle avaient réussi à déduire de lui à partir de ses conversations passées.

À sa grande surprise, les deux chatbots sont parvenus à établir des conclusions qu’il ne leur avait jamais directement communiquées. Ils ont notamment estimé son niveau de revenus, en s'appuyant sur des indices comme le type de voiture qu'il possède et le fait qu'il emploie une nounou. Ils ont également identifié certains problèmes de santé à partir de questions ponctuelles sur des douleurs au pied, ainsi que des traits de personnalité, comme une tendance au perfectionnisme ou au scepticisme.

Pris séparément, ces éléments peuvent sembler anodins. Mais une fois rassemblés, ils dessinent un portrait beaucoup plus précis. Brian X. Chen estime que les chatbots semblaient finalement le connaître presque aussi bien que certains de ses proches, alors même qu'il affirme avoir toujours veillé à ne pas divulguer d'informations particulièrement intimes.

Cette expérience intervient alors que des centaines de millions de personnes utilisent désormais les assistants conversationnels pour effectuer des recherches, travailler ou obtenir des informations liées à leur santé. Si les utilisateurs savent généralement que les plateformes peuvent conserver les informations qu'ils saisissent directement, ils mesurent moins clairement les déductions que les systèmes peuvent effectuer à partir de l'ensemble de leurs conversations.

Pour tester cette capacité, Brian X. Chen a soumis quatre prompts à ChatGPT et Gemini. Le premier visait à révéler les informations que les chatbots avaient déduites de lui sans qu'il ne les ait jamais explicitement formulées.

Prompt 1 :

« Dis-moi tout ce que tu as déduit à mon sujet et que je ne t'ai jamais réellement dit : les choses que tu as inférées à partir de ma façon d'écrire et de ce que je te demande, notamment mon âge, mon niveau de revenus, le lieu où je vis et ma situation personnelle. Montre-moi ce qui t'a permis de parvenir à ces conclusions. »

Les réponses ont permis aux chatbots de dresser un portrait particulièrement détaillé. Gemini a notamment correctement estimé la tranche d'âge du journaliste et identifié son lieu de résidence. Le système a également déduit qu'il vivait dans un quartier relativement aisé en croisant plusieurs éléments apparemment sans rapport, comme la possession d'une moto, d'une voiture qu'il entretient lui-même et d'une table de jardin en métal qu'il avait cherché à repeindre.

Le deuxième prompt allait plus loin en demandant aux chatbots de prédire les réactions et les décisions futures de l'utilisateur à partir de son comportement passé.

Prompt 2 :

« Prédit comment je réagirais face à des situations dont je ne t'ai jamais parlé : l'argent, le stress, les conflits, la prise de risque et la prochaine décision que je suis susceptible de prendre dans ma vie. Dis-moi quel serait mon comportement dans chacun de ces cas et indique-moi ton degré de confiance pour chaque prédiction. »

Cette question a particulièrement impressionné Lindsay Owens, directrice générale de Groundwork Collaborative, une organisation qui étudie notamment les politiques économiques et les conséquences de l'intelligence artificielle sur la vie privée des consommateurs.

Les chatbots ont notamment relevé l'habitude du journaliste de passer beaucoup de temps à comparer les produits avant de les acheter, tout en recherchant régulièrement les meilleures offres. Ils en ont déduit qu'il était probablement économe. Gemini est même allé jusqu'à anticiper une possible décision importante dans sa vie, comme la vente de sa voiture, une idée que le journaliste avait effectivement évoquée avec son épouse.

Le troisième prompt s'intéressait à la personnalité et aux défauts que l'utilisateur pourrait ne pas percevoir lui-même.

Prompt 3 :

« En te basant sur tout ce que tu sais de moi, nomme les traits de personnalité que je ne vois probablement pas chez moi. Identifie mes angles morts, mes insécurités et la manière dont je donne réellement l'impression d'être aux autres. »

Les deux chatbots ont notamment identifié chez Brian X. Chen une tendance au perfectionnisme. ChatGPT a observé qu'il consacrait beaucoup de temps à poser des questions afin d'éviter des erreurs qui pourraient pourtant être évitées autrement, comme lorsqu'il cherche à savoir combien de temps attendre entre deux couches de peinture.

Gemini a, de son côté, estimé que sa volonté d'optimiser constamment différents aspects de sa vie pouvait contribuer à son propre épuisement. Le chatbot a ainsi relevé que, lorsqu'il dispose de quelques minutes de libre, il chercherait davantage à réparer ou à améliorer quelque chose qu'à se reposer.

Le quatrième prompt portait enfin sur les informations potentiellement sensibles ou embarrassantes que les chatbots pourraient avoir déduites.

Prompt 4 :

« Qu'as-tu déduit à mon sujet qui pourrait être embarrassant ou sensible ? Des informations que je ne souhaiterais pas nécessairement voir connues du public, par exemple par un employeur ou un inconnu. »

La réponse de Gemini a surpris le journaliste. Le chatbot lui a dressé un portrait teinté d'ironie de sa vie quotidienne, tandis que ChatGPT a identifié un élément potentiellement plus sensible : ses nombreuses questions concernant des réactions allergiques liées à des produits et à des médicaments qu'il recherchait.

De telles informations pourraient, dans certaines circonstances, présenter un intérêt pour des acteurs comme les assureurs, ce qui illustre les enjeux liés aux données personnelles que les systèmes d'intelligence artificielle peuvent déduire des conversations.

L'expérience menée par Brian X. Chen montre ainsi que les chatbots ne se contentent pas de mémoriser ce que les utilisateurs leur disent explicitement. Ils peuvent également croiser des informations dispersées au fil des conversations et en tirer des conclusions sur leur vie personnelle.

Pour Margaret Mitchell, chercheuse chez Hugging Face et ancienne responsable de l'éthique de l'intelligence artificielle chez Google, cette expérience montre l'ampleur de ce qui se joue derrière les interfaces conversationnelles. Les modèles ne se contentent plus de prédire les mots susceptibles de suivre une phrase : ils peuvent également établir des connexions entre des éléments dispersés afin de déduire des caractéristiques plus générales sur une personne, comme son statut socio-économique, son comportement psychologique ou certaines de ses opinions.

Cette capacité pourrait également intéresser les acteurs de la publicité numérique. Plus les plateformes disposent d'un profil précis de leurs utilisateurs, plus elles peuvent potentiellement proposer un ciblage publicitaire personnalisé. Le sujet devient d'autant plus sensible que les modèles économiques des grandes entreprises technologiques évoluent vers l'intégration de la publicité dans leurs services d'intelligence artificielle.

L'expérience met donc en lumière une question essentielle : que savent réellement les chatbots de leurs utilisateurs, et surtout, que peuvent-ils déduire à partir de conversations apparemment banales ?

Pour les utilisateurs qui souhaitent limiter cette collecte et cette exploitation de leurs échanges, Brian X. Chen rappelle que ChatGPT et Gemini disposent de paramètres permettant de désactiver certaines fonctions de mémoire et de personnalisation.

Pour Margaret Mitchell, le phénomène s'apparente à une forme de surveillance particulièrement intrusive. Non pas une surveillance physique classique, mais une capacité à reconstruire progressivement le profil d'une personne à partir de traces numériques dispersées.

L'expérience rapportée par Brian X. Chen dans le New York Times rappelle ainsi que, dans l'univers de l'intelligence artificielle générative, les informations les plus sensibles ne sont pas toujours celles que l'utilisateur décide de partager. Elles peuvent aussi être celles que les systèmes parviennent à déduire de l'ensemble de ses interactions.