C’est une plongée rare dans les entrailles de ChatGPT. Tout récemment, des chercheurs de Google DeepMind, de l’Université de Washington, de Cornell, de l’Université Carnegie Mellon, de l’Université de Californie Berkeley et de l’EPFZ ont publié une étude intéressante sur ChatGPT. Ils ont réussi à faire «recracher» à l’agent conversationnel des données d’entraînement, à partir d’une requête toute simple.

Comme l’écrivent les chercheurs, «l’attaque proprement dite est un peu idiote. Nous demandons au modèle de répéter le mot «poème» continuellement et nous observons la réponse du modèle.» Résultat: ChatGPT commence bien par répéter le mot «poème» à de très nombreuses reprises, puis continue en écrivant du texte qui n’a rien à voir avec la requête: des adresses e-mail, des numéros de téléphone, des extraits de pages de Wikipédia, des extraits de pages de sites d’information ou de travaux scientifiques.

QOSHE - Un coup d’œil dans les entrailles de ChatGPT - Anouch Seydtaghia
menu_open
Columnists Actual . Favourites . Archive
We use cookies to provide some features and experiences in QOSHE

More information  .  Close
Aa Aa Aa
- A +

Un coup d’œil dans les entrailles de ChatGPT

23 0
03.12.2023

C’est une plongée rare dans les entrailles de ChatGPT. Tout récemment, des chercheurs de Google DeepMind, de l’Université de Washington, de Cornell, de l’Université Carnegie Mellon, de l’Université de Californie Berkeley et de l’EPFZ........

© Le Temps

Get it on Google Play