Hausse brutale des fraudes scientifiques à cause de l'IA

Vous avez bien dit extinction? Ça semble s’infiltrer un peu partout… Va falloir écoper!

--

L’intelligence artificielle pourrait bien laisser rapidement une trainée de scories dans l’univers enchanté des publications scientifiques, au point d’en rendre la sauce un peu toxique.

Les progrès de l'intelligence artificielle (IA) compliquent les efforts des éditeurs pour s'attaquer au problème croissant des « paper mills », ces entreprises commerciales qui produisent de faux articles scientifiques sur commande. Les outils d'IA générative, notamment les chatbots tels que ChatGPT et les logiciels de génération d'images, offrent de nouveaux moyens de produire du contenu "paper mill", qui pourrait s'avérer particulièrement difficile à détecter. (traduction Deepl du blogue Nature Briefing)

Taylor & Francis, un grand éditeur commercial britannique, signale une hausse d’un facteur 10 de cas potentiels de malversations variées (plagiat, fraude, etc.) dont environ la moitié provenaient de ces « paper mills ». Plusieurs éditeurs ont d’ailleurs inclus dans leur procédure générique l’usage de logiciels de détection de ce type de fraude en plus de ceux déjà utilisé pour la détection du plagiat comme iThenticate.

Source : https://doi.org/10.1038/d41586-023-01780-w

Voir aussi : http://babillard.ete.inrs.ca/nouvelle.php?id=5322

--

Dans un autre axe du même problème... Un juge fédéral du Texas ordonne que tous les contenus générés par l'IA soient déclarés et vérifiés. Si le Texas le dit...!

--

Image par Gerd Altmann de Pixabay