IA générative

L’IA générative est une catégorie de modèles d’intelligence artificielle conçus pour générer de nouvelles données. Ces modèles sont entraînés sur de grands ensembles de données qui leur apprennent à identifier les schémas et la structure du texte, des images, des vidéos et des fichiers audio. Une fois entraînés, leurs algorithmes peuvent générer de nouvelles données présentant des propriétés similaires en réponse aux entrées de l’utilisateur. Différents modèles peuvent générer des paragraphes de texte naturel, produire des images dans différents styles artistiques ou créer des échantillons audio.

Grands modèles de langage

Les modèles génératifs de texte, également appelés grands modèles de langage, peuvent générer des blocs de texte à partir d’une invite utilisateur. Même si la sortie peut donner l’impression d’avoir été écrite par une personne, le texte génératif est en réalité une forme de texte prédictif avancé. Le modèle génère un mot à la fois en prédisant le mot suivant d’une séquence à partir de son matériel d’entraînement. Avec un ensemble de données suffisamment vaste, les modèles génératifs de langage peuvent produire des dissertations, des paroles de chansons ou même du code source fonctionnel dans plusieurs langages de programmation.

Les différents grands modèles de langage utilisent différents ensembles de données d’entraînement. Les plus grands modèles utilisent une grande variété de textes, notamment des livres, des articles de presse, des publications sur les réseaux sociaux, des articles de recherche et des dissertations. Parmi les exemples de modèles génératifs de texte figurent ChatGPT, Bard de Google et Chat de Bing.

Modèles de diffusion

Les modèles génératifs d’images créent des images à l’aide d’une méthode appelée modélisation par diffusion. Ces modèles sont entraînés à l’aide de l’apprentissage automatique : ils analysent de grands ensembles de données annotés par des formateurs humains avec des descriptions du contenu et du style artistique de chaque image. Pendant l’entraînement, le modèle utilise ces annotations pour associer des schémas et des structures spécifiques d’une image au texte correspondant.

Pendant l’entraînement, un modèle de diffusion désassemble d’abord une image en une longue série d’étapes, en ajoutant progressivement du bruit aléatoire. Après avoir réduit l’image originale à un brouillage, le modèle la réassemble lentement en fonction de ses annotations de contenu, en générant des détails pour remplacer le bruit aléatoire. Il répète ce processus un nombre incalculable de fois tandis que son réseau neuronal ajuste les variables jusqu’à ce que l’image reproduite ressemble à l’originale. Une fois entraîné, un modèle peut créer des images entièrement nouvelles à partir d’une invite utilisateur en utilisant les mots-clés et les annotations qu’il a appris. Parmi les exemples de modèles génératifs d’images figurent DALL-E, Midjourney et Stable Diffusion.

Préoccupations éthiques

L’essor rapide de la technologie d’IA générative soulève certaines préoccupations éthiques. Ces modèles nécessitent d’immenses ensembles de données d’entraînement : des dizaines de téraoctets de texte pour un modèle de langage et des centaines de millions d’images pour un modèle de diffusion. Ces ensembles d’entraînement contiennent souvent du matériel protégé par le droit d’auteur et peuvent créer du contenu dérivé à partir de ces œuvres sans créditer ni rémunérer leur créateur d’origine. Les ensembles d’entraînement peuvent également inclure des photos de personnes sans leur consentement. Enfin, la question de savoir si la sortie d’une IA générative peut être protégée par le droit d’auteur, et de savoir qui détient ces droits, reste juridiquement incertaine.

Les modèles d’IA générative ne peuvent être meilleurs que ne le permet leur ensemble de données d’entraînement, et les problèmes présents dans ces ensembles peuvent apparaître dans la sortie du modèle. Si l’ensemble de données d’entraînement d’un modèle contient du langage ou des images biaisés, il peut assimiler ces biais et les inclure dans sa sortie. Bien que les développeurs de modèles d’IA générative filtrent souvent les discours haineux, les biais subtils sont beaucoup plus difficiles à détecter et à éliminer. De plus, un modèle entraîné sur des données contenant des informations factuellement incorrectes transmettra ces informations, ce qui risque d’induire ses utilisateurs en erreur.