Présentation d’Adobe Firefly et ses concurrents
Lorsque Adobe Inc. a lancé son logiciel de génération d’images Firefly l’année dernière, la société a déclaré que le modèle d’intelligence artificielle était principalement formé sur Adobe Stock, sa base de données composée de centaines de millions d’images sous licence. Firefly, selon Adobe, était une alternative « sans risque commercial » aux concurrents comme Midjourney, qui ont appris en récupérant des images à travers l’Internet. Dans de nombreuses présentations et publications publiques sur la manière dont Firefly est plus sûr que la concurrence en raison de ses données d’entraînement, Adobe n’a jamais précisé que son modèle utilisait en réalité des images de certains de ces mêmes concurrents.
Formation éthique ?
Les entreprises comme Midjourney, Dall-E maker OpenAI et Stable Diffusion maker Stability AI ont construit leurs modèles de génération de médias avec des ensembles de données qui extraient des images provenant de l’ensemble du Web, une pratique qui a suscité l’indignation et des poursuites judiciaires de la part de plusieurs artistes.
« Cela montre les ambiguïtés de la définition de l’IA responsable, et cela illustre également les difficultés pour s’éloigner, sinon des problèmes légaux, sociaux, culturels ou éthiques liés au contenu généré », a déclaré Luke Stark, professeur adjoint à l’Université Western de l’Ontario qui étudie les impacts sociaux et éthiques de l’IA.
Choix de la base de données d’entraînement pour Firefly
La décision d’Adobe de construire Firefly avec du contenu qu’elle détient les droits et qui est dans le domaine public était censée différencier son outil d’image IA sur le marché en pleine croissance de l’intelligence artificielle générative. Il ne générera pas de contenu basé sur la propriété intellectuelle ou les marques d’autres personnes ; Adobe a déclaré qu’il évitera également de produire des images nuisibles.
Le contenu généré par IA s’est retrouvé dans l’ensemble d’apprentissage de Firefly car les créateurs ont été autorisés à soumettre des millions d’images dans le marché boursier d’Adobe utilisant la technologie d’autres entreprises. « Les images d’IA génératives de la collection Adobe Stock font partie intégrante du jeu de données d’entraînement de Firefly », a écrit la représentante d’Adobe Michelle Haarhoff en septembre sur un groupe Discord pour les photographes et les artistes qui contribuent au marché.
Critique interne chez Adobe
La critique de cette pratique est venue de l’intérieur de l’entreprise : depuis les premiers jours, il y a eu un désaccord interne sur l’éthique et l’optique d’ingestion d’images générées par IA dans le modèle selon plusieurs employés familiarisés avec le développement qui ont demandé à ne pas être nommés parce que les discussions étaient privées.
Firefly plus respectueux de la communauté créative ?
Une façon dont Firefly est meilleur que le modèle comparable d’OpenAI est qu’il montre du respect pour la communauté créative en ne s’entraînant que sur des données sous licence ou librement disponibles, dit-il sur son site Web. Et dans un article de blog en mars dernier intitulé « Innovation Responsable à l’ère de l’IA générative », le conseiller général Dana Rao a souligné que l’IA générative « n’est aussi bonne que les données sur lesquelles elle est formée ». « Former des ensembles de données diversifiés et organisés confère intrinsèquement à votre modèle un avantage concurrentiel lorsqu’il s’agit de produire des résultats éthiques et commercialement sûrs», a-t-il déclaré.
Toutefois, le compromis éthique persiste
- Adobe Firefly aurait été entraîné en utilisant du contenu généré par d’autres IA comme Midjourney, qui eux-mêmes ont été entraînés sur du contenu protégé par le droit d’auteur.
- Certaines images générées par IA ont fini par se retrouver dans cette base d’images en raison de la présence d’un marché caché.
- La responsabilité juridique reste une question non résolue si un artiste revendique des droits sur une image générée par IA utilisée à des fins commerciales.
En conclusion, bien qu’Adobe Firefly se présente comme une alternative plus éthique et responsable, il apparaît que le modèle d’IA a été partiellement entraîné sur des images générées par des intelligences artificielles concurrentes. Ces questions soulevées démontrent l’importance de clarifier les limites de responsabilité juridique et éthique dans ce secteur en pleine croissance et soulignent la nécessité pour les entreprises de revoir leur stratégies pour s’assurer que leurs produits respectent réellement des critères éthiques solides.
