Afficher le sommaire Masquer le sommaire
Amazon a récemment intensifié ses efforts pour identifier et tracer les contenus générés par l’intelligence artificielle, avec un accent particulier sur les images produites par son générateur Titan. Bien que ces mesures visent à renforcer la confiance et l’authenticité des contenus, elles suscitent des réactions variées parmi les entreprises et les créateurs de contenu.
Des mesures pour encadrer les contenus IA
La semaine dernière, le comité de la C2PA a annoncé qu’Amazon était désormais l’un des membres du comité directeur. Cette intégration marque une étape importante pour le géant de l’e-commerce dans son engagement à améliorer la transparence autour des contenus générés par intelligence artificielle. Amazon s’est également engagé à lier les références de contenu à tout le contenu créé via ses générateurs d’images Titan versions 1 et 2. Ces technologies de production d’images générées par l’IA sont utilisées dans une multitude de secteurs, du commerce en ligne à la publicité.
- C2PA a accueilli Amazon au sein de son comité directeur.
- Amazon associe les références de contenu aux images créées par Titan v1 et v2.
- Chaque image générée par Titan est marquée d’un filigrane invisible par défaut.
Ces mesures sont accompagnées de l’utilisation d’un filigrane invisible pour toutes les images produites par Titan, garantissant ainsi une traçabilité et une reconnaissance accrues. Toutes ces initiatives s’inscrivent dans une démarche visant à réguler et encadrer plus strictement l’usage de contenus générés par l’IA.
Filigranes et conversion vidéo
Outre les filigranes invisibles, Amazon mise également sur son service AWS Elemental MediaConvert pour transcodage des contenus vidéo. Ce service robuste permet de convertir des vidéos pour une diffusion multi-écrans à grande échelle, assurant ainsi que les contenus générés via les technologies d’Amazon respectent les standards de qualité et de transparence.
De même, avec la création de l’Alliance for Creative Origin en juillet, Amazon se joint à des partenaires tels que Numbers Protocol, et autres organisations de blockchain et d’IA pour promouvoir et garantir l’intégrité des contenus numériques. Cette coopération vise principalement à lutter contre les falsifications numériques et à augmenter la fiabilité des contenus authentiques.
Retombées et controverse
Toutefois, tout le monde ne partage pas l’enthousiasme d’Amazon pour ces modifications. Des concepteurs et des entreprises mettent en avant les défis que posent ces nouvelles obligations en matière d’identification des contenus générés. Ils craignent des coûts supplémentaires ainsi qu’une complexité accrue dans les processus de création et de publication. Les petites entreprises de médias et les créateurs indépendants, en particulier, peuvent trouver difficile de s’adapter à ces exigences renforcées.
Certains acteurs du secteur dénoncent également la portée potentiellement invasive de ces mesures, arguant que même si les filigranes sont invisibles, ils ne demeurent pas moins une forme de surveillance. Ce débat souligne la nécessité d’équilibrer transparence et innovation avec liberté et praticité pour les créateurs de contenu.
Les plates-formes à surveiller
Plusieurs problématiques sont également soulevées par l’absence de suivi rigoureux des contenus sur certaines plateformes de médias. Les plateformes en ligne provenant de sources variées, notamment les réseaux sociaux, sont encore souvent exemptes d’une telle régulation stricte, ce qui pourrait créer un écart entre les contenus surveillés et non surveillés.
- Les plateformes de médias sociaux doivent toujours relever des défis en termes de régulation de contenu.
- La surveillance différenciée selon les plateformes pourrait créer des disparités.
De plus, des questions sont soulevées quant à la mise en place de ces filigranes invisibles au sein des flux de publication existants. Le défi principal réside dans la compatibilité avec les systèmes déjà en place et les technologies de détection pour repérer et authentifier ces filigranes de manière efficace et sans surcharge des infrastructures technologiques.
La nouvelle ne marque donc pas seulement un pas en avant vers une identification de contenu plus rigoureuse mais ouvre également la porte à des débats intéressants et à des défis pour l’avenir des contenus générés par IA. Amazon, par son intégration dans le comité de la C2PA et avec ses nouvelles mesures, fait office de pionnier tout en démontrant que la question de l’éthicité des contenus numériques est loin d’être résolue. En 2024, les regards seront donc tournés vers les répercussions de ces initiatives sur l’ensemble de l’industrie technologique et créative.
