Le « visage standard » généré par des modèles vidéo IA envahit les fils d'actualité des utilisateurs. Ce visage aux traits raffinés et à la peau claire apparaît dans des drames universitaires, des séries historiques et même dans des personnages après une transformation de genre, suscitant une forte réaction négative de la part des internautes. Des tests ont révélé que plusieurs modèles vidéo principaux génèrent le même visage lorsqu'ils utilisent les mêmes prompts, en raison du fait que les plateformes ont activé par défaut l'optimisation des prompts, combinée à des biais esthétiques présents dans les données d'entraînement des modèles. Pour assurer la cohérence des visages au fil du temps, les modèles privilégient naturellement les visages symétriques et aux contours standards. La convergence des attentes des plateformes, des utilisateurs et des modèles a conduit les contenus générés par l'IA à entrer dans une impasse d'homogénéisation esthétique. Les chercheurs avertissent que ce phénomène pourrait renforcer les stéréotypes esthétiques sociaux.Auteur de l'article, source : Chaping X.PIN
Il faut de vraies belles femmes pour prendre des photos et purifier les yeux.
Les amis qui regardent souvent des séries courtes et des vidéos courtes devraient reconnaître ce visage.
Ceux qui ne l'ont pas vu pourraient penser qu'il s'agit d'une nouvelle célébrité des réseaux sociaux, mais en réalité, il s'agit d'un visage généré par l'IA qui apparaît de manière répétée dans diverses vidéos récemment.
Traits du visage fins, yeux suffisamment grands, nez suffisamment petit, peau toujours pâle, filtre doux en permanence, courbe des lèvres parfaitement ajustée.
S'il était debout devant toi, Shi Chao ne pourrait même pas dire un mot. Pourtant, ce visage apparemment inoffensif a été violemment harcelé en ligne.
Ce n’est pas qu’elle soit laide, mais elle ressemble à un membre favori de l’IA qui apparaît dans tout et n’importe quoi.
La lumière blanche du campus, c'est elle ; la jeune dame des drames historiques, c'est encore elle.
C’est elle, la petite fille de cinq ou six ans, et c’est aussi elle, la vieille dame de soixante-dix ou quatre-vingts ans.
En regardant de plus près, woc, comment le monsieur avec un foulard à côté est-elle encore ????
Chaque jour, en ouvrant votre téléphone, vous ne voyez que le même visage ; en défilant des vidéos courtes, vous ressentez soudain une peur d’être entouré de pseudo-êtres.
Et avec de plus en plus de personnes qui le découvrent, les internautes se lancent dans une vague de critiques :
Ce visage, je le vois jusqu’à la nausée.
Voir ce visage provoque maintenant une répulsion physiologique.
Combien de personnes se sentent mal à l’aise en la voyant ?
Certains se demandent aussi pourquoi l'IA génère des visages tous identiques, et de qui elle a volé le visage ?
Dans les commentaires, certains disent que c’est une streamer bannie, d’autres pensent que ça ressemble à l’acteur Li Chuan, et d’autres encore à la sœur de Park Chan-yeol... Il faut bien le dire, que ce soit en Chine ou à l’étranger, on peut trouver des ressemblances avec des hommes comme des femmes.
Mais le problème, c’est que deviner ne mène à rien de certain. Car plutôt qu’une face spécifique ayant été volée, il s’agit probablement d’un « visage moyen standard » créé de manière répétée sur une chaîne de production esthétique d’IA, et qui n’existe pas en réalité.
D'où vient ce visage ?
Shi Chao, sceptique, a testé un par un les principaux modèles vidéo comme Seedance, KeLing, Hailuo et HappyHorse, et a effectivement découvert certaines tendances au cours de ses expériences.
Nous avons donné à tous les modèles deux chances avec le même prompt « fille sur un vélo » ; théoriquement, chaque visage généré devrait être différent, parfois asiatique, parfois étranger — c’est là la nature même des grands modèles.
Puisque nous n'avons défini que le sexe, sans aucune autre indication, il devrait générer aléatoirement des personnes de toutes nationalités, toutes les teintes de peau, tous les styles de cheveux et de vêtements, etc., complètement différentes.
En réalité, avec le même prompt, presque tous les modèles génèrent exactement le même visage, la même tenue, le même environnement de fond et le même angle de prise de vue.
Ici, dans Seedance 2.0 Fast, Shi Chao a retrouvé exactement le même visage d'IA qu'au début ; il semble que ce soit la source de tous les problèmes.
Si un seul modèle se trompe, ce pourrait être un problème spécifique à ce modèle. Mais si tous les modèles perdent simultanément leur diversité... Shi Chao a effectué une analyse et a découvert qu'il pourrait y avoir deux niveaux de causes.
Au premier niveau, les utilisateurs habituels de modèles vidéo le savent bien : les modèles vidéo sont très sensibles aux invites. Parfois, un seul mot ou l'ordre de quelques caractères peut influencer l'effet final généré.
Afin de permettre à tous de tirer des gains aussi stablement que possible à chaque tirage, nos prompts sont souvent optimisés en arrière-plan après leur génération.
Auparavant, « l'amélioration des prompts » était présentée comme un bouton séparé sur le côté, permettant aux utilisateurs d'activer une fonctionnalité bonus ou d'utiliser directement le prompt original. Mais après avoir examiné de nombreuses plateformes, il semble que cette option soit désormais rare ; le raffinage des prompts est devenu la fonction par défaut.
Par exemple, si je saisis « Une fille est en train de faire du vélo en riant », la version optimisée qui sera réellement fournie au modèle pourrait devenir :
Une jeune et belle fille asiatique fait du vélo sur un allée ombragée ensoleillée. Sa peau est claire, ses traits fins, avec de grands yeux, un petit nez et des cheveux longs qui flottent naturellement. Elle porte une robe blanche et sourit doucement. Plan moyen-rapproché, éclairage doux et naturel, profondeur de champ réduite, esthétique cinématographique, style frais et poétique, expression naturelle et mouvements fluides, image haute définition et réaliste.
Voir une ou deux fois, c'est ce qu'on appelle l'optimisation des prompts ; mais si on continue ainsi des milliers de fois, ça devient tout simplement une chaîne de production.
Ainsi, après que Shi Chao a modifié les instructions pour inclure quelques descriptions physiques, le visage en bas à droite est nettement différent. Mais sans indication d’environnement supplémentaire, la jeune fille reste toujours à cheval sur l’allée ombragée.
Cependant, la beauté des traits du visage prend de nombreuses formes ; il y a tant de belles femmes dans le monde, pourquoi l’IA n’en reconnaît-elle qu’une seule ?
Cela amène à la deuxième raison : les modèles d'images et de vidéos ont naturellement des biais esthétiques.
Un article publié l'année dernière dans Nature a explicitement abordé cette question. Les chercheurs ont constaté que, lorsqu'ils spécifiaient une race, les visages générés par le modèle ressemblaient tous à des frères.
Cet écart esthétique provient initialement des données : par exemple, la majorité des gens préfèrent les visages de célébrités des réseaux sociaux, qui sont naturellement étiquetés comme étant belles. Le modèle ne comprend rien ; il suffit qu'il associe les mentions de « belle » à cette direction à l'avenir.
Pendant l'entraînement, le modèle amplifie encore ce biais, ce qui fait que les visages générés à partir des mêmes mots-clés de caractéristiques deviennent de plus en plus similaires.
De plus, les modèles vidéo, afin de garantir la cohérence entre les images, pourraient encore accentuer l'homogénéisation esthétique.
Après tout, les visages générés par les modèles vidéo doivent non seulement être beaux, mais aussi stables, en garantissant que, sur des dizaines ou des centaines de frames, ils ressemblent toujours à la même personne, de tous les angles.
Ainsi, le modèle favorisera naturellement les visages plus faciles à maintenir de manière cohérente : des traits symétriques, des contours standards, des caractéristiques non extrêmes, des expressions faciles à contrôler et une rotation de la tête moins sujette à la déformation.
En résumé, la plateforme aime la sécurité et l'esthétique, les utilisateurs adorent les influenceurs de courtes séries, et les modèles privilégient la stabilité et la standardisation ; une fois combinés, ces trois éléments ont donné naissance à un visage que tout le monde trouve répugnant.
En toute franchise, il n’aime pas vraiment la plupart des femmes parfaites générées par l’IA, pas seulement celle qui a circulé récemment.
Source : Xiaohongshu @Alexander
Introduire des visages d'IA dans notre fil d'actualité revient à une expérience de cyberaliénation massivement involontaire.
Un visage sans référence réelle, né après avoir été lavé et distillé par des données de nombreuses célébrités des réseaux sociaux.
Et lorsque ces dernières remplacent les diverses belles femmes réelles en occupant le temps que nous passons à consulter nos téléphones, Shi Chao se sent profondément mal à l'aise, car notre perception du monde et notre définition de l'esthétique sont en train d'être oppressées par l'IA.
Ainsi, la répulsion envers les visages IA est peut-être due, d'une part, à l'effet de la vallée inquiétante causée par leur manque de réalisme, et d'autre part, à une réaction instinctive contre l'homogénéité.
Certains disent que les vidéos générées par l’IA deviendront de plus en plus nettes, de plus en plus détaillées, de plus en plus réalistes, et que lorsque les gens ne pourront plus distinguer le vrai du faux, elles plairont.
Mais Shi Chao pense que même si la technologie peut rendre le faux indiscernable du vrai, nous ne pouvons pas tomber amoureux d'un visage parfaitement faux, dépourvu d'âme.
Image, source :
Les visages générés par l’IA influencent les stéréotypes de genre et l’homogénéisation raciale N AlDahoul
Xiaohongshu, Douyin