Des Minions générés par une IA qui commettent des crimes, on t’explique

HugoDécrypte - Actus du jour
74 abonnés
13 Vues de vidéo·11 janv. 2025
Des vidéos de mignons commettant des crimes circulent sur les réseaux sociaux, on vous explique.
Dans ces vidéos dérangeantes, créées grâce à l'intelligence artificielle,
des utilisateurs superposent des personnages pour enfants appelés mignons
sur des scènes réelles de meurtres, d'accidents ou de tueries très violentes.
Selon le site spécialisé 404media, elles sont réalisées par Runway,
un générateur de vidéos IA très populaire.
On peut par exemple y retrouver des mignons se faire écraser par des ascenseurs,
des montages liés au cartel de drogue ou encore la recréation de la fusillade de Christchurch
en 2019 en Nouvelle-Zélande qui a fait 51 morts.
Cette tendance appelée mignonnes gores aurait débuté en Russie
et s'est rapidement propagée depuis décembre sur TikTok, Instagram, YouTube et X
toujours selon 404media.
Le problème, c'est que ces vidéos qui mettent en avant des scènes choquantes
sont très difficiles à modérer,
elles deviennent tellement virales que les systèmes de modération ont du mal à toutes les supprimer.
Mais surtout, en mettant en scène des personnages de dessins animés et non des humains,
ces vidéos semblent adaptées aux enfants et sont donc très difficiles à détecter pour les algorithmes.
Les plus jeunes qui pourraient tomber sur ces vidéos de mignons
en pensant qu'il s'agit du dessin animé peuvent aussi avoir des dommages psychologiques durables.
Pour lutter face à ça, de nombreux internautes appellent à ne pas cliquer sur ces vidéos
et à les signaler pour ne pas les rendre virales et protéger les enfants.
