Incroyable révélation : 1 600 images de pédopornographie découvertes dans une base de données d’intelligence artificielle !

Des fichiers pédopornographiques détectés dans une collection de données

Une enquête menée par les experts de Stanford Internet Observatory a révélé la présence de milliers de fichiers pédopornographiques dans une collection de données largement diffusée appelée LAION-5B. Cette découverte est particulièrement inquiétante étant donné la prolifération croissante de contenus pédopornographiques générés par des intelligences artificielles sur Internet. L’analyse récente réalisée par l’institution a identifié des fichiers représentant des violences sexuelles sur mineurs dans des archives de données destinées à la formation des systèmes de synthèse visuelle. LAION-5B, un répertoire contenant plus de 5 milliards de visuels et de textes explicatifs provenant de plateformes communautaires et de sites pour adultes, a été utilisé pour éduquer l’IA Stable Diffusion développée par la société Stability AI.

Face à la capacité des modèles d’IA à créer des visuels convaincants à partir de quelques exemples seulement, la présence de telles images au sein de LAION-5B soulève des préoccupations quant à leur impact potentiel. Les auteurs de l’étude ont immédiatement signalé les fichiers illégaux aux autorités compétentes, notamment au National Center for Missing & Exploited Children aux États-Unis et au Centre canadien pour la protection de l’enfance. Ils ont également pris des mesures pour supprimer ces images compromettantes.

Actions prises pour contenir et prévenir ces problèmes

En réaction à ces découvertes alarmantes, les responsables de LAION ont promis de mettre en place une politique stricte contre la présence de contenus illicites dans leur collection de données. Dans un premier temps, l’accès à LAION a été temporairement désactivé sur Internet afin de procéder à une vérification et à un nettoyage approfondis.

Parallèlement, Stability AI a affirmé que leur IA a été entraînée avec une version filtrée de LAION-5B. Des systèmes de filtrage ont été intégrés pour bloquer les résultats problématiques lors des interactions des utilisateurs avec les modèles d’IA. De plus, des outils d’identification ont été mis en place pour marquer les visuels générés par l’IA et empêcher toute exploitation malveillante de leur technologie.

Gabriel Fouquet : un écrivain passionné de technologie et d’IA

Gabriel Fouquet est un écrivain passionné par la technologie et l’intelligence artificielle, et plus particulièrement par la façon dont ces deux domaines interagissent et se complètent. Il partage son expertise et ses découvertes sur le blog intercoaching.fr, un site dédié à la technologie, à l’IA et à leur impact sur notre vie quotidienne.

Depuis son plus jeune âge, Gabriel a été attiré par la technologie et son influence sur le monde. Sa fascination pour ces domaines s’est développée au fil des ans, passant d’une simple curiosité à une véritable passion. Ce qui l’a toujours intrigué, c’est la manière dont ces domaines en constante évolution façonnent notre société et notre avenir.

En consacrant sa vie à l’étude et à la compréhension de l’intelligence artificielle et de la technologie, Gabriel a pour objectif de démystifier ces sujets souvent complexes. Sur le blog intercoaching.fr, il rédige des articles qui traduisent ces concepts en termes compréhensibles, dans le but de rendre l’IA et la technologie accessibles à tous.

Son travail est animé par une véritable passion pour l’apprentissage et le partage des connaissances. Il est constamment à l’affût des dernières avancées dans ces domaines et espère inspirer les autres à partager sa curiosité et son enthousiasme pour la technologie et l’IA.

Partagez votre avis