Le Community Library Creator de Microsoft donne aux communautés le contrôle de la représentation par l'IA
Microsoft
Microsoft a développé le Community Library Creator, une plateforme permettant aux communautés de créer leurs propres bibliothèques d'images pour garantir une représentation précise et équitable dans les images générées par l'IA. L'outil aide les groupes à définir des thèmes clés, à organiser des images avec des descriptions détaillées et à fournir des commentaires pour entraîner les systèmes d'IA, la communauté conservant la propriété et le contrôle du partage des données.
Des chercheurs de Microsoft, dirigés par Anja Thieme, ont créé le Community Library Creator, une plateforme qui permet aux communautés de constituer leurs propres bibliothèques d'images pour influencer la manière dont elles sont représentées dans les images générées par l'intelligence artificielle (IA). Cet outil répond au problème des modèles d'IA qui s'appuient souvent sur des données Internet biaisées, conduisant à des stéréotypes ou des représentations inexactes. Les communautés travaillent avec des organisations de défense des droits pour sélectionner des images qui reflètent leurs expériences communes, ajouter des descriptions contextuelles et évaluer les résultats générés par l'IA, créant ainsi une boucle de rétroaction pour une meilleure représentation. Chaque bibliothèque vise à collecter environ 400 images du monde réel. Essentiellement, la communauté possède les données et décide comment elles sont partagées, avec consentement et possibilité de supprimer des images. Le projet est actuellement utilisé avec des organisations de défense spécifiques, avec des plans d'expansion pour inclure davantage de communautés. L'initiative vise à élargir la participation à l'élaboration du développement de l'IA, en plaçant les personnes et leurs données au premier plan.
Source: Microsoft AI —
original