El Creador de Bibliotecas Comunitarias de Microsoft otorga a las comunidades control sobre la representación en IA

Investigadores de Microsoft, liderados por Anja Thieme, han creado Community Library Creator, una plataforma que permite a las comunidades construir sus propias bibliotecas de imágenes para influir en cómo son representadas en las imágenes generadas por inteligencia artificial. La herramienta aborda el problema de que los modelos de IA a menudo se basan en datos de internet defectuosos, lo que genera estereotipos o representaciones inexactas. Las comunidades trabajan a través de organizaciones de defensa de derechos para seleccionar imágenes que reflejen sus experiencias compartidas, añadir descripciones contextuales y calificar los resultados generados por IA, creando un ciclo de retroalimentación para una mejor representación. Cada biblioteca tiene como objetivo recopilar alrededor de 400 imágenes del mundo real. Un aspecto crucial es que la comunidad es propietaria de los datos y decide cómo se comparten, con consentimiento y la posibilidad de eliminar imágenes. El proyecto se utiliza actualmente con organizaciones de defensa específicas y se planea expandirlo a más comunidades. La iniciativa busca ampliar la participación en la configuración del desarrollo de la IA, poniendo a las personas y sus datos en primer lugar.