Criador de Biblioteca Comunitária da Microsoft dá às Comunidades Controle sobre a Representação em IA

Pesquisadores da Microsoft, liderados por Anja Thieme, criaram o Community Library Creator, uma plataforma que permite que comunidades construam suas próprias bibliotecas de imagens para influenciar como são representadas em imagens geradas por inteligência artificial. A ferramenta aborda o problema de que modelos de IA frequentemente dependem de dados defeituosos da internet, o que leva a estereótipos ou distorções. As comunidades trabalham por meio de organizações de defesa de direitos para selecionar imagens que reflitam suas experiências compartilhadas, adicionar descrições contextuais e avaliar as saídas geradas pela IA, criando um ciclo de feedback para uma melhor representação. Cada biblioteca tem como objetivo coletar cerca de 400 imagens do mundo real. Fundamentalmente, a comunidade é proprietária dos dados e decide como eles são compartilhados, com consentimento e a possibilidade de remover imagens. O projeto atualmente é utilizado com organizações de defesa específicas, com planos de expansão para mais comunidades. A iniciativa visa ampliar a participação na definição do desenvolvimento da IA, colocando as pessoas e seus dados em primeiro lugar.