Projetando Sistemas de Imagem Usando Teoria da Informação

Duas questões atormentavam as abordagens anteriores de teoria da informação para imageamento: tratar sistemas como canais sem restrições (estimativas imprecisas) ou exigir modelos de objetos explícitos (generalidade limitada). A equipe de Pesquisa em IA de Berkeley resolveu ambas ao estimar a informação mútua diretamente das medições, explorando os modelos de ruído conhecidos dos sistemas de imageamento. Eles decompõem a informação mútua em variação total da medição menos variação apenas do ruído; esta última é calculada analiticamente a partir da física do ruído, enquanto a primeira é aprendida a partir de dados usando modelos probabilísticos (processo gaussiano, gaussiano completo ou PixelCNN). A validação em fotografia colorida, radioastronomia, imageamento sem lentes e microscopia mostrou que estimativas mais altas de informação previam consistentemente melhor desempenho em tarefas de reconstrução a jusante. Com base nisso, eles introduzem a Análise de Aprendizado do Codificador Orientada por Informação (IDEAL, na sigla em inglês), que usa ascensão de gradiente nas estimativas de informação para otimizar parâmetros do sistema de imageamento sem uma rede decodificadora. No projeto de filtros coloridos, a IDEAL igualou a otimização ponta a ponta tanto em informação quanto em qualidade de reconstrução, exigindo menos memória e computação. A estrutura promete se estender para além do imageamento para outros domínios de sensoriamento com características de ruído conhecidas.