Designing Visualization Systems Based on Information Theory

Лаборатория BAIR (Berkeley AI) memperkenalkan pendekatan baru untuk merancang sistem pencitraan berdasarkan pengukuran langsung kandungan informasi. Dalam banyak sistem — mulai dari ponsel pintar hingga MRI dan lidar — pengukuran tidak dimaksudkan untuk persepsi manusia, tetapi AI mampu mengekstrak informasi yang berguna. Metrik kualitas tradisional (resolusi, rasio signal-to-noise) mengevaluasi faktor-faktor secara terpisah, sementara pelatihan jaringan saraf untuk rekonstruksi atau klasifikasi mencampur kualitas perangkat keras dan algoritma. Para penulis mengusulkan untuk mengevaluasi informasi timbal balik antara objek dan pengukuran, hanya menggunakan data bising dan model noise yang diketahui (noise foton Poisson dan noise pembacaan Gaussian). Hal ini memungkinkan penguraian evaluasi menjadi dua komponen: entropi pengukuran (diestimasi dengan model probabilistik, misalnya transformer) dan entropi bersyarat (dihitung secara analitis). Metode ini diuji pada empat bidang: fotografi berwarna (pemilihan filter Bayer), radioastronomi (pemilihan posisi teleskop), pencitraan tanpa lensa, dan mikroskopi. Dalam semua kasus, estimasi informasi berkorelasi dengan kualitas rekonstruksi oleh jaringan saraf. Berdasarkan pendekatan ini, dikembangkan metode IDEAL (Information-Driven Encoder Analysis Learning), yang mengoptimalkan parameter sistem pencitraan (misalnya, filter warna) menggunakan gradient ascent berdasarkan estimasi informasi, tanpa memerlukan pelatihan dekoder. Hasil menunjukkan bahwa IDEAL mencapai kualitas yang sama dengan end-to-end learning, tetapi dengan biaya memori dan komputasi yang lebih rendah. Menurut para penulis, metode ini dapat diterapkan tidak hanya dalam pencitraan, tetapi juga pada jenis sensor lainnya — elektronik, biologis, kimia.