Uni-Bond: İki Haftalık Bir Yaz Okulu Projesi Nasıl ICML 2026 Çalıştayı Makalesine Dönüştü?
Uni-Bond, önceki en iyi modeli (YuelBond) tam eşleşme hata oranında yaklaşık 20 kat geride bırakan bir moleküler bağ grafiği tahmin modelidir. AIRI'deki bir yaz okulu projesi sırasında geliştirilmiş, daha sonra rafine edilerek ICML 2026'daki Graph Foundation Models çalıştayında kabul edilmiştir. Model, ikili atom temsilleri üzerinde donmuş bir Uni-Mol kodlayıcı ve hafif bir MLP başlığı kullanır.
Proje, 2025 yılında Tomsk Devlet Üniversitesi'ndeki AIRI yaz okulunda başladı. Ekip (Stepan Pavlenko, Pavel Maslov, Ivan Burov) başlangıçta 3B atomik koordinatlardan, pekiştirmeli öğrenme ile ince ayar yapılmış büyük dil modelleri (LLM'ler) kullanarak SMILES dizileri üretmeyi hedefledi, ancak üç gün sonra bağ grafiği tahminine yöneldi. Önceden eğitilmiş geometrik kodlayıcı Uni-Mol (~47M parametre) ve hafif bir çok katmanlı algılayıcı (MLP) başlığı (~74K eğitilebilir parametre) kullanarak, GEOM benchmark'ında (iskelet bölmesi) 0,9997 makro F1 ve %99,53 tam eşleşme elde ettiler; bu, YuelBond'un 0,975 F1 ve %83,2 tam eşleşmesine kıyasla hata oranında yaklaşık 20 kat azalmaya karşılık geliyor. Model ayrıca YuelBond'un aksine dimerlerde yanlış bağlardan kaçınıyor. Paralel bir hat, doğrudan SMILES üretimi için koordinat tokenizasyonu (BindGPT gibi) ile LoRA ince ayarlı Galactica-1.3B kullandı ve dağılım içi verilerde >%99,7 geçerlilik elde ederken, dağılım dışı peptitlerde sıfıra yakın tam eşleşme sağladı. Çalışma, Seul'deki ICML 2026'da düzenlenecek Grafik Tabanlı Temel Modeller çalıştayında kabul edildi.
Kaynak: Habr — хаб ИИ —
orijinal