Tarot, Viterbi ve Büyük Dil Modellerinin Ortak Noktası: Bir Algoritma Birden Çok Anlam Arasından Nasıl Birini Seçer?
Makale, bir Tarot kartı dizisini en tutarlı anlamlı yolun aranması olarak yorumlayan bir öğretim modeli sunar ve bu modeli konuşma tanıma, makine çevirisi ve dil modellerinde kullanılan Viterbi ve ışın araması gibi algoritmalarla analogi kurar. Model, her kartı bağlamı ve doğal anlamı bir yorumlar uzayına eşleyen bir işlev olarak ele alır ve ardından en iyi global yolu bulur. Açgözlü seçim, Viterbi, ışın araması ve diğer yöntemleri karşılaştırır ve faktör grafikleri, koşullu rastgele alanlar, anlamsal gömme ve büyük dil modeli yeniden sıralaması kullanan uzantıları tartışır.
Habr'deki makale, Tarot kartı yorumlamasının, birden fazla aday arasından en tutarlı anlam yolunu seçme olarak nasıl modellenebileceğini, Viterbi ve ışın araması gibi algoritmalara benzeterek inceliyor. Yazar, bir kartın bağlam ve özgün anlamdan olası yorumlar kümesine bir eşleme işlevi gibi davrandığı fikriyle başlıyor, ancak arama biriminin tek bir yorum değil, tam bir anlamsal yol olması gerektiğini savunuyor. Beş durum (Durgunluk, Yeniden Düşünme, Kaynaklar, Eylem, Geçiş) ve üç kart (Asılan Adam, Büyücü, Araba) içeren somut bir örnek, açgözlü yaklaşımın Viterbi'nin küresel optimumuna kıyasla optimal olmayan bir yol seçtiğini gösteriyor. Biçimsel model, koşullu homojen olmayan bir Markov zinciridir; Viterbi kod çözme, O(n*S^2) zamanında tam maksimum yolu bulur. Ancak, puan tüm geçmişe veya serbest metne bağlı olduğunda, optimal alt yapı kaybolur ve ışın araması yaklaşık bir yöntem olarak kullanılır; çeşitli ışın araması da tartışılır. Makale Viterbi, ışın araması, çeşitli ışın, A*, MCTS ve LLM yeniden sıralamayı karşılaştırır ve daha genel formülasyonlar olarak faktör grafikleri ve doğrusal zincir CRF'lerden bahseder. Ayrıca, gerçek anlamların ayrık durumlara uymayabileceğini, bu nedenle anlamsal vektörler ve LLM yeniden sıralamanın kullanılabileceğini belirtir ve örneği, yapay zeka destekli Tarot pratiği üzerine araştırmaya dönüştürmek için yönler önerir.
Kaynak: Habr — хаб NLP —
orijinal