Ilya'nın İlk Modeli Ortaya Çıktı: SSI'nin Test Zamanı Eğitim Motoru

X'te 'Three Strawberries' kullanıcı adlı bir kullanıcının sızıntısına göre, Ilya Sutskever'in girişimi SSI, Test-Zamanı Eğitimi (TTT) adlı küçük bir akıl yürütme motoru üzerinde çalışıyor. Model, özel olarak seçilmiş verilerle nasıl öğrenileceğini öğreniyor ve ardından problem çözme sırasında kısmi ağırlıkları güncelleyerek küçük bir modelin bile daha büyük modellerle rekabet etmesini sağlıyor. Sızıntıyı yapan kişi, mevcut sürümün hazır olduğunu ve bir sonraki sürümün on kat büyütüleceğini, mevcut sürümün ise Ağustos ayı gibi erken bir tarihte sınırlı sayıda kullanıcıya sunulabileceğini öne sürüyor. Bu, Ilya'nın sürekli öğrenme ve AGI ile ilgili geçmiş açıklamalarıyla, süper zekanın devreye alındıktan sonra öğrenmesi gerektiğine dair inancıyla ve Nvidia'nın SSI'ya yaptığı stratejik ortaklık ve yatırım duyurusuyla örtüşüyor. Bu duyuru, SSI'nın hesaplama gücünü bir kat artırdı. TTT yaklaşımı, bağlamı eğitim verisi olarak ele alarak geleneksel bağlam genişletmeden ayrışıyor ve modelin çıkarım sırasında kendini değiştirmesine olanak tanıyor. Ancak bu, güvenlik endişelerini de beraberinde getiriyor; sızıntıyı yapan kişi, Ilya'nın bu endişeleri ele aldığını iddia ediyor. 2024'te kurulan SSI şimdiye kadar gizlilik içinde çalışıyordu, ancak bu sızıntı potansiyel bir atılımı işaret ediyor. Haber ayrıca 'Uzun Bağlam için Uçtan Uca Test-Zamanı Eğitimi' başlıklı bir makaleyi de ilgili çalışma olarak referans veriyor.