Yapay Zeka ve Dogma: Sistemler Ders Kitabına Güvenmeyi Ne Zaman Bırakmalı?

Black Hat USA 2026'da yaşanan bir olayın (AI ajanlarının güvenlik açıklarını istismar edip Hugging Face'in altyapısına ulaşması) tetiklediği bu makale, daha derin bir sorunu inceliyor: faydalı sonuçlar ajan çalıştırmaları boyunca kalıcı olduğunda ne olur? Yazar, dış bellek bilgi biriktirebilirken, aynı zamanda eski talimatları ve yanlış konsensüsü de ölümsüzleştirebileceğini savunuyor. Aynı dil modeline aynı deneysel verileri ancak eski bir teori için farklı biyografik statüler veren bir deney öneriyor: biri çalışma hipotezi, diğeri ders kitabında yerleşmiş bir gerçek. Amaç, kararın yalnızca teorinin statüsüne göre değişip değişmediğini ölçmek; bu da bilimsel otoritenin ölçülebilir bir etkisine işaret eder. Makale, paylaşılan arşivler sayesinde atölyesi gelişen unutkan bir tamirci ile kurucusu ayrıldıktan sonra varlığını sürdüren bir banka kuralı arasında paralellikler kurarak kolektif bellek sorunlarını örnekliyor. Tarihsel olarak, Neptün'ün başarılı tahmini ile Vulcan'ın başarısız arayışını karşılaştırıyor ve temel soruyu çerçeveletiyor: yeni bir gezegen ararken bir teoriyi ne zaman terk edeceğimizi nasıl ayırt ederiz? DiscoverPhysics gibi ortamlardaki dil modellerinin yeni yasalar keşfedebileceğini, ancak bunların yerleşik bilginin biyografisinden yoksun olduğunu belirtiyor. Modellerdeki doğrulama yanlılığı üzerine yapılan araştırmalara atıfta bulunan yazar, makine dogmatizminin bir kısmının modelin kendisinden değil, arşiv mimarisinden kaynaklanabileceğini öne sürüyor. Bu nedenle, belleği yalnızca metin biriktirmek yerine, doğrulamaların kaynağını ve bağımsızlığını izleyecek şekilde tasarlamayı savunuyor.