Writer luncurkan model Palmyra X6 dan peningkatan harness untuk menekan biaya token

Writer, yang menawarkan alat dan agen AI untuk pemasar, meluncurkan model andalan baru bernama Palmyra X6, yang ditujukan untuk memecahkan masalah penerapan AI yang mahal. Dibangun sebagai variasi pasca-pelatihan dari model sumber terbuka GLM-5.2 milik Z.ai, sistem baru ini diharapkan memberikan kemampuan siap pakai dengan harga yang jauh lebih rendah. Perusahaan memperkirakan model baru ini, dikombinasikan dengan perubahan pada infrastruktur pendukungnya, akan memangkas biaya bagi pelanggan hingga 50% untuk tugas-tugas dasar. Bersamaan dengan model baru ini, perusahaan juga merilis peningkatan signifikan pada pendukung agen standarnya; kedua fitur tersebut tersedia untuk klien Writer mulai Kamis. CEO May Habib mengatakan kepada TechCrunch bahwa perusahaan-perusahaan sudah bosan mengejar tolok ukur dan menginginkan biaya yang semakin murah. Pendekatan baru ini menekankan pada tugas-tugas kompleks dan bertahap yang dieksekusi lebih cepat dengan token lebih sedikit, dengan optimalisasi pendukung sebagai pengungkit penting. Sebuah makalah terbaru dari para peneliti Writer menemukan bahwa perubahan dalam efisiensi pendukung adalah cara yang lebih andal untuk mengurangi biaya daripada pemilihan model, dengan biaya turun rata-rata 40% di seluruh pengujian. Bagi klien, pengalaman tetap netral terhadap model: Palmyra X6 akan berdampingan dengan model Writer lainnya atau model eksternal yang diimpor melalui Azure atau Amazon Bedrock. Habib juga melihat dorongan pemotongan biaya ini sebagai pemicu ketidakpercayaan terhadap laboratorium AI besar, yang memiliki insentif finansial untuk meningkatkan penggunaan token.