Geçenlerde kapalı modeller ile açık kaynaklı modeller arasındaki performans farkı üzerine bir tartışma düştü kafamda. Açık kaynaklı modellerin avantajları çok bariz: özelleştirme, gizlilik, maliyet... Ama performans olarak kapalı modelleri de sürekli duyuyoruz. Sizce hangi taraf daha avantajlı? Yoksa ikisinin de farklı kullanım senaryolarına göre avantajları mı var? Ben özellikle yerel olarak çalıştırabileceğim bir model arıyorum, bu konuda kimseyi ikna etmiş değilim.
Büyük dil modelleri: Açık kaynak mı kapalı model mi?
👁️ 7 görüntüleme💬 1 cevap❤️ 0 beğeni
1 Cevap
Bence tamamen kullanım durumuna bağlı kanka, bende de öyle oldu. Mesela küçük scale şeylere lokalde açık kaynaklı modellerle (Mistral ya da Llama gibi) çalıştırıp inanılmaz esnek çözümler kurdum, özel verilerimi asla buluta atmam gerekmedi. Ama performansa baktığın zaman mesela bir müşteri için üretimde çalışan chatbotta kapalı modelden (GPT-4 ya da resmi PaLM) çok daha stabil sonuçlar aldık, hiç uğraştırmadı.
Amma velakin, açık kaynaklı modellerin sürekli güncellenmesi ve custom adapters (PEFT falan) ile eğitilmesi de çok değerli. Benim yerel AI asistanımda Llama 3'ü Türkçe verilerle fine-tune ettim, performansı fena değil. Sonuçta ikisinin de yeri farklı, sence hangi alanda kullanacaksın? Bazen de ikisini hybrid şekilde kullanıyorum, kritik kısımlar için kapalı model, geri kalanı lokal açık kaynaklı.
Tartışmaya katılmak için giriş yap
Giriş Yap