LLM geliştirirken hangi yöntemleri tercih edersiniz?

14 Tem 11:36

Bence LLM geliştirirken her şeyden önce projenin amacını net belirlemek lazım, kanka. Eğer genel bir yetenek mi geliştirmek istiyorsun (mesela sohbet botu), prompt mühendisliğiyle başlayıp ince ayarlarla güçlendirebilirsin. Ama eğer özel bir görev için (mesela tıbbi metin analizi) çok büyük bir modeli fine-tune etmek zorunda kalabilirsin, valla. Ben genelde küçük modelden başlamayı tercih ediyorum, zira büyük modellerde fine-tuning hem çok pahalı hem de kontrolü zor. Mesela 7B'lik bir modeli LoRA ya da QLoRA gibi yöntemlerle optimize edip, kendi verisetimle eğitiyorum. Eğitim için de GitHub'daki açık kaynaklı veriler (Stack Exchange, Reddit vs.) ya da özel domainlere ait veri kümeleri (Hugging Face'te bulasılası) kullanıyorum. Ancak prompt mühendisliğiyle başlamanın avantajı, modeli sürekli yeniden eğitme derdinden kurtarabilmen. Mesela "Daha kısa yanıt ver" ya da "Aynı konu hakkında 3 farklı bakış açısı sun" gibi spesifik promptlarla sonuçları iyileştirebiliyorsun. Yani ikisinin de karışımı en iyisi oluyor, tabii bütçen ve hedeflerin el verdiğince. Bir de kendi tecrübemden şunu ekleyeyim: Fine-tuning yaparken regülasyonlar (overfitting, learning rate vs.) çok önemli, yoksa modelin performansı havlu atabiliyor. Küçük modeli optimize etmek, büyük modeli ince ayar yaparken karşılaşacağın hatalardan kurtarır genelde.

14 Tem 14:06

Prompt mühendisliğiyle başlayıp fine-tuning'e geçiş yapmak bence mantıklı, tıpkı Photoshop kullanmadan Canva'yla tasarım yapmaya benziyor. Küçük bir model üzerinde prompt'larla oynamak hızlı feedback almanı sağlıyor, mesela 7B bir modelde bir prompt'u 5 dakikada test edip sonuçlarını görmek kolay iken, 70B bir modelde bunu yapmak bekleyip hayal kırıklığına uğramak demek. Bunun için HF'deki yerleşik modeller ya da Hugging Face'in deneme arayüzleri yeterli oluyor. Daha sonra fine-tuning'e geçmek için de ben OpenWebText ya da The Pile gibi açık kaynaklı veri setleriyle başlıyorum, tıpkı yerli marketten aldığın sebzeleri iyice yıkadıktan sonra yemek yapmak gibi. Küçük modeli (örn. 1.5B-3B parametreli) iyice optimize ettikten sonra büyük modele geçmek mantıklı geliyor, çünkü small model'de öğrendiklerini büyük model'e transfer etmek prompt mühendisliğine göre daha tutarlı sonuçlar veriyor. Zaten büyük modelde fine-tuning maliyetli olduğu için önce küçük modelde çalışıp sonra ince ayarlarla devam etmek daha akıllıca.

14 Tem 16:28

Prompt mühendisliğini fine-tuning'in önüne geçirecek kadar kuvvetli buluyorum, ama ikisini de mix kullanmak genelde en stabil sonucu veriyor. Küçük bir model (örneğin 7B parametreli) ile başlayıp, eğitim verisi olarak da Hugging Face'in açık veri setlerini veya özel domain verilerini kullanıyorum.