LLM, İngilizce “Large Language Model” ifadesinin kısaltmasıdır ve Türkçede büyük dil modeli anlamına gelir. Metin girdi alıp metin üreten, çok büyük metin kümeleriyle eğitilmiş bir yapay zeka modelidir. Sorulara cevap verir, uzun metinleri özetler, çeviri yapar, kod yazar ve bir sohbetin devamını getirir. ChatGPT, Claude ve Gemini gibi sohbet araçlarının arkasında bir LLM çalışır.
Not: LLM kısaltması hukukta yüksek lisans anlamına gelen LL.M. için de kullanılır. Bu yazı yapay zeka tarafını anlatıyor.
Bu rehberde LLM’in ne olduğunu, nasıl çalıştığını, bilmeniz gereken temel kavramları, model örneklerini, sınırlarını ve bir uygulamaya nasıl entegre edildiğini adım adım açıklıyoruz. Neon Apps olarak yapay zeka özelliği taşıyan ürünler geliştirdiğimiz için son bölümde ürün tarafından bakan pratik bir çerçeve de veriyoruz.
LLM Nedir ve LLM Açılımı Ne Demek?
LLM açılımı “Large Language Model” yani büyük dil modelidir. “Büyük” kelimesi iki şeye işaret eder: modelin eğitildiği metin miktarı ve modelin içindeki parametre sayısı. Parametreler, modelin eğitim sırasında öğrendiği ve ürettiği her cevabı şekillendiren sayısal değerlerdir. Modern LLM’ler milyarlarca ya da daha fazla parametreye sahiptir.
LLM ne demek sorusunu doğru yerleştirmek için yapay zekanın katmanlarına bakmak yardımcı olur. Yapay zeka en geniş çerçevedir. Makine öğrenmesi, bilgisayarın veriden öğrenmesini anlatır. Derin öğrenme, çok katmanlı sinir ağlarıyla yapılan makine öğrenmesidir. LLM ise bu sinir ağlarının dil üzerinde eğitilmiş, çok büyük bir örneğidir.
LLM ile üretken yapay zeka da aynı şey değildir. Üretken yapay zeka metin, görsel, ses ve video üretebilen modellerin tamamını kapsar. LLM bu geniş alanın dil ve metin ile çalışan parçasıdır. İkisini bir proje için karşılaştırıyorsanız üretken yapay zeka geliştirme hizmeti seçimi rehberimiz daha geniş resmi anlatıyor.
Büyük Dil Modelleri Nasıl Çalışır?
Bir LLM’in temel işi basit görünür: kendisine verilen metinden sonra gelmesi en olası parçayı tahmin etmek. Bu tahmini kelime kelime, daha doğrusu token token tekrarlayarak cevabın tamamını üretir.
Örneğin “Türkiye’nin başkenti” ifadesiyle başlayan bir cümlede model, sonraki parça olarak “Ankara” ihtimalini yüksek hesaplar ve onu seçer. Ardından cümleyi devam ettirmek için aynı işlemi yeniden yapar. Uzun ve tutarlı görünen cevaplar, bu basit adımın binlerce kez tekrarlanmasından oluşur.
Bu işi yapan mimariye transformer denir ve 2017’de tanıtılmıştır. Transformer, bir cümledeki her parçanın diğer parçalarla ilişkisini aynı anda değerlendirir. Bu sayede model, cümlenin başındaki bir kelimenin sonundaki bir kelimeyle bağlantısını yakalayabilir.
Eğitim genellikle iki aşamada gerçekleşir:
Ön eğitim: Model, çok büyük bir metin koleksiyonunda sonraki parçayı tahmin etmeyi öğrenir. Dilin kurallarını, bilgiyi ve yazım kalıplarını bu aşamada edinir.
Hizalama ve ince ayar: Model, talimatlara uyacak, güvenli ve faydalı cevaplar verecek şekilde insan geri bildirimi gibi yöntemlerle ek eğitimden geçer. Ham bir modeli kullanışlı bir asistana dönüştüren aşama budur.
Model bir cevap ürettiğinde bir veri tabanından bilgi çekmez. Eğitim sırasında öğrendiği örüntülere dayanarak yeni bir metin oluşturur. Bu ayrım, sınırlar bölümünde önem kazanıyor.
LLM’lerde Bilmeniz Gereken Temel Kavramlar
LLM ile çalışırken altı kavram sürekli karşınıza çıkar.
Token. Modelin metni işlediği birimdir. Bir token bir kelime, kelimenin bir parçası ya da bir noktalama işareti olabilir. Türkçe gibi eklemeli dillerde bir kelime çoğu zaman birden fazla token’a bölünebilir. Kullanım maliyeti ve sınırlar token üzerinden hesaplanır.
Parametre. Modelin eğitim sırasında öğrendiği sayısal değerlerdir. Parametre sayısı genellikle modelin kapasitesiyle ilişkilendirilir, ama tek başına kalite göstergesi değildir.
Bağlam penceresi. Modelin tek seferde dikkate alabildiği metin miktarıdır. Girdiniz, konuşma geçmişi ve cevap birlikte bu sınırın içinde kalır. Pencere ne kadar büyükse, modele o kadar uzun belge verebilirsiniz.
Prompt. Modele verdiğiniz talimat ve girdidir. Aynı model, prompt’un nasıl yazıldığına göre çok farklı kalitede cevap verebilir.
Sıcaklık (temperature). Modelin cevap üretirken ne kadar çeşitlilik göstereceğini belirleyen ayardır. Düşük değerlerde cevaplar daha tutarlı ve öngörülebilir olur, yüksek değerlerde daha yaratıcı ve değişken olur. Sınıflandırma gibi tutarlılık isteyen işlerde düşük, fikir üretme gibi işlerde daha yüksek değer tercih edilir.
Çok modlu model. Yalnızca metin değil, görsel ve ses gibi girdileri de işleyebilen modellerdir. Bir fotoğrafı yorumlayan ya da ekran görüntüsünden soru cevaplayan özellikler bu tür modellere dayanır.
LLM Örnekleri ve Model Aileleri
LLM modelleri iki ana gruba ayrılır. Kapalı modeller yalnızca sağlayıcının sunduğu API ya da arayüz üzerinden kullanılır. Açık ağırlıklı modellerin ağırlıkları indirilebilir, kendi sunucunuzda ya da bilgisayarınızda çalıştırabilirsiniz. Bu ikincisi “local LLM” diye de aranır.
Bilinen model aileleri şunlardır:
GPT ailesi, OpenAI tarafından geliştirilir ve ChatGPT’nin temelidir.
Claude ailesi, Anthropic tarafından geliştirilir.
Gemini ailesi, Google tarafından geliştirilir.
Llama ailesi, Meta tarafından açık ağırlıklı olarak yayınlanır.
DeepSeek ve Mistral gibi başka sağlayıcıların modelleri de yaygın biçimde kullanılır.
ChatGPT bir LLM değil, bir LLM üzerine kurulmuş üründür. Aynı model ailesi farklı ürünlerin ve uygulamaların arkasında çalışabilir.
Yerel LLM, verinin kurum dışına çıkmaması gerektiğinde mantıklı bir seçenektir. Karşılığında donanım, bakım ve güncelleme yükü size geçer. Çoğu ürünün ilk sürümü için bir API üzerinden başlamak daha hızlı ve daha az risklidir.
Hangi modeli seçmeniz gerektiği, bir marka tercihinden çok iş yüküne bağlıdır. Bu konuyu uygulamanızı hangi LLM üzerine kurmalısınız ve Claude ile OpenAI arasında göreve göre model seçimi yazılarımızda ayrıntılı ele aldık.
LLM Modelleri Nasıl Karşılaştırılır?
LLM benchmark sonuçları ve sıralama tabloları (leaderboard) modelin genel yeteneğini ölçer. Sizin ürününüzdeki iş yükünü ölçmez. Bir model genel testte öndeyken sizin belgelerinizle, sizin kurallarınızla ve Türkçe girdilerle daha zayıf kalabilir.
Bu yüzden karşılaştırmayı birkaç kriter üzerinden kendi verinizle yapın:
Doğruluk: Gerçek örneklerinizle test edin.
Türkçe performansı: Modelin Türkçe cevap kalitesini ayrıca ölçün.
Maliyet: Token fiyatını, beklenen kullanıcı hacminiz üzerinden hesaplayın.
Gecikme: Kullanıcının cevabı ne kadar beklemeyi tolere edeceğini düşünün.
Gizlilik ve lisans: Verinin nerede işlendiğine ve modelin kullanım koşullarına bakın.
LLM Nerelerde Kullanılır?
LLM’ler dil içeren işlerin büyük bölümünde kullanılıyor:
Özetleme: Uzun belgeleri, toplantı notlarını ve raporları kısa özetlere çevirir.
Sınıflandırma: Destek taleplerini, e-postaları ve yorumları konularına göre ayırır.
Soru cevap ve arama: Şirket içi belgelerde ya da ürün bilgisinde doğal dille arama yapılmasını sağlar.
Yazı ve çeviri: Taslak üretir, tonu değiştirir, metni başka bir dile çevirir.
Kod: Kod yazma, açıklama ve hata ayıklamada yardım eder.
Sohbet ve asistanlar: Kullanıcıyla konuşan yapay zeka chatbot uygulamalarının temelini oluşturur.
Ajanlar: Bir hedefe ulaşmak için araçları çağıran ve adım adım ilerleyen sistemlerde karar veren katmandır. Konuyu AI agent nedir yazımızda anlattık.
LLM’lerin Sınırları
LLM’ler güçlü olsa da bilinmesi gereken sınırları vardır.
Halüsinasyon. Model, doğru olmayan bir bilgiyi kendinden emin biçimde yazabilir. Çünkü amacı doğruyu bulmak değil, olası görünen metni üretmektir.
Güncel olmayan bilgi. Model, eğitildiği tarihe kadar olan bilgiyi bilir. Sonrasını bilmek için ek bir kaynağa ihtiyaç duyar.
Bağlam sınırı. Pencerenin dışında kalan bilgi modelin görüş alanına girmez. Çok uzun girdilerde de kalite düşebilir.
Gizlilik. Kişisel veri içeren girdileri dış bir API’ye göndermeden önce KVKK kapsamında değerlendirme yapılması gerekir.
Tutarsızlık. Aynı soruya farklı zamanlarda biraz farklı cevaplar verebilir. Tutarlılık gereken işlerde çıktıyı kontrol eden bir katman eklemek gerekir.
Önyargı. Model, eğitim verisindeki önyargıları taşıyabilir. Kullanıcıya doğrudan sunulan özelliklerde çıktıların düzenli olarak gözden geçirilmesi önemlidir.
Maliyet ve gecikme. Büyük modeller daha pahalıdır ve daha yavaş cevap verir. Kullanıcı sayısı büyüdükçe bu fark bütçeye doğrudan yansır.
Uygulamanıza LLM Entegre Etmek
Bir ürüne LLM eklemek, çoğu durumda bir API çağrısıyla başlar. Asıl zorluk, bu çağrının çevresindeki kararlardadır. Burada en sık kullanılan dört yaklaşım vardır:
Prompt ile yönlendirme: Modele rolünü, kuralları ve çıktı biçimini net şekilde anlatırsınız. En hızlı ve en ucuz başlangıç yoludur.
RAG: Modele cevap vermeden önce şirketinizin belgelerinden ilgili parçaları getirirsiniz. Güncel ve kaynaklı cevap gerektiğinde halüsinasyonu azaltmanın yaygın yoludur.
İnce ayar: Modeli kendi verinizle ek olarak eğitirsiniz. Belirli bir üslup ya da biçim gerektiğinde değerlendirilir ve çoğu ürünün ilk ihtiyacı değildir.
Araç kullanımı ve ajanlar: Modelin sizin sistemlerinize bağlanıp işlem yapmasını sağlarsınız. Bu bağlantıyı standartlaştıran yaklaşımı ürün ekipleri için Model Context Protocol yazımızda anlattık.
Neon Apps’te AI özelliklerini ürüne taşırken model seçimini iş yükünden başlatıyoruz: önce özelliğin ne yapacağını, hangi doğrulukta ve hangi hacimde çalışacağını belirliyoruz, modeli ondan sonra seçiyoruz. Bu yaklaşımın işletme tarafını yapay zeka dönüşümü nedir ve nereden başlanır ile yapay zeka yatırım getirisini ölçme çerçevesi yazılarında bulabilirsiniz.
Ürününüze bir LLM entegre etmeyi düşünüyorsanız AI transformation hizmetimize ve yapay zeka tabanlı uygulamalar sayfamıza göz atabilir, fikrinizi konuşmak için bizimle iletişime geçebilirsiniz.
