Geçen sabah çalışma masamda kahvemi yudumlarken, diskimdeki yerel modelleri temizlemeye karar verdim. 💻 Ollama klasörüne girdiğimde gözlerime inanamadım: Onlarca farklı Llama, Qwen ve Gemma sürümü gigabaytlarca yer kaplamış, diskimi doldurmuştu. Kendi kendime, "Yücel, bunların hepsini neden tutuyorsun, hangisi gerçekten işe yarıyor?" diye sordum. Sonra düşündüm; benim gibi birçok geliştirici de yerel AI dünyasında hangi modeli seçeceği konusunda kafa karışıklığı yaşıyor.
Eğer siz de yerel yapay zekaya geçmek istiyor ama hangi modeli seçeceğinizi bilmiyorsanız, ya da ekran kartınızın belleğinden (VRAM) maksimum verimi alacak modeli arıyorsanız doğru yerdesiniz dostum. 🚀 Gelin, yerel yapay zekanın en iyilerini birlikte inceleyelim.
Genel Resim: 2025'ten Bu Yana Neler Değişti?#
Pratik işlerin çoğunda bulut servisleri ile yerel modeller arasındaki uçurum neredeyse kapandı. İyi ayarlanmış yerel bir 32B (milyar parametreli) model, günlük işlerde GPT-4o ile yarışır hale geldi. Peki bu süreçte neler yeni?
- DeepSeek R1, açık kaynaklı akıl yürütme (reasoning) modellerinin de en üst ligle aşık atabileceğini kanıtladı (MATH-500 testinde %97,3 başarı gibi yüksek oranlarla).
- Llama 4, yerel dünyada yerleşik çoklu mod (görsel/metin) desteğini ve 10 milyon tokenlık devasa hafıza limitini standart hale getirdi.
- Qwen 3, Türkçe desteği, kod yazma becerisi ve yeni adım adım düşünme moduyla tahtını sağlamlaştırdı.
- Gemma 4, Google'ın tüketici sınıfı donanımlarda yüksek hız sunan hafif ama son derece yetenekli modeli olarak öne çıktı.
- MoE (Mixture of Experts) Mimarisi artık standart oldu. Böylece 17 milyar aktif parametre ile 70 milyar parametrelik modellerin kalitesine ulaşabiliyoruz.
En İyi Modellerin Karşılaştırması 📊#
DeepSeek R1 — Akıl Yürütme (Reasoning) Zirvesi#
DeepSeek R1, 2025'in başlarında yapay zeka dünyasında deprem etkisi yarattı. GPT-o1 seviyesindeki akıl yürütme becerisini çok daha düşük eğitim maliyetiyle sundu. En büyük artısı: Modele bir soru sorduğunuzda arkada nasıl düşündüğünü (chain-of-thought) adım adım görebiliyorsunuz. Bu modeli yerel sisteminizde en verimli şekilde nasıl çalıştıracağınızı öğrenmek için Kendi Sunucunda Yapay Zeka (2026) kurulum rehberimi takip edebilirsiniz.
Damıtılmış (distilled) sürümleri sayesinde bu gücü evimizdeki bilgisayarlarda da çalıştırabiliyoruz:
| Model Boyutu | Gereken VRAM | İdeal Kullanım Yeri |
|---|---|---|
| 7B | 6 GB | Dizüstü bilgisayarlarda hızlı akıl yürütme |
| 14B | 9 GB | Orta seviye sistemler için fiyat/performans zirvesi1 |
| 32B | 20 GB | Karmaşık matematik ve mantık problemleri |
Görselleştirilmiş düşünme aşamaları özellikle hata ayıklarken veya matematiksel mantık kurarken inanılmaz derecede işe yarıyor. Ayrıca MIT lisansıyla dağıtılması, ticari projelerde tamamen özgürce kullanabileceğimiz anlamına geliyor.
Ollama Komutu:
$ ollama run deepseek-r1:14b
Llama 4 — Çoklu Mod ve Devasa Hafıza (Context)#
Meta'nın Llama 4 serisi yerel kullanım için iki ana seçenekle geliyor:
- Llama 4 Scout: Toplam 109B, aktif 17B parametreli. 10 milyon token hafıza limitine sahip ve 24GB VRAM ile çalışabiliyor.
- Llama 4 Maverick: Toplam 400B, aktif 17B parametreli. En yüksek kaliteyi sunuyor ama çift GPU istiyor.2
Llama 4, yerelde hem görselleri/grafikleri okuyabilen hem de kitaplar dolusu dökümanı hafızasında tutabilen en başarılı model.
Tek sıkıntı donanım gereksinimi. Scout sürümü tek bir RTX 4090 ile çalışabilirken, Maverick için çift ekran kartı veya güçlü bir Mac Studio Ultra gerekiyor.
Ollama Komutu:
$ ollama run llama4:scout
Qwen 3 — Genel Kullanım ve Kodlama Kralı#
Alibaba'nın Qwen serisi, ekran kartı belleği başına düşen zeka oranında (quality-per-VRAM) sektörün lideri. Qwen 3, /think seçeneğiyle yerleşik bir düşünme modunu da beraberinde getiriyor.
| Model Boyutu | Gereken VRAM | İdeal Kullanım Yeri |
|---|---|---|
| 7B | 5 GB | Düşük bütçeli kod yazma işleri |
| 14B | 9 GB | Günlük genel kullanım |
| 32B | 20 GB | Profesyonel kod yazma asistanı3 |
| 72B | 44 GB | Sunucu ve kurumsal çözümler |
Kod yazma becerisi gerçekten harika. Qwen 2.5 Coder 32B sürümü, kendisinden üç kat büyük modellerden daha temiz ve çalışır kod üretiyor. Ayrıca Türkçe dil hakimiyeti oldukça yüksek.
Ollama Komutu:
$ ollama run qwen3:32b
Gemma 4 — Hız ve Verimlilik Şampiyonu#
Google'ın Gemma 4 modeli tam bir hız canavarı. 27B parametreli MoE modeli, tüketici sınıfı ekran kartlarında saniyede 85 kelime (token) üretebiliyor.4 Bu hızda bu kaliteyi sunan başka bir alternatif yok.
| Model Boyutu | Gereken VRAM | İdeal Kullanım Yeri |
|---|---|---|
| 1B | 2 GB | Küçük akıllı cihazlar |
| 4B | 4 GB | Ultra hızlı yanıtlar |
| 27B | 14 GB | Hız ve kalitenin buluştuğu nokta |
Eğer yapay zekanın size anında cevap vermesi en büyük önceliğinizse Gemma 4 sizin için en mantıklı seçenek olacaktır.
Ollama Komutu:
$ ollama run gemma3:27b
Karar Verme Şeması ⚙️#
Farklı görevler için tek bir model kullanmaya çalışmak, elindeki tek İsviçre çakısıyla evdeki tüm mobilyaları monte etmeye çalışmak gibidir. Hangi iş için hangi modele yöneleceğinizi gösteren karar şeması:
| İhtiyacınız | En İyi Model | Öne Çıkan Nedeni |
|---|---|---|
| Kod Yazma | Qwen 2.5 Coder 32B | %92,7 HumanEval başarısı, temiz kod üretimi |
| Matematik & Akıl Yürütme | DeepSeek R1 | Adım adım düşünme aşamalarını gösterebilmesi |
| Görsel & Grafik Okuma | Llama 4 Maverick | Yerleşik görsel (multimodal) desteği |
| Uzun Döküman Analizi | Llama 4 Scout | 10 milyon tokenlık devasa hafıza |
| Yüksek Hız | Gemma 4 27B | Saniyede 85 token üretim kapasitesi |
| Genel Sohbet | Qwen 3 32B | VRAM/Zeka oranındaki kararlılığı |
| Düşük Donanım (8GB VRAM) | Llama 3.1 8B | 5 GB VRAM ile yüksek verim |
| Kurumsal Kullanım | Qwen 3 72B | Güçlü altyapısı ve açık lisansı |
GPU ve Donanım Eşleştirmesi 🛠️#
Ekran kartlarının bellek bant genişliği ve Türkiye fiyatlandırma detayları için Yerel LLM'ler İçin En İyi Ekran Kartları (2026) yazıma göz atabilirsiniz. Elindeki karta göre hangi modelleri seçebilirsin:
| Ekran Kartınız | Çalıştırabileceğiniz En Mantıklı Modeller |
|---|---|
| 4 - 6 GB (GTX 1650 / 1060) | Gemma 3 1B, Llama 3.2 3B |
| 8 GB (RTX 3060 / 4060) | Llama 3.1 8B, Qwen 2.5 7B, DeepSeek R1 7B |
| 12 GB (RTX 4070) | Qwen 3 14B, DeepSeek R1 14B |
| 16 GB (RTX 4080) | Qwen 2.5 14B, DeepSeek R1 14B, Gemma 3 27B |
| 24 GB (RTX 4090) | Qwen 3 32B, DeepSeek R1 32B, Llama 4 Scout |
| 48 GB+ (RTX 6000 / Çift GPU) | Qwen 3 72B, Llama 4 Maverick, DeepSeek R1 70B |
Benim Günlük Düzenim 💡#
Merak edenler için, kendi iş akışımda hangi modelleri nerede kullandığımı da paylaşayım. Eğer yerel modellerinizi VS Code gibi editörlere bağlayıp günlük kodlama sürecinizi otomatikleştirmek isterseniz Yerel AI Kurulum Rehberi (LM Studio & VS Code) kılavuzumdan faydalanabilirsiniz.
- Sabah Kod İncelemesi: Qwen 3 32B. Kod tabanını analiz ederken oldukça başarılı.
- Makale ve Döküman İnceleme: Llama 4 Scout. Uzun PDF dosyalarını hafızasına tek seferde alabiliyor.
- Karmaşık Algoritma Çözümleri: DeepSeek R1 14B. Düşünme adımlarını izlemek mantık hatalarını görmemi sağlıyor.
- Hızlı Günlük Sorular: Gemma 3 12B. Saniyede verdiği kelime hızı muazzam.
- Ajan Otomasyonları:
/thinkmodu açık şekilde Qwen 3.
Kendi Modelini Test Et (Performans Testleri) ⚙️#
Yayınlanan resmi rakamlara güvenmek zorunda değilsiniz. Kendi donanımınızda testlerinizi yapabilirsiniz.
Hızlı Çıkarım Hızı Testi#
Ollama CLI ile basit bir süre ölçümü yapın:
$ time ollama run qwen2.5-coder:32b "Bir bağlı listeyi tersine çeviren Python kodunu yazar mısın?"
LM Studio Arayüzüyle Kıyaslama#
LM Studio içinde yerleşik test arayüzü barındırır.
1. Benchmarks sekmesine gidin.
2. Add Benchmark seçeneğine tıklayın.
3. HumanEval, MMLU veya LiveCodeBench testlerinden birini seçin.
4. Modelinizi seçip testi başlatın.
Komut Satırından Detaylı Performans Testi (lm-evaluation-harness)#
# Test aracını indirin ve kurun
$ git clone https://github.com/EleutherAI/lm-evaluation-harness
$ cd lm-evaluation-harness
$ pip install -e .
# Kodlama testini yerel API üzerinden koşturun
$ lm_eval --model localchat --model_args "temperature=0" --tasks humaneval --batch_size 1
- humaneval: Python kod üretme yeteneğini ölçer (164 farklı algoritma problemi).
- mmlu: 57 farklı konuda genel bilgi birikimini test eder.
- aime2024: Matematik yarışması sorularıyla akıl yürütme becerisini ölçer.
- gpqadiamond: Akademik seviyedeki bilim sorularını yöneltir.
Sadede Gelirsek#
Yerel yapay zeka dünyasında tek bir "en iyi" model yoktur. En mantıklı yaklaşım, elinizdeki donanıma ve yapacağınız işe göre doğru modeli seçmektir. Kodlama için Qwen, akıl yürütme için DeepSeek, hız için Gemma ve geniş hafıza için Llama 4 doğru tercihlerdir dostum. 🚀
Kendi iş akışınızı kurarken tek bir modele her şeyi yaptırmaya çalışmak yerine, görev paylaşımı yapmak size hem hız kazandıracak hem de donanım kaynaklarınızı en verimli şekilde kullanmanızı sağlayacaktır.
Hadi kalın sağlıcakla!
-
DeepSeek-R1 GitHub dökümanlarındaki resmi MATH-500 test verilerinden derlenmiştir. ↩
-
BentoML 2026 yılı açık kaynak model karşılaştırma raporundan alınmıştır. ↩
-
Qwen2.5-Coder teknik raporundaki HumanEval ve MBPP kıyaslama verilerine dayanmaktadır. ↩
-
Till Freitag 2026 yerel model hız ve çıkarım testlerinden alınmıştır. ↩