Üretken yapay zekâ teknolojilerinden yararlanmak isteyen kullanıcıların büyük bölümü, ChatGPT veya Claude gibi bulut tabanlı servislere aylık abonelik ücretleri ödemeyi tercih ediyor. Ancak güçlü bulut modelleri tek seçenek değil. Açık ağırlıklı ve açık kaynaklı yapay zekâ modellerini yerel (local) olarak çalıştırmak artık yalnızca yüksek donanımlı masaüstü bilgisayarlara özgü bir ayrıcalık olmaktan çıktı; uygun uygulamalar sayesinde doğrudan akıllı telefonlarda da mümkün hale geldi.
Google tarafından hem Android (Google Play Store) hem de iOS (App Store) platformları için ücretsiz olarak sunulan “Google AI Edge Gallery” uygulaması, kullanıcıların harici bir internet bağlantısına ihtiyaç duymadan cihazları üzerinde bağımsız yapay zekâ modelleri çalıştırmasına olanak tanıyor. Uygulama; Google’ın kendi geliştirdiği Gemma modellerinin yanı sıra Çin menşeli DeepSeek ve Alibaba’nın Qwen ailesi gibi popüler açık kaynaklı çözümleri doğrudan mobil ortama taşıyor.
Telefona yerel yapay zekâ nasıl kurulur?
Mobil cihazların sınırlı işlemci ve RAM kapasitesi nedeniyle telefonda çalışan modellerin, sunucu tabanlı amiral gemisi modeller kadar kapsamlı yanıtlar üretemeyeceğini baştan belirtmek gerekiyor. Ancak temel metin üretimi, çeviri ve özetleme gibi işlevler için yerel kurulum oldukça pratik bir alternatif sunuyor. Kurulum adımları şöyle sıralanıyor:
- Uygulamayı indirin: Cihazınızın uygulama mağazasından (Google Play Store veya App Store) “Google AI Edge Gallery” uygulamasını aratıp ücretsiz olarak yükleyin.
- Kategori seçimi yapın: Uygulama arayüzünde modeller kullanım amaçlarına göre kategorize edilmiş olarak listelenir. Sohbet (chat), görsel ve video işleme veya otonom ajan (agent) kategorilerinden ihtiyacınıza uygun olanı seçin.
- Modeli indirin: Sohbet kategorisi altında listelenen modellerden (örneğin Gemma veya DeepSeek türevleri) birini seçerek indir butonuna dokunun. Model boyutları kapasitelerine ve veri hacimlerine bağlı olarak birkaç yüz megabayttan birkaç gigabayta kadar değişebilir.
- Kullanıma başlayın: İndirme işlemi tamamlandıktan sonra modele dokunarak doğrudan sohbet ekranını açabilir ve internet bağlantısı olmadan tıpkı ChatGPT gibi komutlarınızı yöneltebilirsiniz.
Ücretli aboneliklerin yerini alabilir mi?
Cihazda yerel model çalıştırmanın en büyük avantajı, tamamen internetsiz (çevrimdışı) çalışabilmesi ve verilerin cihaz dışına çıkmaması nedeniyle yüksek gizlilik sunması. Basit bilgi arama, taslak metin yazma veya rutin düzenlemeler için bu modeller ücretli servislerin yerini rahatlıkla doldurabiliyor.
Buna karşın yüksek düzeyde mantıksal çıkarım, karmaşık kodlama ve uzun bağlam gerektiren profesyonel işlerde mobil cihaz modelleri bulut servislerin gerisinde kalıyor. Bilgisayarlarda yerel çalışan büyük açık kaynaklı modeller daha yüksek performans sunarken, mobil sürümlerde dil yeteneklerinin İngilizce ağırlıklı olduğu, Arapça ve diğer dillerde ise performansın daha sınırlı kaldığı gözlemleniyor. Ayrıca otonom ajan yeteneklerine sahip mobil modelleri kullanırken cihaz içi verilere erişim izinleri konusunda dikkatli olunması tavsiye ediliyor.
