Ana Sayfaya DönYapay Zekâ

PS4, Garlic LLM ile internetsiz yapay zekâ sohbeti çalıştırıyor

PS4 için Garlic LLM, dokuz milyar parametreli Qwen modelini çevrim dışı çalıştırıyor. Kullanım GoldHEN gerektiriyor, hızlar geliştiricinin ölçümüne dayanıyor. PS4, Garlic LLM ile internetsiz yapay zekâ sohbeti çalıştırıyor haberi ilk önce Teknoblog üzerinde yayımlandı.

Kaynak: Teknoblog16 Kasım 2026 18:572 dk okumaOtomatik temizlenmiş kaynak metni
PS4, Garlic LLM ile internetsiz yapay zekâ sohbeti çalıştırıyor

Öne Çıkan Noktalar

  • PS4 için Garlic LLM, dokuz milyar parametreli Qwen modelini çevrim dışı çalıştırıyor.
  • Kullanım GoldHEN gerektiriyor, hızlar geliştiricinin ölçümüne dayanıyor.
  • PlayStation 4, Garlic LLM adlı açık kaynaklı uygulamayla dokuz milyar parametreli bir yapay zekâ modelini kendi donanımında çalıştırıyor.

PS4 için Garlic LLM, dokuz milyar parametreli Qwen modelini çevrim dışı çalıştırıyor. Kullanım GoldHEN gerektiriyor, hızlar geliştiricinin ölçümüne dayanıyor.

PlayStation 4, Garlic LLM adlı açık kaynaklı uygulamayla dokuz milyar parametreli bir yapay zekâ modelini kendi donanımında çalıştırıyor. Bazı oyunların desteğini geride bıraktığı PS4 için hazırlanan proje, sohbet sırasında bilgisayara veya internet bağlantısına ihtiyaç duymuyor. Geliştirici Leonardo Alegría’nın kaynak kodu ve teknik belgesine göre metin sohbetinde saniyede 31 ile 39 token, kod üretiminde ise 43 tokena kadar hız elde ediliyor.

Bu rakamlar geliştiricinin temel PS4 ve Slim üzerinde paylaştığı ölçümler. Her sorunun aynı hızda yanıtlanacağını veya farklı konsollarda aynı sonucun çıkacağını göstermiyor. Token da doğrudan kelime sayısı değil, modelin işlediği metin parçalarını ifade ediyor. Uzun bir cevabın ne kadar süreceği, oluşturulan metnin yapısına göre değişiyor.

Uygulamada Alibaba’nın Qwen3.5-9B modeli kullanılıyor. Model dosyaları konsolun belleğine sığacak biçimde küçültülmüş ve çoğunlukla düşük bitli ağırlıklarla saklanmış. Bazı büyük matrisler için daha da küçük bir biçim kullanılıyor. Geliştirici, her şeyi dört bit olarak tutmanın yaklaşık 384 MiB ek alan isteyeceğini ve konsolda bu boşluğun bulunmadığını belirtiyor.

Garlic LLM, PS4’ün grafik işlemcisine doğrudan komut gönderiyor

PS4’ün bu tür uygulamalara hazır bir makine öğrenmesi kitaplığı sunmaması, projenin teknik yolunu belirlemiş. Garlic LLM, hesaplama işlemlerini grafik işlemcisine doğrudan komut paketleri yazarak gönderiyor. Modelin matris işlemleri ve diğer hesaplamaları konsolun GCN mimarisi için derlenmiş çekirdeklerle yürütülüyor. Metnin parçalanması, arayüz ve ses akışı gibi işler ise işlemci tarafında kalıyor.

Hızı artıran yöntemlerden biri, modelin ilerideki iki token için taslak üretmesi. Ana model bu taslağı tek geçişte kontrol ediyor. Sesli konuşmada ise ses modeli belleğin bir bölümünü kullandığı için aynı hızlandırmaya ayrılan alan azalıyor. Geliştirici bu durumda sohbet hızını saniyede yaklaşık 22 token olarak veriyor.

Sesli yanıtlarda Chatterbox, dikte tarafında Nvidia Parakeet kullanılıyor. Kullanıcı kumandadaki kare tuşunu basılı tutarak konuşabiliyor, bıraktığında dikteyi bitirebiliyor. Ayrıca uygulama MicroPython programı yazıp konsolda çalıştırabiliyor. Bunlar Sony’nin resmî olarak PlayStation’a eklediği özellikler değil.

İndirme paketinin boyutu 5,66 GB ve modeller paketin içinde geliyor. Kullanım için GoldHEN çalıştıran bir PS4 gerekiyor, normal mağaza uygulaması gibi her konsola yüklenemiyor. Geliştiricinin kendi testi 11.52 yazılımlı temel ve Slim modelleri kapsıyor, Pro içinse kullanıcı bildirimi bulunuyor. Proje PS5’i desteklemiyor ve bütün donanım, yazılım birleşimlerinde çalışma sözü vermiyor.

ASUS RT-BE82U, Wi-Fi 7 ve beş 2,5G portla 8.499 TL’ye iniyor

#NVIDIA#Yapay Zekâ#PlayStation

Yapay Zekâ Kategorisinden Diğer Haberler