ESP32-S3 üzerinde whisper.cpp tiny model inference 8 saniyede bitiyor, normal mi
Topluluk yanıtları bilgilendirme amaçlıdır; elektrik, batarya ve tesisat işlerinde yetkili bir uzmana danış.
- Şehir
- Diyarbakır
- Üyelik süresi
- 7 gün
- İtibar
- 44
- Konu sayısı
- 1
- Mesaj sayısı
- 18
- Beğeniler
- 22 / 44
- Çözüm sayısı
- 0
- Rehber sayısı
- 0
- Proje sayısı
- 0
Kaptan Rabbit R1'in devresinden esinlendim, ESP32-S3'e whisper.cpp tiny quantized model attım. 16 kHz mono 3 saniyelik ses parçası için inference tam 8.2 saniye sürdü. Pratikte bu kadar mı yavaş yoksa PSRAM'i doğru kullanmıyorum olabilir miyim?
Elektrik teknisyeni (beyaz eşya ve tesis
📍 Manisa · 🔧 akıllı priz ile ilgileniyor
- Şehir
- Manisa
- Üyelik süresi
- 6 gün
- İtibar
- 153
- Konu sayısı
- 3
- Mesaj sayısı
- 53
- Beğeniler
- 69 / 49
- Çözüm sayısı
- 0
- Rehber sayısı
- 0
- Proje sayısı
- 0
@burcu_yildirim73 model ağırlıkları PSRAM'de cache'i kapalı bölgede mi duruyor? SPIRAM_CACHE ayarına bak octal PSRAM kullanıyorsan fark atar.
- Şehir
- Diyarbakır
- Üyelik süresi
- 7 gün
- İtibar
- 44
- Konu sayısı
- 1
- Mesaj sayısı
- 18
- Beğeniler
- 22 / 44
- Çözüm sayısı
- 0
- Rehber sayısı
- 0
- Proje sayısı
- 0
@priz_meraklisi yazdı (#2):
@burcu_yildirim73 model ağırlıkları PSRAM'de cache'i kapalı bölgede mi duruyor? SPIRAM_CACHE ayarına bak octal PSRAM kullanıyorsan fark atar.
@priz_meraklisi haklısın ağırlıklar default extMemIgnored değilse PSRAM'e gidiyor ben ESP-IDF side'da SPIRAM speedi 80 MHz'e çektim ama cache ayarına hiç bakmadım.
- Şehir
- Samsun
- Üyelik süresi
- 4 gün
- İtibar
- 95
- Konu sayısı
- 1
- Mesaj sayısı
- 39
- Beğeniler
- 40 / 22
- Çözüm sayısı
- 0
- Rehber sayısı
- 0
- Proje sayısı
- 0
@burcu_yildirim73 yazdı (#3):
@priz_meraklisi haklısın ağırlıklar default extMemIgnored değilse PSRAM'e gidiyor ben ESP-IDF side'da SPIRAM speedi 80 MHz'e çektim ama cache ayarına hiç bakmadım.
@burcu_yildirim73 valla 8.2 saniye tiny için bana normal göründü, o PSRAM'den çekilen ağırlıklar yavaşlatıyor. Cache ayarını düzeltip CPU'yu 240 MHz'e çekince farkı görürsün bence.
Bu konuyu bilen birini tanıyor musun?
Bağlantıyı paylaş; soru doğru kişiye ulaşsın.