Narzędzia użytkownika

Narzędzia witryny


fedora:aplikacje:ollama

Różnice

Różnice między wybraną wersją a wersją aktualną.

Odnośnik do tego porównania

Poprzednia rewizja po obu stronachPoprzednia wersja
Nowa wersja
Poprzednia wersja
fedora:aplikacje:ollama [2026/11/09 21:03] – [Ollama w Podman] sindapfedora:aplikacje:ollama [2026/11/09 21:25] (aktualna) – [Ollama w Podman] sindap
Linia 280: Linia 280:
 </code> </code>
  
 +Jeżeli rozmiar modelu jest mniejszy niż rozmiar pamięci GPU to model korzysta z GPU.
 <code bash> <code bash>
 podman exec ollama ollama ps podman exec ollama ollama ps
 NAME                   ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL               NAME                   ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL              
 deepseek-coder:1.3b    3ddd2d3fc8d2    1.6 GB    100% GPU     4096       llamacpp    3 minutes from now  deepseek-coder:1.3b    3ddd2d3fc8d2    1.6 GB    100% GPU     4096       llamacpp    3 minutes from now 
 +</code>
 +
 +Przy większych modelach obliczenia są realizowane przez GPU i CPU
 +<code bash>
 +podman exec ollama ollama ps
 +NAME                                          ID              SIZE      PROCESSOR          CONTEXT    RUNNER      UNTIL              
 +SpeakLeash/bielik-11b-v2.3-instruct:Q4_K_M    b0dc93a20fdb    4.0 GB    32%/68% CPU/GPU    4096       llamacpp    4 minutes from now
 </code> </code>
fedora/aplikacje/ollama.1794254587.txt.gz · ostatnio zmienione: przez sindap

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki