AI Locale su Hardware Vecchio: Ollama e Qwen su Proxmox con GPU Pascal
Kernel da pinnare, driver che non compilano, GPU passthrough da configurare. Come ho messo in piedi un LLM da 32B in locale su hardware enterprise con GPU Pascal da 8GB.
LB Consulting
Kernel da pinnare, driver che non compilano, GPU passthrough da configurare. Come ho messo in piedi un LLM da 32B in locale su hardware enterprise con GPU Pascal da 8GB.