Diferencias

Muestra las diferencias entre dos versiones de la página.

--- tutoriales:configurarservidor [2026/06/09 15:17] – [Ollama] Lorenzo
+++ tutoriales:configurarservidor [2026/07/14 09:21] (actual) – Lorenzo
@@ Línea 1: / Línea 1: @@
 ====== Configurar un servidor con Ollama ======
 Para configurar un servidor con ollama hay que seguir los siguientes pasos:
+===== Zona horaria =====
+Configurar la zona horaria
+<sxh bash>
+sudo timedatectl set-timezone Europe/Madrid
+</sxh>
 ===== Tarjeta gráfica =====
@@ Línea 15: / Línea 24: @@
 </sxh>
+===== CUDA =====
+  * Instalar CUDA
+<sxh bash>
+wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb
+sudo dpkg -i cuda-keyring_1.1-1_all.deb
+sudo apt update
+sudo apt install cuda-toolkit-13-2
+</sxh>
+<note warning>
+Ejecutar ''nvidia-smi'' y ver la versión máxima que soporta de CUCA. En este caso es ''CUDA 13.2''
+<sxh>
++-----------------------------------------------------------------------------------------+
+| NVIDIA-SMI 595.71.05              Driver Version: 595.71.05      CUDA Version: 13.2     |
++-----------------------------------------+------------------------+----------------------+
+| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
+| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
+|                                         |                        |               MIG M. |
+|=========================================+========================+======================|
+|   0  NVIDIA GeForce RTX 4090        Off |   00000000:01:00.0 Off |                  Off |
+|  0%   43C    P8              9W /  450W |       1MiB /  24564MiB |      0%      Default |
+|                                         |                        |                  N/A |
++-----------------------------------------+------------------------+----------------------+
++-----------------------------------------------------------------------------------------+
+| Processes:                                                                              |
+|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
+|        ID   ID                                                               Usage      |
+|=========================================================================================|
+|  No running processes found                                                             |
++-----------------------------------------------------------------------------------------+
+</sxh>
+</note>
+  * El ''PATH''
+<sxh bash>
+echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
+echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
+source ~/.bashrc
+</sxh>
+  * Comprobar que funciona:
+<sxh bash>
+nvcc --version
+</sxh>
+===== NVIDIA Container Toolkit =====
+  * Añadir la clave GPG y el repositorio
+<sxh bash>
+curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
+curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' |   sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
+</sxh>
+  * Instalar el toolkit
+<sxh bash>
+sudo apt-get update
+sudo apt-get install -y nvidia-container-toolkit
+</sxh>
+  * Configurar el runtime de Docker
+<sxh bash>
+sudo nvidia-ctk runtime configure --runtime=docker
+sudo systemctl restart docker
+</sxh>
+  * Verificar
+<sxh bash>
+docker run --rm --gpus all ubuntu nvidia-smi
+</sxh>
+===== Zeroconf =====
+Para que el servidor linux publique su nombre DNS con mDNS (multicast DNS) y DNS-SD (Service Discovery)
+  * Bonjour: Implementación de Apple
+  * Avahi: Implementación de Linux
+<sxh bash>
+sudo apt install avahi-daemon
+sudo systemctl enable --now avahi-daemon
+</sxh>
 ===== NGINX =====
@@ Línea 124: / Línea 223: @@
 <sxh text>
 Unattended-Upgrade::Automatic-Reboot "true";
-Unattended-Upgrade::Automatic-Reboot-Time "04:00";
+Unattended-Upgrade::Automatic-Reboot-Time "06:00";
 Unattended-Upgrade::Remove-Unused-Dependencies "true";
 </sxh>
@@ Línea 151: / Línea 250: @@
 </sxh>
-<note>El instalador detecta la GPU NVIDIA automáticamente (por eso este paso va después de instalar los drivers). Para confirmar que Ollama usa la GPU, ejecuta ''nvtop''
+<note>
-  mientras hay un modelo en marcha.</note>
+El instalador detecta la GPU NVIDIA automáticamente (por eso este paso va después de instalar los drivers). Para confirmar que Ollama usa la GPU, ejecuta ''nvtop'' mientras hay un modelo en marcha.
+</note>
   * Descargar (pull) un modelo