Mi propio Jarvis
Proxmox, Kubernetes, LLMs locales y 54 terabytes — la infraestructura IA de mi familia
Cuando mi esposa me pregunta qué hay en la sala de servidores, digo: “Jarvis.” Es mentira, claro. Hay un Minisforum N5Pro. Pequeño, silencioso, 96 GB de RAM. Pero lo que corre en él está más cerca de Jarvis que de un servidor doméstico normal.
¿Por qué un homelab si existe la nube?
Porque quiero controlar mis datos. Fotos, documentos, declaraciones de impuestos, datos de salud, los informes escolares de mis hijos — eso no pertenece a servidores ajenos. Y porque quiero ejecutar LLMs locales. Modelos que procesan mis documentos sin que un solo token salga del hardware.
Cuando tu homelab procesa tus documentos fiscales, etiqueta tus fotos familiares y analiza tus datos de salud, “local” no es una preferencia. Es la única opción defendible.
La arquitectura detrás de Jarvis
Proxmox 9 como hipervisor. 8 VMs: TrueNAS para 54 TB, Home Assistant para automatización, Windows para programación KNX con ETS — y un cluster k3s Kubernetes con 3 masters y 2 workers. Más 26 contenedores LXC: DevProcess, Docker, n8n, Qdrant, Elasticsearch, PostgreSQL, Redis, InfluxDB.
Paperless-NGX y Stirling-PDF para documentos. Grafana, Prometheus y Uptime Kuma para monitoreo. Jellyfin, PhotoPrism y Audiobookshelf para medios. WireGuard, AdGuard y UniFi para red. Node-RED, MQTT y ESPHome para automatización. Y entre ellos: n8n como orquestador, conectando todo.
La familia en el centro
La arquitectura de almacenamiento es centrada en la familia. Cada miembro tiene su espacio propio. Más un área compartida: fotos familiares, videos de vacaciones, seguros, documentos escolares. PhotoPrism organiza automáticamente. Audiobookshelf gestiona nuestros audiolibros. Jellyfin transmite por toda la casa. Todo local, todo bajo mi control.
Ollama y los agentes n8n
El stack de IA usa los 96 GB de RAM completos. Ollama ejecuta múltiples modelos: Llama para tareas generales, Codellama para análisis de código, Mistral para respuestas rápidas. Ningún token va a un servidor externo. Ningún prompt se registra.
Lo realmente emocionante no son los servicios individuales. Es la interconexión. Workflows de n8n como agentes que buscan en documentos de Paperless, generan respuestas con Ollama, alimentan resultados en Home Assistant. Todo local. Sin suscripción cloud, sin costos de API para tareas rutinarias.
RAG para tu propia vida
El workflow es simple: fotografiar un documento con Adobe Scan, reenviar el email a una dirección específica — listo. Diferentes direcciones de email significan diferentes pre-calificaciones: factura, seguro, escuela, salud. Paperless-NGX ingiere el email, y Paperless AI se encarga de la clasificación fina usando LLMs locales. Sin ordenar manualmente, sin sistema de carpetas, sin nube.
Lo mismo para correo digital: reenviar el email, listo. El objetivo final es RAG sobre todo. Qdrant como base de datos vectorial. Embeddings de Ollama para búsqueda semántica. “¿Cuándo fue la última inspección?” — y el sistema entiende la pregunta y encuentra la respuesta en una carta escaneada de hace tres años. En un Minisforum debajo de mi escritorio.
El Doorbird y reconocimiento facial
El timbre es un Doorbird D2102. La cámara reconoce caras. Home Assistant reacciona: cara conocida, puerta abierta, luces encendidas. Cara desconocida, notificación con foto al móvil. Todo procesado localmente.
El sueño del hogar autónomo
Jarvis no está terminado. Nunca lo estará. Pero crece. Cada nuevo servicio, cada nuevo workflow, cada nuevo modelo lo hace un poco más inteligente. Y algún día no solo responderá mis preguntas, sino que las anticipará.
Cuando mi hijo pregunte en diez años por qué hay un servidor en el sótano, diré: “Ese es Jarvis. Nos cuida.”
— Philipp