Saltar al contenido
GitHub · sincronizado
todas las publicaciones

Por qué empecé a alojar IA en mi propio servidor en casa.

ASAshik Eqbal17 min de lectura

Este artículo fue traducido automáticamente del inglés. Lee el original

Imagen de portada
En esta página
  1. Introducción
  2. El cambio hacia la IA local
  3. Construyendo mi pila de IA local
  4. Cómo convertir un Homelab en un servidor de IA
  5. Agregar una interfaz adecuada
  6. El momento GPU
  7. Acceso remoto e IA privada en cualquier lugar.
  8. El momento en que finalmente lo entendí
  9. El panorama general
  10. Reflexiones finales

Introducción#

En los últimos dos años, la IA se ha ido incorporando discretamente a mi rutina diaria.

Escribir código. Depurar proyectos. Resumir documentación. Generar ideas. Aprender nuevas tecnologías. Incluso las tareas cotidianas más sencillas empezaron a depender de herramientas de IA que se ejecutan en la nube.

Y al cabo de un rato, me di cuenta de algo extraño:

Casi todas mis interacciones con la IA dependieron de la infraestructura de otra persona.

Cada indicación que escribía, cada fragmento de código que pegaba, cada idea con la que experimentaba, todo ello se procesaba en servidores remotos propiedad de empresas sobre las que no tenía ningún control.

Al principio, eso me pareció normal.

Así es como funciona el software moderno. Reproducimos música en streaming desde servidores ajenos. Almacenamos archivos en la nube de terceros. Alquilamos capacidad de procesamiento a plataformas que nunca vemos físicamente. La IA simplemente parecía la siguiente capa de ese mismo sistema.

Pero cuanto más dependía de estas herramientas, más incómoda me resultaba la idea.

Porque la IA ya no era solo otra aplicación.

Se estaba convirtiendo en una herramienta de pensamiento.

Algo que utilicé para resolver problemas. Algo con lo que interactué mientras aprendía. Algo que poco a poco se integró en mi forma de trabajar a diario.

Y eso me planteó una pregunta más importante:

¿Qué sucede cuando la inteligencia misma se convierte en otro servicio de suscripción?

No es software. No es almacenamiento. No es entretenimiento.

Inteligencia.

¿Qué ocurre cuando tu capacidad para pensar más rápido, automatizar el trabajo, generar ideas, escribir código o aprender nuevas habilidades depende por completo del acceso a los servidores de otra persona?

Ese pensamiento me acompañó más tiempo del que esperaba.

Al mismo tiempo, comencé a notar otro cambio que se estaba produciendo en internet.

Cada vez más desarrolladores comenzaban a alejarse de las configuraciones totalmente dependientes de la nube. La gente volvía a montar laboratorios caseros. Alojaban servidores multimedia por su cuenta. Utilizaban almacenamiento en la nube privada. Alojaban sus propios gestores de contraseñas. Eran dueños de una mayor parte de su infraestructura en lugar de alquilarlo todo.

Y poco a poco, la IA también empezó a entrar en esa conversación.

Por primera vez, ejecutar potentes modelos de lenguaje localmente se estaba convirtiendo en una posibilidad real.

Los modelos de código abierto mejoraban a una velocidad vertiginosa. Las GPU para consumidores alcanzaban la capacidad suficiente para realizar inferencias. Herramientas como Ollama simplificaron enormemente la implementación local de modelos. Y, de repente, la idea de ejecutar IA en casa dejó de parecer experimental.

Parecía inevitable.

Esa curiosidad me impulsó a adentrarme aún más en el mundo de la IA autoalojada.

Al principio, comenzó como un simple experimento.

Quería comprobar si los modelos locales eran realmente útiles fuera de las demostraciones de YouTube y los gráficos comparativos. Anticipaba respuestas lentas, razonamientos deficientes y un proceso de configuración frustrante que, en última instancia, me obligaría a recurrir a las API en la nube.

En cambio, encontré algo completamente diferente.

En pocas horas, ya tenía un modelo de lenguaje local funcionando directamente en mi propio hardware.

Sin claves API. Sin seguimiento de uso. Sin dependencia de internet. Sin esperas para inferencia remota. Sin suscripción mensual que se ajusta automáticamente según el uso.

Simplemente mi propia máquina generando respuestas localmente en tiempo real.

Y, sinceramente, ese momento se sintió sorprendentemente diferente a usar la IA en la nube.

No porque el modelo fuera mágicamente mejor.

Pero porque la relación con la tecnología se sentía diferente.

La IA ya no era un servicio. Ya no estaba "alojada en algún lugar". Ya no era inteligencia prestada a la que se accedía a través de un panel de control de cuenta.

Parecía infraestructura.

Algo que me pertenecía. Algo que controlaba. Algo que existía como parte de mi propia pila de servidores junto con contenedores Docker, proxies inversos, servidores multimedia y sistemas de almacenamiento.

Esa constatación cambió por completo mi perspectiva sobre la IA.

Lo que empezó como una simple curiosidad se convirtió rápidamente en uno de los proyectos de infraestructura más interesantes en los que he trabajado.

Porque en algún momento, mi homelab dejó de ser simplemente un rack de servidores para aplicaciones y contenido multimedia.

Comenzó a convertirse en un entorno de IA personal.

El cambio hacia la IA local#

Durante mucho tiempo, ejecutar grandes modelos de lenguaje localmente parecía poco realista.

La IA se percibía distante. Industrial. Cara.

Cuando se hablaba de sistemas avanzados de IA, la conversación casi siempre giraba en torno a enormes centros de datos, GPU empresariales y compañías con presupuestos de computación prácticamente ilimitados. Tan solo el entrenamiento requería una infraestructura que la mayoría de la gente jamás vería en persona, y mucho menos poseería.

Incluso la inferencia —simplemente ejecutar estos modelos— parecía inaccesible para los desarrolladores comunes.

La suposición era simple:

La IA potente pertenece a las grandes empresas tecnológicas.

Y, sinceramente, durante un tiempo, eso fue cierto.

La primera oleada de IA moderna se caracterizaba por una fuerte centralización. El acceso a la inteligencia se realizaba a través de API, suscripciones y plataformas en la nube. Si se deseaban mejores modelos, había que pagar más. Si se buscaba escalabilidad, se dependía de la infraestructura de terceros.

Pero en los últimos años, algo cambió increíblemente rápido.

Los modelos de código abierto mejoraron a un ritmo vertiginoso.

Lo que comenzó como proyectos comunitarios experimentales evolucionó lentamente hasta convertirse en modelos realmente capaces que podían:

  • escribir código utilizable
  • resumir documentos
  • razonar a través de problemas técnicos
  • ayuda con la creación de scripts
  • ayudar con la investigación
  • Mantienen conversaciones sorprendentemente coherentes.

Y no se trataba solo de una ligera mejoría.

Cada pocos meses, la brecha entre los modelos locales y los sistemas alojados en la nube comenzaba a reducirse cada vez más.

Al mismo tiempo, el hardware de consumo se fue desarrollando discretamente de forma mucho más eficaz de lo que la mayoría de la gente creía.

Las GPU modernas, especialmente las GPU para juegos integradas en ordenadores de sobremesa comunes, de repente se volvieron lo suficientemente potentes como para ejecutar modelos de lenguaje cuantizados localmente a velocidades utilizables.

El mismo hardware que la gente compraba para jugar o editar vídeos ahora era capaz de ejecutar modelos de IA directamente en casa.

Ese cambio me pareció importante.

Porque, por primera vez, la IA local dejó de parecer algo teórico.

Se volvió práctico.

Y entonces aparecieron herramientas como Ollama, que eliminaron aún más obstáculos.

Antes de Ollama, la IA local a menudo parecía intimidante:

  • compilando dependencias
  • Configuración manual de entornos de ejecución
  • Cómo lidiar con problemas de CUDA
  • Buscando archivos de modelos
  • establecer marcos de inferencia

Parecía un proyecto de investigación.

Ollama cambió esa experiencia drásticamente.

De repente, ejecutar un modelo local se veía así:

code
ollama run llama3

Eso fue todo.

Una orden.

Unos minutos después, un modelo de lenguaje completo se estaba ejecutando localmente en tu propia máquina.

Esa simplicidad importaba más de lo que la gente cree.

Porque la tecnología solo se generaliza cuando desaparecen las barreras de entrada.

Y eso es exactamente lo que sucedió con la IA local.

Casi al mismo tiempo, también noté que estaba ocurriendo algo más en la cultura de los desarrolladores.

Cada vez más personas volvían a alojar sus propios vehículos en servidores propios.

No porque fuera más barato. No porque fuera más fácil.

Pero porque la propiedad volvió a importar.

Los desarrolladores comenzaron a construir:

  • laboratorios caseros
  • almacenamiento en la nube privada
  • servidores multimedia
  • sistemas de hogar inteligente
  • gestores de contraseñas
  • VPN personales
  • infraestructura de desarrollo autogestionada

Existía un deseo creciente de controlar una mayor parte de los sistemas de los que dependemos a diario.

Y, con el tiempo, la IA también pasó a formar parte de ese movimiento.

Sinceramente, la transición se sintió sorprendentemente natural.

Hace unos años la gente se jactaba con orgullo de:

  • sus servidores Plex
  • Construcciones NAS
  • clústeres de Kubernetes
  • configuraciones de proxy inverso

Ahora la gente está mostrando:

  • pilas LLM locales
  • servidores GPU
  • bases de datos vectoriales
  • flujos de trabajo de IA
  • asistentes autoalojados

El mundo homelab y el mundo de la IA comenzaron a solaparse.

Y una vez que me di cuenta de esa coincidencia, no pude dejar de pensar en ello.

Porque la IA ya no era solo un software que se ejecutaba en la nube.

Se estaba convirtiendo en infraestructura.

Infraestructura personal.

Algo que los desarrolladores pudieran poseer, modificar, experimentar y ejecutar completamente en su propio hardware.

Esa idea me fascinó.

No porque la IA local sea perfecta. Desde luego que no lo es.

Los modelos en la nube siguen siendo a menudo más potentes. La inferencia empresarial sigue siendo mucho más rápida. Los sistemas alojados a gran escala aún presentan ventajas.

Pero ese no es realmente el punto.

Lo importante es que la IA local ya es lo suficientemente buena como para resultar realmente útil.

Y una vez que algo se vuelve lo suficientemente útil a nivel local, la gente inevitablemente comienza a llevárselo a casa.

Lo mismo sucedió con:

  • transmisión de medios
  • almacenamiento en la nube
  • domótica
  • virtualización
  • servidores de juegos

La IA es simplemente la siguiente capa de esa evolución.

Y sinceramente creo que todavía estamos en el principio.

Construyendo mi pila de IA local#

En el centro de todo estaba Ollama.

Lo que inmediatamente me llamó la atención de Ollama fue lo accesible que hacía que pareciera el despliegue local de IA.

Antes de descubrirlo, la mayoría de los tutoriales locales de IA parecían intimidantes. Implicaban descargar manualmente los pesos del modelo, configurar los sistemas de inferencia, configurar entornos CUDA y solucionar problemas de dependencias durante horas antes de ver una sola respuesta generada.

Ollama redujo toda esa complejidad a algo sorprendentemente simple.

Un solo comando podría descargar y ejecutar localmente un modelo de lenguaje completo:

code
ollama run llama3

Sinceramente, fue uno de esos raros momentos en los que la tecnología de repente se siente más cercana de lo que esperabas.

Unos minutos antes, el modelo existía en algún lugar abstracto de Internet.

Ahora se estaba ejecutando directamente en mi propia máquina.

Sin panel de control de API. Sin créditos. Sin página de facturación. Sin dependencia de la nube.

Se trata simplemente de un proceso local que utiliza mi propio hardware en tiempo real.

Y una vez que puse en marcha ese primer modelo, las cosas se aceleraron rápidamente.

Lo que comenzó como un simple experimento se convirtió poco a poco en un proyecto de infraestructura mucho mayor.

Porque una vez que te das cuenta de que la IA local realmente funciona, el siguiente pensamiento es:

“¿Hasta dónde puedo llegar con esto?”

Así que, naturalmente, empecé a construir toda una pila tecnológica a su alrededor.

Cómo convertir un Homelab en un servidor de IA#

En aquel momento, mi homelab ya gestionaba varios servicios autogestionados.

Transmisión de contenido multimedia. Proxies inversos. Contenedores. Almacenamiento. Acceso VPN. Herramientas para desarrolladores.

La IA se convirtió poco a poco en una capa más que se añadió a ese ecosistema.

Comencé a contenerizar todo mediante Docker para mantener las implementaciones aisladas y manejables.

En lugar de tratar la IA como un experimento independiente, comencé a integrarla en la misma mentalidad de infraestructura que ya utilizaba para el resto de mi pila de servidores.

Eso significaba:

  • contenedores persistentes
  • reinicios automáticos
  • redes centralizadas
  • Transferencia GPU
  • enrutamiento de proxy inverso
  • acceso remoto
  • monitorización del uso de recursos

Poco a poco, la IA local dejó de parecer una novedad y empezó a sentirse como un servicio real que se ejecutaba dentro de mi infraestructura.

Y, sinceramente, esa transición fue una de las partes más geniales de toda la experiencia.

Porque el conjunto de herramientas de IA comenzó a integrarse de forma natural en el resto del homelab.

Mi servidor ya no era solo:

  • un servidor multimedia
  • un sistema de almacenamiento
  • una máquina de virtualización

También se estaba convirtiendo en un servidor de IA.

Agregar una interfaz adecuada#

La línea de comandos era divertida al principio, pero quería algo más práctico para la interacción diaria.

Fue entonces cuando añadí Open WebUI encima de Ollama.

Esa única adición cambió la experiencia drásticamente.

En lugar de interactuar con los modelos únicamente a través de comandos de terminal, de repente me encontré con:

  • una interfaz de chat moderna
  • cambio de modelo
  • historial de conversaciones
  • flujos de trabajo multimodelos
  • interacción del documento
  • una experiencia mucho más pulida en general

La configuración empezó a parecerse menos a un experimento de backend y más a una versión autoalojada de plataformas de IA comerciales.

Solo que esta vez, todo se ejecutaba localmente.

No se realizan solicitudes que salgan de la red. No se produce ninguna inferencia en la nube en ningún otro lugar. No hay dependencia de la disponibilidad externa.

Simplemente mi propia infraestructura que proporciona respuestas de IA directamente desde mi hardware.

Y, curiosamente, eso me resultó increíblemente satisfactorio.

El momento GPU#

Una de las partes más interesantes del proceso fue darse cuenta de la importancia que adquiere la aceleración GPU una vez que se empieza a utilizar la IA local de forma seria.

La inferencia CPU funciona técnicamente, pero una vez que habilité la aceleración GPU, la experiencia cambió por completo.

Las respuestas se volvieron mucho más rápidas. Los modelos se percibían como más interactivos. Todo el sistema se volvió práctico para su uso diario real.

Y, sinceramente, este fue otro momento en el que de repente lo entendí todo.

Durante años, las GPU se comercializaron principalmente para:

  • juego de azar
  • representación
  • edición de vídeo

Ahora, ese mismo hardware se estaba transformando en infraestructura informática de IA personal.

Ese cambio se percibe como históricamente importante.

Porque estamos entrando en un mundo donde el hardware de consumo ya no es solo hardware de entretenimiento.

Se está convirtiendo en hardware inteligente.

Y eso cambia por completo la forma en que la gente piensa sobre los servidores domésticos.

Acceso remoto e IA privada en cualquier lugar.#

Con el tiempo, también quise tener acceso a mis modelos locales fuera de mi red doméstica.

Así que integré el acceso VPN en la configuración.

Eso significaba que podía acceder de forma segura a mi sistema de IA de forma remota sin exponer todo el sistema públicamente a Internet.

Esta parte realmente cambió la utilidad del sistema.

En ese momento, el servidor de IA local dejó de sentirse vinculado a una máquina física que se encontraba en casa.

Empecé a sentir que era un entorno de IA privado al que podía acceder desde cualquier lugar.

Y como todo estaba alojado en servidores propios:

  • No había límites de uso.
  • Sin restricciones de contexto vinculadas a los precios.
  • No hay preocupaciones sobre las cuotas de la API.
  • No es de extrañar que se hayan producido picos en la facturación.

La infraestructura simplemente existía y permanecía disponible siempre que la necesitaba.

El momento en que finalmente lo entendí#

La mayor sorpresa no fue la tecnología en sí.

Se trataba de lo útil que ya es la IA local.

Inicialmente, esperaba que la experiencia se viera comprometida.

Pensaba que los modelos locales existirían principalmente de la siguiente manera:

  • demostraciones interesantes
  • juguetes experimentales
  • Asistentes muy limitados

En cambio, me di cuenta de que dependía de ellos a diario.

Para programar. Para crear scripts. Para generar ideas. Para depurar problemas de infraestructura. Para resumir documentación técnica. Para aprender rápidamente conceptos desconocidos.

Y con el tiempo, sucedió algo inesperado.

La IA en la nube empezó a sentirse diferente.

No necesariamente peor.

Simplemente… distante.

Porque una vez que experimentas la IA funcionando completamente en tu propio hardware, interactuar con la IA en la nube de repente se siente más como una transacción.

Te das cuenta de que:

  • Las solicitudes están saliendo de su máquina.
  • Los límites existen en algún lugar.
  • El acceso depende de sistemas externos.
  • El precio influye en el comportamiento de uso.

La IA local cambia esa relación.

El sistema se siente más cercano. Más personal. Más experimental. Más controlable.

Dejas de sentir que estás alquilando inteligencia a una plataforma.

Y empieza a sentir que una parte de la pila te pertenece.

Ese cambio psicológico fue probablemente la parte más fascinante de todo el proyecto.

Porque, en muchos sentidos, la IA autogestionada no se trata solo de tecnología.

Se trata de cambiar la relación entre los usuarios y la computación en sí misma.

Esto ya se está convirtiendo en un artículo extenso y realmente sólido.

Lo siguiente que deberías añadir es la sección que le da al artículo una mayor recompensa filosófica: la parte que hace que los lectores se detengan y piensen más allá de una simple "configuración homelab genial".

En este momento su artículo trata sobre:

  • el gancho emocional
  • el cambio hacia la IA local
  • su viaje de infraestructura
  • la diferencia psicológica de propiedad

Ahora quieres la sección que responde:

“¿Por qué es importante este movimiento?”

El panorama general#

Cuanto más tiempo pasaba ejecutando IA localmente, más me daba cuenta de que no se trataba simplemente de otra tendencia de autoalojamiento.

Parecía el comienzo de un cambio mucho mayor en la forma en que las personas interactúan con la informática.

Durante años, la mayor parte de la tecnología personal se movió en una sola dirección:

Hacia la nube.

Nuestros archivos se trasladaron al almacenamiento en la nube. Nuestro entretenimiento se trasladó a las plataformas de streaming. Nuestro software se convirtió en un modelo de suscripción. Nuestra infraestructura se convirtió en un servicio de alquiler.

Ganó la comodidad.

Y, sinceramente, en muchos sentidos, la computación en la nube mejoró el sector. Hizo que millones de personas tuvieran acceso a herramientas potentes sin necesidad de hardware costoso ni configuraciones complicadas.

Pero al mismo tiempo, también cambió de propietario poco a poco.

Dejamos de ser dueños del software. Dejamos de ser dueños de la infraestructura. Dejamos de controlar los sistemas de los que dependíamos a diario.

Ganamos en comodidad, pero perdimos la cercanía con la tecnología en sí.

Y la inteligencia artificial parece estar impulsando aún más esa tendencia.

Porque, a diferencia de los servicios en la nube tradicionales, la IA no se limita a almacenar datos o a ofrecer contenido.

Se está convirtiendo en una capa de cognición.

Algo de lo que la gente depende cada vez más para:

  • pensamiento
  • aprendiendo
  • creatividad
  • programación
  • automatización
  • apoyo a la toma de decisiones

Eso cambia la conversación por completo.

Cuando la inteligencia misma se convierte en una infraestructura centralizada controlada por un puñado de plataformas, la dependencia comienza a tener un aspecto muy diferente.

Y creo que esa es una de las razones por las que la IA local resulta tan importante en este momento.

No porque de repente todo el mundo necesite un servidor GPU en casa.

Pero porque la gente quiere opciones.

Quieren tener la capacidad de:

  • ejecutar modelos de forma privada
  • Experimenta libremente
  • son dueños de sus flujos de trabajo
  • evitar la dependencia de una suscripción permanente
  • controlar adónde van sus datos
  • deciden cómo la IA se integra en sus vidas

En muchos sentidos, la IA local se asemeja al espíritu inicial de Internet:

  • descentralización
  • experimentación
  • franqueza
  • propiedad personal

Eso es parte de lo que hace que el momento actual sea tan fascinante.

Por primera vez, los modelos avanzados de IA ya no están completamente confinados a la infraestructura empresarial.

Cada vez son más accesibles, lo que permite que las personas puedan gestionarlas por sí mismas.

Y una vez que eso sucede, la innovación se propaga con extrema rapidez.

Empiezas a ver cómo los desarrolladores construyen:

  • asistentes de codificación locales
  • herramientas de investigación privadas
  • Laboratorios domésticos impulsados por IA
  • sistemas de automatización personal
  • flujos de trabajo de IA sin conexión
  • ecosistemas de IA totalmente autogestionados

No porque las empresas se lo hayan dicho.

Pero porque finalmente pueden.

Y, sinceramente, creo que todavía estamos en una etapa muy temprana.

Actualmente, la IA autogestionada todavía se percibe como algo experimental. Los modelos son de gran tamaño. Existen limitaciones de hardware. La complejidad de la configuración aún disuade a mucha gente.

Pero el ritmo de mejora es absurdo.

Los modelos son cada vez más pequeños e inteligentes. La inferencia es más rápida. Las GPU para consumidores son cada vez más potentes. Las herramientas de código abierto mejoran rápidamente.

Del mismo modo que los servidores multimedia autogestionados se normalizaron con el tiempo, no me sorprendería que los servidores personales de IA también acaben por ser comunes.

Hace unos años, gestionar tu propio almacenamiento en la nube parecía algo muy específico.

Ahora la gente corre despreocupadamente:

  • Sistemas NAS
  • Pilas Docker
  • VPNs para el hogar
  • servidores para hogares inteligentes
  • clústeres de Kubernetes

La IA se percibe como la siguiente capa natural que se añade a ese ecosistema.

Y, sinceramente, esa posibilidad me entusiasma mucho más que alquilar inteligencia de la nube indefinidamente.

Reflexiones finales#

Cuando comencé a experimentar con la IA local, esperaba que fuera un proyecto secundario divertido.

Algo técnico. Algo temporal. Algo interesante para probar durante un par de fines de semana.

En cambio, cambió por completo mi forma de pensar sobre la infraestructura de IA.

Porque una vez que experimentas la ejecución de potentes modelos de lenguaje directamente en tu propio hardware, toda la idea de la IA empieza a percibirse de forma diferente.

Más que un servicio remoto, es una herramienta personal.

La tecnología se siente más cercana. Más tangible. Más controlable.

Y quizás esa sea la parte que más me sorprendió.

El autoalojamiento de la IA no se trata solo de ahorrar dinero o evitar los límites de la API.

Se trata de la propiedad.

Controla tus herramientas. Controla tus flujos de trabajo. Controla tus datos. Controla la información de la que dependes cada día más.

Para mí, eso es lo que hizo que este viaje fuera tan fascinante.

No porque la IA local reemplace por completo a la IA en la nube.

Pero porque les brinda a las personas la posibilidad de participar en esta nueva era de la informática en sus propios términos.

Y, sinceramente, creo que solo estamos viendo el comienzo de ese cambio.