Contacto

IA local para datos clínicos en un servidor de bajo presupuesto

Desplegamos un sistema de inteligencia artificial (IA) local para nuestro propio equipo, que usamos a diario para trabajar con datos clínicos sin que salgan del edificio: un servidor de ≈1.200 € con unidad de procesamiento gráfico (GPU) RTX 5060 Ti de 16 GB, modelo Qwen 27B a 30 tokens/s de media, con registro de peticiones y acceso por interfaz de programación de aplicaciones (API) desde nuestras herramientas. Es la misma arquitectura que desplegamos para clientes, adaptada a su infraestructura y a sus requisitos de acceso y trazabilidad.

Hablemos de vuestro proyecto Probar velocidad Probar recorrido

De un vistazo

  1. Antes

    Sin IA disponible para datos clínicos

    Los datos clínicos no podían salir del edificio, así que no era posible apoyarse en servicios de IA en la nube para las tareas de desarrollo.

  2. Ahora

    IA local en un servidor propio

    Un servidor de ≈1.200 € con GPU de 16 GB, dentro de la red interna, que ejecuta Qwen 27B a 30 tokens/s de media con registro de cada petición.

  3. Resultado
    • 30 tokens/s de mediacon un modelo open weight de 27B (Qwen, denso)
    • ≈1.200 €presupuesto de todo el servidor
    • 100 %del dato clínico permanece dentro del edificio en esta configuración
    • Registro y API localpeticiones con log y acceso desde Copilot, Opencode y chat interno

Contexto

Nuestro equipo necesitaba usar IA en tareas de desarrollo con datos clínicos que no podían enviarse a servicios en la nube.

Desplegamos el sistema sobre un servidor de ≈1.200 €: GPU RTX 5060 Ti de 16 GB, Qwen 27B a 30 tokens/s de media y registro de cada petición.

Es un desarrollo interno de nuestro equipo —no un encargo de cliente— que usamos a diario y que mostramos como referencia de lo que desplegamos para clientes.

Problema

Las tareas de desarrollo trabajaban con datos clínicos que no podían salir del edificio: enviarlos a un servicio de IA en la nube no era una opción viable.

Además, la solución tenía que caber en ≈1.200 € y, aun así, ejecutar un modelo de 27B con registro de uso y servicio disponible en la red interna.

Solución

Desplegamos el sistema en un servidor propio. El trabajo incluyó:

  • Ensamblado de un servidor con GPU NVIDIA RTX Geforce 5060 Ti de 16 GB de VRAM, por ≈1.200 € en total.
  • Despliegue de Qwen 27B (denso, open weight) a 30 tokens por segundo de media.
  • Registro de peticiones y control de acceso en la red interna, con el modelo expuesto por API.
  • Conexión a nuestras herramientas de trabajo: GitHub Copilot, Opencode, agentes y chatbots, que consumen el modelo local a través de la API del servidor.
  • Puesta en servicio para tareas de desarrollo donde el dato no puede salir del edificio.
Pequeño servidor del sistema de IA local, con la placa de vídeo NVIDIA RTX Geforce 5060 Ti de 16 GB montada en su interior
El pequeño servidor con la GPU NVIDIA RTX Geforce 5060 Ti (16 GB de VRAM).
Medición de la velocidad de generación del modelo local: velocidad de salida de tokens por segundo
Velocidad medida del sistema: 30 tokens/s de media con el modelo open weight de 27B.
Demo interactivaProbad vosotros mismos

Probadlo aquí mismo

Así escribe el servidor: 30 tokens por segundo de media

Pulsad el botón y veréis generarse una respuesta de ejemplo a la velocidad real medida en el servidor. La simulación corre entera en vuestro navegador.

Aquí aparecerá la respuesta, palabra a palabra…

0 tokens · 0,0 s · 30 tokens/s

Este proyecto corresponde a IA privada y automatización.

Si queréis llevar esto al hospital, hay una guía práctica: IA privada en hospitales

Cómo viaja una petición

Del clic al token, sin que el dato salga del edificio: pulsad «Enviar petición» y mirad cómo la solicitud atraviesa cada capa del stack. Tocad cualquier nodo para ver qué hace.

Demo interactivaProbad vosotros mismos

Esquema interactivo del stack

Exterior → proxy SSL → proxy de control → IA local

Una petición HTTPS entra por el proxy SSL, el segundo proxy comprueba la lista de acceso, guarda el log y enruta al servidor de IA local.

Listo: pulsad «Enviar petición» o tocad cualquier nodo del esquema.

3Proxy de control: access list, logs y enrutado

El cerebro del stack. Comprueba si vuestra IP o token está en la lista de acceso, escribe una línea de log con fecha, origen, modelo y tokens, y solo entonces reenvía al servidor de IA. Si no estáis en la lista, responde 403 y lo deja registrado.

  • allowlist IP / token
  • log de cada petición
  • routing a servidor-ia:8000
Registro en vivo del proxy
  1. --:--:--proxy listo · esperando peticiones…

Resultados

Trabajamos en tareas de desarrollo con datos clínicos que no salen del edificio: la IA corre en un servidor propio, con Qwen 27B que responde a 30 tokens por segundo de media.

En esta configuración, cada petición queda registrada, el acceso queda limitado a la red interna y todo el hardware cuesta ≈1.200 €. En cada proyecto ajustamos el registro, los permisos y la segmentación de red a los requisitos de la organización.

Cuéntanos qué necesitáis construir

Contadnos qué requisitos de datos tenéis y evaluaremos si un sistema en vuestra propia infraestructura lo resuelve.