Laboratorio de IA local
Pruebas y prototipos, sobre todo con modelos que corren en local: inferencia en edge, agentes, RAG offline.
Menos espera, más agentes: así renové mi stack de IA local
De Lemonade y Vulkan a llama-swap, Docker y Halogen: cómo renové mi stack de IA local para poner a trabajar agentes. Rendimiento, decisiones y resultados explicados sin una sopa de siglas.
Qwen3.8 de 27B en local: cuando el modelo trabaja, pero el chat se corta
Cómo configuramos Qwen3.8-27B en HalostrixLab y por qué actualizar Lemonade resolvió un corte de streaming. Modelos locales, contexto y SSE explicados sin dar nada por sabido.
Vulkan o ROCm en Strix Halo: cómo fallé, medí y elegí un backend para inferencia local
Un experimento con llama.cpp en AMD Strix Halo: memoria UMA, smokes fallidos, gates reproducibles y una comparación corta entre Vulkan e HIP/ROCm.
De un smoke ROCm a un laboratorio de fine-tuning: qué valida Docker y qué no
Cómo estoy construyendo un laboratorio local de entrenamiento en AMD: un backward pass real, un workspace configurado, otro parcialmente validado y límites explícitos.