Modelos locales e inferencia
ollama/ollama
Ejecuta modelos abiertos en local con un comando
- 179k
- MIT
- Go
Qué es y por qué importa
Ollama permite descargar y ejecutar modelos abiertos en tu propia máquina de forma sencilla. En el vídeo aparece como base para servir modelos locales detrás de una interfaz de chat, con modelos tipo Llama corriendo en el equipo. Es la capa que hace fácil tener inferencia local sin depender de una API en la nube.
Puntos clave
- Descarga y ejecución de modelos abiertos en local con muy poca configuración
- Se integra con interfaces como Open WebUI para servir modelos locales tras un chat
- Permite inferencia sin depender de APIs en la nube, útil para casos con datos sensibles
Dónde lo vimos
En la misma categoría