Ollama
Sitio web oficial https://ollama.ai
Proyecto de código abierto para ejecutar, crear y compartir grandes modelos de lenguaje (LLMs).
Conectar modelos de Ollama
- Descarga Ollama desde el siguiente enlace: ollama.ai
- Instala Ollama y utiliza el modelo codellama ejecutando el comando
ollama pull codellama
- Si deseas usar mistral u otros modelos, deberás reemplazar codellama con el modelo deseado. Por ejemplo:
ollama pull mistral
Cómo usar Ollama
- En VSCode y selecciona Ollama como
Proveedor
Modelos de Ollama disponibles en Code GPT
- llama2
- codellama
- phi
- mistral
- mixtral
- deepseek-coder
Errores de API
Si estás recibiendo errores de API, consulta el siguiente enlace: Documentación de Ollama
Si el modelo de Ollama no responde en el chat, considera reiniciarlo localmente apagándolo y luego encendiéndolo nuevamente. Esta acción debería resolver el problema.