Groq

Sitio web oficial https://groq.com/

Groq proporciona una forma sencilla de aprovechar los modelos que se ejecutan en LPU (Unidad de Procesamiento de Lenguaje), lo que nos permite lograr tiempos de respuesta de inferencia rápidos.

Conectar tu cuenta de Groq

• Crea una cuenta en https://groq.com/
• Ve a tu tablero
• Ve a VSCode y elige Groq como Proveedor
• Haz clic en Conectar o Establecer conexión
• Pega la Clave API aquí y haz clic en Conectar:

Eliminar Clave

Si deseas eliminar tu Clave API de CodeGPT, haz clic en el cuadro del proveedor y haz clic en Desconectar.

Modelos de Groq disponibles en CodeGPT

• llama-3.2-90b-text-preview
• llama-3.2-11b-text-preview
• llama-3.2-3b-preview
• llama-3.2-1b-preview
• llama-3.1-405b-reasoning
• llama-3.1-70b-versatile
• llama-3.1-8b-instant
• llama3-70b-8192
• llama3-8b-8192
• mixtral-8x7b-32768
• gemma-7b-it
• gemma2-9b-it