Groq

Site oficial https://groq.com/

Groq oferece uma maneira simples de aproveitar modelos que rodam em LPU (Unidade de Processamento de Linguagem), permitindo-nos alcançar tempos de resposta de inferência rápidos.

Conecte sua conta Groq

• Crie uma conta em https://groq.com/
• Vá para seu painel
• Vá para o VSCode e escolha Groq como Provider
• Clique em Connect ou Set connection
• Cole a API Key aqui e clique em Connect:

Remover Chave

Se você quiser remover sua API Key do CodeGPT, clique na caixa do provider e clique em Disconnect.

Modelos Groq disponíveis no CodeGPT

• llama-3.2-90b-text-preview
• llama-3.2-11b-text-preview
• llama-3.2-3b-preview
• llama-3.2-1b-preview
• llama-3.1-405b-reasoning
• llama-3.1-70b-versatile
• llama-3.1-8b-instant
• llama3-70b-8192
• llama3-8b-8192
• mixtral-8x7b-32768
• gemma-7b-it
• gemma2-9b-it