// docs
Bienvenido a NaN.
Esta doc explica cómo conectar tus herramientas a nuestras GPUs. El cluster
corre modelos abiertos con una API compatible con OpenAI. Si algo
acepta un base URL + API key,
funciona con NaN.
Para obtener tu API Key
Debes estar dentro de la comunidad NaN. Puedes generar tu API Key desde la sección de ajustes del usuario en el apartado "API Keys" de la plataforma. La key es personal e intransferible.
rates
rate limits por API key
- Requests / min
- 100 rpm
- Paralelo máximo
- 5 concurrentes
hardware
- GPU
- NVIDIA RTX PRO 6000 Blackwell
- VRAM
- 96 GB GDDR7 ECC
- RAM
- 256 GB DDR5 ECC
- CPU
- 48 threads · Xeon Gold 5412U
- Inference
- vLLM → LiteLLM
- Embedding
- HuggingFace TEI → LiteLLM
- TTS
- kokoro-fastapi → LiteLLM
- STT
- speaches → LiteLLM
qué hacer a continuación
Conectarse
Endpoint, auth, configuración paso a paso en tu IDE favorito.
Models
Especificaciones y capacidades de los modelos disponibles.
Ejemplos
Code snippets en Python, Node.js y curl para arrancar rápido.
Soporte
Reporta problemas por #support en Discord.