DeepSeek Coder

Generación de código de primera clase con DeepSeek Coder en Clore.ai

¡Hay versiones más nuevas disponibles! DeepSeek-R1 (razonamiento + codificación) y DeepSeek-V3 (propósito general) son significativamente más capaces. También ver Qwen2.5-Coder para una fuerte alternativa de codificación.

Generación de código de mejor categoría con los modelos DeepSeek Coder.

Todos los ejemplos se pueden ejecutar en servidores GPU alquilados a través de CLORE.AI Marketplace.

Alquilar en CLORE.AI

Visita CLORE.AI Marketplace
Filtrar por tipo de GPU, VRAM y precio
Elegir Bajo demanda (tarifa fija) o Spot (precio de puja)
Configura tu pedido:
- Selecciona imagen Docker
- Establece puertos (TCP para SSH, HTTP para interfaces web)
- Agrega variables de entorno si es necesario
- Introduce el comando de inicio
Selecciona pago: CLORE, BTC, o USDT/USDC
Crea el pedido y espera el despliegue

Accede a tu servidor

Encuentra los detalles de conexión en Mis Pedidos
Interfaces web: Usa la URL del puerto HTTP
SSH: ssh -p <port> root@<proxy-address>

¿Qué es DeepSeek Coder?

DeepSeek Coder ofrece:

Generación de código de vanguardia
338 lenguajes de programación
Soporte Fill-in-the-middle
Comprensión a nivel de repositorio

Variantes de modelo

Modelo

Parámetros

VRAM

Contexto

DeepSeek-Coder-1.3B

1.3B

3GB

16K

DeepSeek-Coder-6.7B

6.7B

8GB

16K

DeepSeek-Coder-33B

33B

40GB

16K

DeepSeek-Coder-V2

16B/236B

20GB+

128K

Despliegue rápido

Imagen Docker:

pytorch/pytorch:2.5.1-cuda12.4-cudnn9-runtime

Puertos:

22/tcp
8000/http

Comando:

pip install vllm && \
vllm serve deepseek-ai/deepseek-coder-6.7b-instruct --port 8000

Accediendo a tu servicio

Después del despliegue, encuentra tu http_pub URL en Mis Pedidos:

Ir a Mis Pedidos página
Haz clic en tu pedido
Encuentra la http_pub URL (por ejemplo, abc123.clorecloud.net)

Usa https://TU_HTTP_PUB_URL en lugar de localhost en los ejemplos abajo.

Usando Ollama


# Ejecutar DeepSeek Coder
ollama run deepseek-coder

# Tamaños específicos
ollama run deepseek-coder:1.3b
ollama run deepseek-coder:6.7b
ollama run deepseek-coder:33b

# V2 (último)
ollama run deepseek-coder-v2

Instalación

pip install transformers accelerate torch

Generación de Código

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-instruct"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

messages = [
    {"role": "user", "content": """
Escribe una clase Python para un cliente REST API con:
- Soporte de autenticación
- Lógica de reintentos con retroceso exponencial
- Registro de peticiones/respuestas
"""}
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to("cuda")

outputs = model.generate(
    inputs,
    max_new_tokens=1024,
    temperature=0.2,
    do_sample=True
)

print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

Fill-in-the-Middle (FIM)

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-base"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

# Formato Fill-in-the-middle
prefix = """def calculate_statistics(data):
    \"\"\"Calcular media, mediana y desviación estándar de una lista.\"\"\"
    import statistics

    mean = statistics.mean(data)
"""

suffix = """
    return {
        'mean': mean,
        'median': median,
        'std': std
    }
"""

# Tokens FIM
prompt = f"<｜fim▁begin｜>{prefix}<｜fim▁hole｜>{suffix}<｜fim▁end｜>"

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=128)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))

DeepSeek-Coder-V2

Último y más potente:

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

messages = [
    {"role": "user", "content": "Implement a thread-safe LRU cache in Python"}
]

inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
outputs = model.generate(inputs, max_new_tokens=1024, temperature=0.2)
print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

Servidor vLLM

vllm serve deepseek-ai/deepseek-coder-6.7b-instruct \
    --port 8000 \
    --dtype bfloat16 \
    --max-model-len 16384 \
    --trust-remote-code

Uso de la API

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="x")

response = client.chat.completions.create(
    model="deepseek-ai/deepseek-coder-6.7b-instruct",
    messages=[
        {"role": "system", "content": "Eres un programador experto."},
        {"role": "user", "content": "Write a FastAPI websocket server"}
    ],
    temperature=0.2,
    max_tokens=1500
)

print(response.choices[0].message.content)

Revisión de Código

code_to_review = """
def process_data(data):
    result = []
    for i in range(len(data)):
        if data[i] > 0:
            result.append(data[i] * 2)
    return result
"""

messages = [
    {"role": "user", "content": f"""
Revisa este código y sugiere mejoras:

```python
{code_to_review}

Enfócate en:

Rendimiento
Legibilidad
Mejores prácticas """} ]


## Corrección de Errores

```python
buggy_code = """
def merge_sorted_lists(list1, list2):
    result = []
    i = j = 0
    while i < len(list1) and j < len(list2):
        if list1[i] < list2[j]:
            result.append(list1[i])
            i += 1
        else:
            result.append(list2[j])
    return result
"""

messages = [
    {"role": "user", "content": f"""
Encuentra y corrige el error en este código:

```python
{buggy_code}

"""} ]


## Interfaz Gradio

```python
import gradio as gr
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
)

def generate_code(prompt, temperature, max_tokens):
    messages = [{"role": "user", "content": prompt}]
    inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
    outputs = model.generate(inputs, max_new_tokens=max_tokens, temperature=temperature, do_sample=True)
    return tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)

demo = gr.Interface(
    fn=generate_code,
    inputs=[
        gr.Textbox(label="Prompt", lines=5, placeholder="Describe the code you need..."),
        gr.Slider(0.1, 1.0, value=0.2, label="Temperature"),
        gr.Slider(256, 2048, value=1024, step=128, label="Max Tokens")
    ],
    outputs=gr.Code(language="python", label="Generated Code"),
    title="DeepSeek Coder"
)

demo.launch(server_name="0.0.0.0", server_port=7860)

Rendimiento

Modelo

GPU

Tokens/seg

DeepSeek-1.3B

RTX 3060

~120

DeepSeek-6.7B

RTX 3090

~70

DeepSeek-6.7B

RTX 4090

~100

DeepSeek-33B

A100

~40

DeepSeek-V2-Lite

RTX 4090

~50

Comparación

Modelo

HumanEval

Calidad del Código

DeepSeek-Coder-33B

79.3%

Excelente

CodeLlama-34B

53.7%

Bueno

GPT-3.5-Turbo

72.6%

Bueno

Solución de problemas

La finalización de código no funciona

Asegura el formato correcto del prompt con <|fim_prefix|>, <|fim_suffix|>, <|fim_middle|>
Establece apropiadamente max_new_tokens para la generación de código

El modelo genera basura

Comprueba que el modelo esté totalmente descargado
Verifica que se esté usando CUDA: model.device
Prueba una temperatura más baja (0.2-0.5 para código)

Inferencia lenta

Usa vLLM para una aceleración de 5-10x
Habilite torch.compile() para transformers
Usa modelo cuantizado para las variantes grandes

Errores de importación

Instala dependencias: pip install transformers accelerate
Actualiza PyTorch a 2.0+

Estimación de costos

Tarifas típicas del marketplace de CLORE.AI (a fecha de 2024):

GPU

Tarifa por hora

Tarifa diaria

Sesión de 4 horas

RTX 3060

~$0.03

~$0.70

~$0.12

RTX 3090

~$0.06

~$1.50

~$0.25

RTX 4090

~$0.10

~$2.30

~$0.40

A100 40GB

~$0.17

~$4.00

~$0.70

A100 80GB

~$0.25

~$6.00

~$1.00

Los precios varían según el proveedor y la demanda. Consulta CLORE.AI Marketplace para las tarifas actuales.

Ahorra dinero:

Usa Spot market para cargas de trabajo flexibles (a menudo 30-50% más barato)
Paga con CLORE tokens
Compara precios entre diferentes proveedores

Próximos pasos

DeepSeek-V3 - Último modelo emblemático de DeepSeek
CodeLlama - Modelo de código alternativo
Qwen2.5-Coder - Modelo de código de Alibaba
vLLM - Despliegue en producción

AnteriorMistral y Mixtral SiguienteDeepSeek-V3

Última actualización hace 1 día

¿Te fue útil?

hashtagAlquilar en CLORE.AI

hashtagAccede a tu servidor

hashtag¿Qué es DeepSeek Coder?

hashtagVariantes de modelo

hashtagDespliegue rápido

hashtagAccediendo a tu servicio

hashtagUsando Ollama

hashtagInstalación

hashtagGeneración de Código

hashtagFill-in-the-Middle (FIM)

hashtagDeepSeek-Coder-V2

hashtagServidor vLLM

hashtagUso de la API

hashtagRevisión de Código

hashtagRendimiento

hashtagComparación

hashtagSolución de problemas

hashtagLa finalización de código no funciona

hashtagEl modelo genera basura

hashtagInferencia lenta

hashtagErrores de importación

hashtagEstimación de costos

hashtagPróximos pasos

Alquilar en CLORE.AI

Accede a tu servidor

¿Qué es DeepSeek Coder?

Variantes de modelo

Despliegue rápido

Accediendo a tu servicio

Usando Ollama

Instalación

Generación de Código

Fill-in-the-Middle (FIM)

DeepSeek-Coder-V2

Servidor vLLM

Uso de la API

Revisión de Código

Rendimiento

Comparación

Solución de problemas

La finalización de código no funciona

El modelo genera basura

Inferencia lenta

Errores de importación

Estimación de costos

Próximos pasos