> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-fr/modeles-de-langage/deepseek-coder.md).

# DeepSeek Coder

Génération de code de premier plan avec DeepSeek Coder sur Clore.ai

{% hint style="info" %}
**De nouvelles versions sont disponibles !** [**DeepSeek-R1**](/guides/guides_v2-fr/modeles-de-langage/deepseek-r1.md) (raisonnement + codage) et [**DeepSeek-V3**](/guides/guides_v2-fr/modeles-de-langage/deepseek-v3.md) (à usage général) sont nettement plus performants. Voir aussi [**Qwen2.5-Coder**](/guides/guides_v2-fr/modeles-de-langage/qwen25.md) pour une alternative de codage puissante.
{% endhint %}

Génération de code de référence avec les modèles DeepSeek Coder.

{% hint style="success" %}
Tous les exemples peuvent être exécutés sur des serveurs GPU loués via [la place de marché CLORE.AI](https://clore.ai/marketplace).
{% endhint %}

## Louer sur CLORE.AI

1. Visitez [la place de marché CLORE.AI](https://clore.ai/marketplace)
2. Filtrez par type de GPU, VRAM et prix
3. Choisissez **À la demande** (tarif fixe) ou **Spot** (prix d'enchère)
4. Configurez votre commande :
   * Sélectionnez l'image Docker
   * Définissez les ports (TCP pour SSH, HTTP pour les interfaces web)
   * Ajoutez des variables d'environnement si nécessaire
   * Entrez la commande de démarrage
5. Sélectionnez le paiement : **CLORE**, **BTC**, ou **USDT/USDC**
6. Créez la commande et attendez le déploiement

### Accédez à votre serveur

* Trouvez les détails de connexion dans **Mes commandes**
* Interfaces web : utilisez l'URL du port HTTP
* SSH : `ssh -p <port> root@<proxy-address>`

## Qu'est-ce que DeepSeek Coder ?

DeepSeek Coder offre :

* Génération de code à la pointe de la technologie
* 338 langages de programmation
* Prise en charge du remplissage au milieu
* Compréhension au niveau du dépôt

## Variantes de modèle

| Modèle              | Paramètres | VRAM   | Contexte |
| ------------------- | ---------- | ------ | -------- |
| DeepSeek-Coder-1.3B | 1.3B       | 3 Go   | 16K      |
| DeepSeek-Coder-6.7B | 6.7B       | 8 Go   | 16K      |
| DeepSeek-Coder-33B  | 33B        | 40 Go  | 16K      |
| DeepSeek-Coder-V2   | 16B/236B   | 20 Go+ | 128K     |

## Déploiement rapide

**Image Docker :**

```
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-runtime
```

**Ports :**

```
22/tcp
8000/http
```

**Commande :**

```bash
pip install vllm && \\
vllm serve deepseek-ai/deepseek-coder-6.7b-instruct --port 8000
```

## Accéder à votre service

Après le déploiement, trouvez votre `http_pub` URL dans **Mes commandes**:

1. Accédez à **Mes commandes** la page
2. Cliquez sur votre commande
3. Trouvez le `http_pub` URL (par ex., `abc123.clorecloud.net`)

Utilisez `https://YOUR_HTTP_PUB_URL` au lieu de `localhost` dans les exemples ci-dessous.

## Utilisation d'Ollama

```bash

# Exécuter DeepSeek Coder
ollama run deepseek-coder

# Tailles spécifiques
ollama run deepseek-coder:1.3b
ollama run deepseek-coder:6.7b
ollama run deepseek-coder:33b

# V2 (dernière version)
ollama run deepseek-coder-v2
```

## Installation

```bash
pip install transformers accelerate torch
```

## Génération de code

```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-instruct"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

messages = [
    {"role": "user", "content": """
Écrivez une classe Python pour un client d'API REST avec :
- Prise en charge de l'authentification
- Logique de retry avec backoff exponentiel
- Journalisation des requêtes/réponses
"""}
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to("cuda")

outputs = model.generate(
    inputs,
    max_new_tokens=1024,
    temperature=0.2,
    do_sample=True
)

print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))
```

## Remplissage au milieu (FIM)

```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-base"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

# Format de remplissage au milieu
prefix = """def calculate_statistics(data):
    \"\"\"Calculer la moyenne, la médiane et l'écart-type d'une liste.\"\"\"
    import statistics

    mean = statistics.mean(data)
"""

suffix = """
    return {
        'mean': mean,
        'median': median,
        'std': std
    }
"""

# Jetons FIM
prompt = f"<｜fim▁begin｜>{prefix}<｜fim▁hole｜>{suffix}<｜fim▁end｜>"

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=128)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))
```

## DeepSeek-Coder-V2

Les plus récents et les plus puissants :

```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

messages = [
    {"role": "user", "content": "Implémentez un cache LRU thread-safe en Python"}
]

inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
outputs = model.generate(inputs, max_new_tokens=1024, temperature=0.2)
print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))
```

## Serveur vLLM

```bash
vllm serve deepseek-ai/deepseek-coder-6.7b-instruct \\
    --port 8000 \\
    --dtype bfloat16 \\
    --max-model-len 16384 \\
    --trust-remote-code
```

### Utilisation de l’API

```python
from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="x")

response = client.chat.completions.create(
    model="deepseek-ai/deepseek-coder-6.7b-instruct",
    messages=[
        {"role": "system", "content": "Vous êtes un programmeur expert."},
        {"role": "user", "content": "Écrivez un serveur websocket FastAPI"}
    ],
    temperature=0.2,
    max_tokens=1500
)

print(response.choices[0].message.content)
```

## Revue de code

````python
code_to_review = """
def process_data(data):
    result = []
    for i in range(len(data)):
        if data[i] > 0:
            result.append(data[i] * 2)
    return result
"""

messages = [
    {"role": "user", "content": f"""
Relisez ce code et suggérez des améliorations :

```python
{code_to_review}
````

Concentrez-vous sur :

1. Performances
2. Lisibilité
3. Bonnes pratiques """} ]

````

## Correction de bogues

```python
buggy_code = """
def merge_sorted_lists(list1, list2):
    result = []
    i = j = 0
    while i < len(list1) and j < len(list2):
        if list1[i] < list2[j]:
            result.append(list1[i])
            i += 1
        else:
            result.append(list2[j])
    return result
"""

messages = [
    {"role": "user", "content": f"""
Trouvez et corrigez le bogue dans ce code :

```python
{buggy_code}
````

"""} ]

````

## Interface Gradio

```python
import gradio as gr
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "deepseek-ai/deepseek-coder-6.7b-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
)

def generate_code(prompt, temperature, max_tokens):
    messages = [{"role": "user", "content": prompt}]
    inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")
    outputs = model.generate(inputs, max_new_tokens=max_tokens, temperature=temperature, do_sample=True)
    return tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)

demo = gr.Interface(
    fn=generate_code,
    inputs=[
        gr.Textbox(label="Invite", lines=5, placeholder="Décrivez le code dont vous avez besoin..."),
        gr.Slider(0.1, 1.0, value=0.2, label="Température"),
        gr.Slider(256, 2048, value=1024, step=128, label="Nombre maximal de jetons")
    ],
    outputs=gr.Code(language="python", label="Code généré"),
    title="DeepSeek Coder"
)

demo.launch(server_name="0.0.0.0", server_port=7860)
````

## Performances

| Modèle           | GPU      | Jetons/s |
| ---------------- | -------- | -------- |
| DeepSeek-1.3B    | RTX 3060 | \~120    |
| DeepSeek-6.7B    | RTX 3090 | \~70     |
| DeepSeek-6.7B    | RTX 4090 | \~100    |
| DeepSeek-33B     | A100     | \~40     |
| DeepSeek-V2-Lite | RTX 4090 | \~50     |

## Comparaison

| Modèle             | HumanEval | Qualité du code |
| ------------------ | --------- | --------------- |
| DeepSeek-Coder-33B | 79.3%     | Excellente      |
| CodeLlama-34B      | 53.7%     | Bon             |
| GPT-3.5-Turbo      | 72.6%     | Bon             |

## Dépannage

### La complétion de code ne fonctionne pas

* Assurez-vous du bon format d'invite avec `<|fim_prefix|>`, `<|fim_suffix|>`, `<|fim_middle|>`
* Définissez un `max_new_tokens` approprié pour la génération de code

### Le modèle produit du charabia

* Vérifiez que le modèle est entièrement téléchargé
* Vérifiez que CUDA est utilisé : `model.device`
* Essayez une température plus basse (0,2-0,5 pour le code)

### Inférence lente

* Utilisez vLLM pour un gain de vitesse de 5 à 10×
* Activer `torch.compile()` pour Transformers
* Utilisez un modèle quantifié pour les grandes variantes

### Erreurs d'importation

* Installez les dépendances : `pip install transformers accelerate`
* Mettez PyTorch à jour vers la version 2.0+

## Estimation des coûts

Tarifs typiques du marché CLORE.AI (en 2024) :

| GPU        | Tarif horaire | Tarif journalier | Session de 4 heures |
| ---------- | ------------- | ---------------- | ------------------- |
| RTX 3060   | \~$0.03       | \~$0.70          | \~$0.12             |
| RTX 3090   | \~$0.06       | \~$1.50          | \~$0.25             |
| RTX 4090   | \~$0.10       | \~$2.30          | \~$0.40             |
| A100 40 Go | \~$0.17       | \~$4.00          | \~$0.70             |
| A100 80 Go | \~$0.25       | \~$6.00          | \~$1.00             |

*Les prix varient selon le fournisseur et la demande. Vérifiez* [*la place de marché CLORE.AI*](https://clore.ai/marketplace) *les tarifs actuels.*

**Économisez de l'argent :**

* Utilisez le **Spot** marché pour les travaux interrompables — environ un tiers des serveurs ont un prix spot inférieur au tarif à la demande (médiane \~13 % de remise), les autres s'alignent dessus
* Payez avec **CLORE** jetons
* Comparez les prix entre différents fournisseurs

## Étapes suivantes

* [DeepSeek-V3](/guides/guides_v2-fr/modeles-de-langage/deepseek-v3.md) - Dernier modèle phare DeepSeek
* [CodeLlama](/guides/guides_v2-fr/modeles-de-langage/codellama.md) - Modèle de code alternatif
* [Qwen2.5-Coder](/guides/guides_v2-fr/modeles-de-langage/qwen25.md) - Modèle de code d'Alibaba
* [vLLM](/guides/guides_v2-fr/modeles-de-langage/vllm.md) - Déploiement en production


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-fr/modeles-de-langage/deepseek-coder.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.