codeup:13b im LLM-Testsuite-Report

CodeUp wurde von DeepSE veröffentlicht. Es basiert auf Llama 2 von Meta und wurde anschließend für eine bessere Codegenerierung feinabgestimmt. Dadurch kann es in mehreren Sprachen besseren Code schreiben.

Erste Schritte mit CodeUp

Das im folgenden Beispiel verwendete Modell ist CodeUp mit 13 Milliarden Parametern, ein Modell zur Codegenerierung.

API

Starten Sie den Ollama-Server (führen Sie ollama serve aus). Führen Sie das Modell aus

curl -X POST http://localhost:11434/api/generate -d '{ "model": "codeup", "prompt":"Schreibe C++-Code, der die längste gemeinsame Teilzeichenkette in zwei Zeichenketten findet." }'

CLI

Installieren Sie Ollama Öffnen Sie das Terminal und führen Sie ollama run codeup

Hinweis: Der Befehl ollama run führt ollama pull aus, wenn das Modell noch nicht heruntergeladen wurde. Um das Modell herunterzuladen, ohne es auszuführen, verwenden Sie ollama pull codeup.

Speicheranforderungen

13B-Modelle benötigen im Allgemeinen mindestens 16 GB RAM

Falls bei höheren Quantisierungsstufen Probleme auftreten, verwenden Sie das q4-Modell oder schließen Sie andere Programme, die viel Arbeitsspeicher belegen.

Modellvarianten

Standardmäßig verwendet Ollama eine 4-Bit-Quantisierung. Um andere Quantisierungsstufen auszuprobieren, verwenden Sie die anderen Tags. Die Zahl nach q gibt die Anzahl der für die Quantisierung verwendeten Bits an, q4 bedeutet also 4-Bit-Quantisierung. Je höher die Zahl, desto genauer ist das Modell, desto langsamer läuft es jedoch und desto mehr Speicher benötigt es.

Aliase latest, 13b, 13b-llama2, 13b-llama2-chat, 13b-llama2-chat-q4_0

Modellquelle

CodeUp-Quelle auf Ollama

Quelle des Modells mit 13 Milliarden Parametern: DeepSE

Referenzen

GitHub-Repository für CodeUp