Crear un modelo desde GGUF

POST

http://localhost:11434/api/create

Cree un modelo a partir de un archivo GGUF. El parámetro files debe incluir el nombre del archivo y el resumen SHA256 del archivo GGUF que desea utilizar. Utilice /api/blobs/:digest para enviar el archivo GGUF al servidor antes de llamar a esta API.

Request

Body Params application/json

Examples

Responses

🟢200Success

application/json

A stream of JSON objects is returned:

Body

Request Example

Shell

JavaScript

Java

Swift

curl --location --request POST 'http://localhost:11434/api/create' \
--header 'Content-Type: application/json' \
--data-raw '{
    "model": "llama-2-7b-chat",
    "files": {
        "test.gguf": "sha256:9f86d081884c7d659a2feaa0c55ad015a3bf4f1b2b0b822cd15d6c15b0f00a08"
    }
}'

Response Example

{"status":"parsing GGUF"}
{"status":"using existing layer sha256:432f310a77f4650a88d0fd59ecdd7cebed8d684bafea53cbff0473542964f0c3"}
{"status":"writing manifest"}
{"status":"success"}

Modified at 2025-03-28 02:46:45

Cuantizar un modelo

Crear un modelo desde un directorio de Safetensors