pkg.soopen package index

brew / rang 206

Installer llama.cpp avec Homebrew, dnf, Nix, pacman, apk, MacPorts, winget

Consultez les chemins d'installation, exécutables, métadonnées et notes de sécurité de llama.cpp pour les workflows d'agents IA.

installation

Commandes d'installation supplémentaires

macOS

Homebrewvérifié · 100%
brew install llama.cpp

local Homebrew formula metadata

MacPortsvérifié · 94%
sudo port install llama.cpp

MacPorts ports tree · llm/llama.cpp/Portfile · Source: api.github.com

Linux

Fedora dnfvérifié · 92%
sudo dnf install llama-cpp

Fedora Rawhide package metadata · llama-cpp · Source: dl.fedoraproject.org

Nixvérifié · 92%
nix profile install nixpkgs#llama-cpp

nixpkgs package indexes · pkgs/by-name/ll/llama-cpp/package.nix · Source: api.github.com

Arch Linux pacmanvérifié · 92%
sudo pacman -S llama-cpp

Arch Linux sync databases · llama-cpp · Source: geo.mirror.pkgbuild.com

Alpine Linux apkvérifié · 92%
sudo apk add llama-batched

Alpine Linux edge package indexes · llama-batched · Source: dl-cdn.alpinelinux.org

Windows

Windows Package Managervérifié · 92%
winget install --id ggml.llamacpp -e

Windows Package Manager source index · ggml.llamacpp · Source: cdn.winget.microsoft.com

aperçu

Résumé du paquet

LLM inference in C/C++

Commandes et alias

  • llama
  • llama-batched
  • llama-batched-bench
  • llama-bench
  • llama-cli
  • llama-completion
  • llama-debug
  • llama-diffusion-cli
  • llama-embedding
  • llama-eval-callback
  • llama-finetune
  • llama-fit-params
  • llama-gen-docs
  • llama-gguf
  • llama-gguf-hash
  • llama-gguf-split
  • llama-idle
  • llama-imatrix
  • llama-lookahead
  • llama-lookup
  • llama-lookup-create
  • llama-lookup-merge
  • llama-lookup-stats
  • llama-mtmd-cli
  • llama-parallel
  • llama-passkey
  • llama-perplexity
  • llama-quantize
  • llama-results
  • llama-retrieval
  • llama-server
  • llama-simple

historique

Historique du projet et usages

llama.cpp is one of the defining packages of the local-LLM era: a C/C++ inference stack that made it practical to run quantized transformer models on laptops, desktops, servers, and small devices without a heavyweight Python runtime.

Historique du projet

The repository was created on GitHub on March 10, 2023, shortly after Meta's LLaMA model release changed the center of gravity for local language-model experimentation. The README states the project goal as LLM inference with minimal setup and strong performance across local and cloud hardware.

The project is closely tied to ggml. Its README describes llama.cpp as the main playground for developing new ggml features, and the implementation grew around plain C/C++, integer quantization, CPU backends, and hardware accelerators such as Metal, CUDA, Vulkan, SYCL, HIP, and related GPU paths.

As model support broadened beyond the original LLaMA family, llama.cpp became a runtime and tooling umbrella: converters, quantizers, benchmarking tools, embedding tools, an OpenAI-compatible server, multimodal support, and many model-family loaders are represented in the command set and documentation.

Historique d'adoption

Package adoption spread because llama.cpp lowered the cost of trying local inference: build from source, install from Homebrew, Nix, winget, conda-forge, Docker, or download release binaries, then run a model file or fetch one from Hugging Face-oriented workflows.

The README's bindings list shows the surrounding ecosystem that formed around the C/C++ core, including Python, Go, Node.js, Ruby, browser/Wasm, editor-completion plugins, and server clients. That ecosystem made llama.cpp both an end-user CLI and a library/runtime target for other packages.

Its high-frequency build-tag release pattern reflects active downstream pressure: package managers, bindings, model hubs, and local-AI applications all depend on fast propagation of backend, quantization, and model-format changes.

Modes d'utilisation

Users run llama-cli for local prompts, llama-server for an OpenAI-compatible HTTP API, llama-bench for performance testing, llama-quantize for smaller model files, and many auxiliary tools for embeddings, perplexity, retrieval, tokenization, and model-file manipulation.

The package is especially useful when a developer wants a self-contained inference engine: compile once, point it at a model, and choose a CPU/GPU backend without adopting a full ML framework stack.

Pourquoi les passionnés de paquets s'y intéressent

For package maintainers, llama.cpp is unusually dynamic: hardware backend flags, model-format transitions, CLI renames, bundled tools, and release cadence all matter. It turned local AI into something package managers had to treat like a fast-moving systems tool rather than a single Python application.

It is also a packaging bridge between model hubs and Unix tooling. The same project can be installed as a formula, used as a server daemon, linked by language bindings, wrapped by desktop apps, or embedded in another inference product.

Chronologie

  • 2023: ggml-org/llama.cpp repository created on March 10.
  • 2023: The project manifesto discussion documented goals and direction for the early community.
  • 2024: llama.cpp issue trackers began maintaining separate API changelogs for libllama and llama-server.
  • 2025: Multimodal support reached llama-server through the upstream pull request and documentation referenced from the README.
  • 2026: Homebrew, Nix, winget, conda-forge, Docker, and release binaries were documented installation paths in the upstream README.

Related projects

  • ggml is the closest related project, because llama.cpp is the main development playground for that tensor library.
  • Important downstream and adjacent projects include llama-cpp-python, node-llama-cpp, go-llama.cpp, wllama, llama.vscode, llama.vim, and applications that wrap llama-server's OpenAI-compatible API.

posture de sécurité

Aucune couverture d'outil protégé trouvée pour le moment

Aucun manifest local de gestion des secrets correspondant n'a été trouvé pour llama.cpp. Les métadonnées de paquet restent publiées ici afin que la couverture future dispose d'une URL stable.

Comportement d'installation

  • Aucun hook post-install Homebrew n’est enregistré dans les métadonnées de formule.
  • Les métadonnées de bottle Homebrew sont disponibles pour 6 plateformes.
  • S’installe avec 2 dépendances d’exécution.
  • Les métadonnées de compilation listent 1 dépendances de compilation.

Revue recommandée

Avant une utilisation sans surveillance par un agent, vérifiez si l'outil lit des identifiants en clair, écrit un état distant, publie des artefacts ou lance des plugins.

exécutables

Exécutables installés

CommandeTypeExpositionNote
llamacliexécutable global
llama-batchedcliexécutable global
llama-batched-benchcliexécutable global
llama-benchcliexécutable global
llama-clicliexécutable global
llama-completioncliexécutable global
llama-debugcliexécutable global
llama-diffusion-clicliexécutable global
llama-embeddingcliexécutable global
llama-eval-callbackcliexécutable global
llama-finetunecliexécutable global
llama-fit-paramscliexécutable global
llama-gen-docscliexécutable global
llama-ggufcliexécutable global
llama-gguf-hashcliexécutable global
llama-gguf-splitcliexécutable global
llama-idlecliexécutable global
llama-imatrixcliexécutable global
llama-lookaheadcliexécutable global
llama-lookupcliexécutable global
llama-lookup-createcliexécutable global
llama-lookup-mergecliexécutable global
llama-lookup-statscliexécutable global
llama-mtmd-clicliexécutable global
llama-parallelcliexécutable global
llama-passkeycliexécutable global
llama-perplexitycliexécutable global
llama-quantizecliexécutable global
llama-resultscliexécutable global
llama-retrievalcliexécutable global
llama-servercliexécutable global
llama-simplecliexécutable global
llama-simple-chatcliexécutable global
llama-speculativecliexécutable global
llama-speculative-simplecliexécutable global
llama-tokenizecliexécutable global
llama-ttscliexécutable global

fraîcheur

Version et fraîcheur

Ces signaux séparent l'âge de génération de la page, l'activité du gestionnaire de paquets et la comparaison avec les versions amont. Un retard de version n'est signalé que lorsqu'une URL de preuve et des versions comparables sont présentes.

page générée2026-09-19
version du gestionnaire0.4.1
gestionnaire mis à jour2026-09-18
données localesOK
amontnot checked
dernière version détectéenon détecté

https://github.com/ggml-org/llama.cpp

métadonnées d'installation

Métadonnées du paquet

Clé du paquetbrew:llama.cpp
Version0.4.1
Gestionnaire de paquetsHomebrew
Page du gestionnaire de paquetshttps://formulae.brew.sh/formula/llama.cpp
Page d'accueilhttps://llama.app
Dépôthttps://github.com/ggml-org/llama.cpp
Docs amonthttps://llama.app
LicenceMIT
Archive sourcehttps://github.com/ggml-org/llama.cpp.git
Dernière mise à jour2026-09-18T13:15:15+02:00
Pulseupdated
Dépendancesggml, openssl@3
Dépendances de compilationcmake
Bouteilledisponible (sur arm64_linux, arm64_sequoia, arm64_sonoma, arm64_tahoe, sonoma, x86_64_linux)
post-install Homebrewnon défini
Serviceaucun déclaré

faits du registre

Détails de la base source

Source DatabaseHomebrew formula API
Taphomebrew/core
Full Namellama.cpp
Version Scheme1
Revision0
Head VersionHEAD
Bottle Stable Root URLhttps://ghcr.io/v2/homebrew/core
Deprecatedno
Disabledno
Keg Onlyno
URL Keys
  • head
  • stable

correspondances dans les bases sources

Autres enregistrements de gestionnaires de paquets

Les correspondances proviennent d’index externes de gestionnaires de paquets et restent séparées des liens de paquets Automic Vault locaux.

Nix95%

llama-cpp

nix profile install nixpkgs#llama-cpp
  • normalized package name match
  • Correspondance par : Llama Cpp
nixpkgs package indexes · api.github.com · nixpkgs package indexes: pkgs/by-name/ll/llama-cpp/package.nix from https://api.github.com/repos/NixOS/nixpkgs/git/trees/master?recursive=1
apk95%

llama-batched 0.2.0-r1

llama-batched tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-batched
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-batched from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-batched-bench 0.2.0-r1

llama-batched-bench tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-batched-bench
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-batched-bench from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-completion 0.2.0-r1

llama-completion tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-completion
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-completion from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-debug 0.2.0-r1

llama-debug tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-debug
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-debug from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-diffusion-cli 0.2.0-r1

llama-diffusion-cli tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-diffusion-cli
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-diffusion-cli from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-embedding 0.2.0-r1

llama-embedding tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-embedding
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-embedding from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-eval-callback 0.2.0-r1

llama-eval-callback tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-eval-callback
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-eval-callback from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-finetune 0.2.0-r1

llama-finetune tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-finetune
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-finetune from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-fit-params 0.2.0-r1

llama-fit-params tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-fit-params
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-fit-params from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-gen-docs 0.2.0-r1

llama-gen-docs tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-gen-docs
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-gen-docs from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-gguf 0.2.0-r1

llama-gguf tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-gguf
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-gguf from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-gguf-hash 0.2.0-r1

llama-gguf-hash tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-gguf-hash
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-gguf-hash from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-gguf-split 0.2.0-r1

llama-gguf-split tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-gguf-split
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-gguf-split from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-idle 0.2.0-r1

llama-idle tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-idle
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-idle from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz
apk95%

llama-imatrix 0.2.0-r1

llama-imatrix tool from llama.cpp

https://github.com/ggml-org/llama.cpp

sudo apk add llama-imatrix
  • License: MIT
  • Architecture: x86_64
  • Source Package: llama.cpp
  • 1 Dépendances
  • 1 fournit
  • normalized package name match
  • Correspondance par : Llama Cpp
Alpine Linux edge package indexes · dl-cdn.alpinelinux.org · Alpine Linux edge package indexes: llama-imatrix from https://dl-cdn.alpinelinux.org/alpine/edge/community/x86_64/APKINDEX.tar.gz

piste source

Généré depuis les données du dépôt

Cette page est servie par av-web depuis l'artéfact SQLite privé des paquets généré par scripts/generate-pkg-sqlite.py.

Sources utilisées

  • Geiger risk classifier
  • cross-ecosystem install command graph
  • curated package history
  • external package-manager database matches
  • package relationship graph
  • package version freshness
  • package-page enrichment
  • pkg.so package database
  • pkgdb category and tag curation