AIToolLabHub.org

Calculadora · Busca IA · Seleção · Grátis · Preços · Comparativo · Ofertas · Ranking · Skills · English GGUF é o formato de arquivo que o llama.cpp usa, e as letras depois do nome de um modelo dizem quanta precisão foi descartada para deixá-lo menor. Q4_K_M, Q5_K_M, Q8_0 e o resto não são marcas: descrevem um método de quantização e um tamanho-alvo. Este guia explica o que os rótulos significam, qual é o trade-off e como escolher um que caiba na sua máquina. Não é um benchmark. Os números abaixo vêm da documentação de quantização do llama.cpp, que lista bits por peso e tamanhos de arquivo para o Llama 3.1 8B. Eles foram conferidos em 29 de outubro de 2026. Seu modelo e suas tarefas podem se comportar de forma diferente. O que a quantização faz Um modelo é um conjunto enorme de pesos, normalmente armazenados com precisão de 16 ou 32 bits. A quantização armazena esses pesos com menos bits: 8, 6, 5, 4, 3 ou at...

Calculadora · Busca IA · Seleção · Grátis · Preços · Comparativo · Ofertas · Ranking · Skills · English O Ollama é um programa de linha de comando, não um app de chat. Você pede um modelo, ele baixa e executa, e o mesmo processo expõe uma API local. Estes são os comandos que vale a pena aprender primeiro; tudo abaixo foi conferido na documentação de CLI, API e Modelfile do Ollama em 29 de outubro de 2026. Os comandos de relance Comando O que faz Exemplo ollama run <model> Baixa o modelo se ele estiver faltando e abre um chat no terminal. ollama run gemma4 ollama pull <model> Baixa ou atualiza um modelo sem executá-lo. ollama pull gemma4 ollama ls Lista os modelos armazenados nesta máquina. ollama ls ollama ps Mostra os modelos carregados ou em execução agora. ollama ps ollama stop <model> Para um modelo em execução. ollama stop gemma4 ollama rm ...

Rechner · KI-Suche · Auswahl · Gratis · Preise · Vergleich · Angebote · Ranking · Skills · English GGUF ist das Dateiformat, das llama.cpp verwendet, und die Buchstaben nach einem Modellnamen sagen, wie viel Präzision weggelassen wurde, um die Datei kleiner zu machen. Q4_K_M, Q5_K_M, Q8_0 und der Rest sind keine Markennamen: Sie beschreiben eine Quantisierungsmethode und eine Zielgröße. Dieser Leitfaden erklärt, was die Bezeichnungen bedeuten, was der Kompromiss ist und wie Sie eine Variante wählen, die auf Ihre Maschine passt. Es ist kein Benchmark. Die Zahlen unten stammen aus der Quantisierungsdokumentation von llama.cpp, die Bits pro Gewicht und Dateigrößen für Llama 3.1 8B auflistet. Sie wurden am 29. Oktober 2026 geprüft. Ihr Modell und Ihre Aufgaben können sich anders verhalten. Was Quantisierung tut Ein Modell ist eine große Menge von Gewichten, normalerweise mit 16 oder 32 Bit Präzision gespeichert...

Rechner · KI-Suche · Auswahl · Gratis · Preise · Vergleich · Angebote · Ranking · Skills · English Ollama ist ein Kommandozeilenprogramm, keine Chat-App. Sie fragen es nach einem Modell, es lädt es herunter und führt es aus, und derselbe Prozess stellt eine lokale API bereit. Das sind die Befehle, die Sie zuerst lernen sollten; alles Folgende wurde am 29. Oktober 2026 mit der CLI-, API- und Modelfile-Dokumentation von Ollama abgeglichen. Die Befehle auf einen Blick Befehl Was er tut Beispiel ollama run <model> Lädt das Modell herunter, falls es fehlt, und öffnet einen Chat im Terminal. ollama run gemma4 ollama pull <model> Lädt ein Modell herunter oder aktualisiert es, ohne es zu starten. ollama pull gemma4 ollama ls Listet die auf dieser Maschine gespeicherten Modelle auf. ollama ls ollama ps Zeigt die Modelle, die gerade geladen sind oder laufen. ollama ps ...

Calculateur · Recherche IA · Sélection · Gratuit · Tarifs · Comparatif · Offres · Classement · Skills · English GGUF est le format de fichier utilisé par llama.cpp, et les lettres qui suivent le nom d'un modèle indiquent quelle précision a été sacrifiée pour le rendre plus petit. Q4_K_M, Q5_K_M, Q8_0 et les autres ne sont pas des marques : ils décrivent une méthode de quantification et une taille cible. Ce guide explique ce que signifient les étiquettes, quel est le compromis et comment en choisir une qui tient sur votre machine. Ce n'est pas un benchmark. Les chiffres ci-dessous viennent de la documentation de quantification de llama.cpp, qui liste les bits par poids et les tailles de fichier pour Llama 3.1 8B. Ils ont été vérifiés le 29 octobre 2026. Votre modèle et vos tâches peuvent se comporter différemment. Ce que fait la quantification Un modèle est un grand ensemble de poids, normalement stockés en ...

Calculateur · Recherche IA · Sélection · Gratuit · Tarifs · Comparatif · Offres · Classement · Skills · English Ollama est un programme en ligne de commande, pas une application de chat. Vous lui demandez un modèle, il le télécharge et l'exécute, et le même processus expose une API locale. Voici les commandes à apprendre en premier ; tout ce qui suit a été vérifié dans la documentation CLI, API et Modelfile d'Ollama le 29 octobre 2026. Les commandes en un coup d'œil Commande Ce qu'elle fait Exemple ollama run <model> Télécharge le modèle s'il manque et ouvre un chat dans le terminal. ollama run gemma4 ollama pull <model> Télécharge ou met à jour un modèle sans l'exécuter. ollama pull gemma4 ollama ls Liste les modèles stockés sur cette machine. ollama ls ollama ps Affiche les modèles actuellement chargés ou en cours d'exécution. ollama ps ollama stop <mode...

Inicio · Calculadora · Buscador IA · Mejores · Gratis · Precios · Comparativa · Ofertas · Ranking · Skills · English Ollama es un programa de línea de comandos, no una app de chat. Le pides un modelo, lo descarga y lo ejecuta, y el mismo proceso expone una API local. Estos son los comandos que conviene aprender primero; todo lo que sigue se comprobó con la documentación de CLI, API y Modelfile de Ollama el 29 de octubre de 2026. Los comandos de un vistazo Comando Qué hace Ejemplo ollama run <model> Descarga el modelo si falta y abre un chat en el terminal. ollama run gemma4 ollama pull <model> Descarga o actualiza un modelo sin ejecutarlo. ollama pull gemma4 ollama ls Lista los modelos guardados en esta máquina. ollama ls ollama ps Muestra los modelos cargados o en ejecución ahora mismo. ollama ps ollama stop <model> Detiene un modelo en ejecuci...

Inicio · Calculadora · Buscador IA · Mejores · Gratis · Precios · Comparativa · Ofertas · Ranking · Skills · English GGUF es el formato de archivo que usa llama.cpp, y las letras que siguen al nombre de un modelo indican cuánta precisión se descartó para hacerlo más pequeño. Q4_K_M, Q5_K_M, Q8_0 y el resto no son marcas: describen un método de cuantización y un tamaño objetivo. Esta guía explica qué significan las etiquetas, cuál es el intercambio y cómo elegir una que encaje en tu máquina. No es un benchmark. Las cifras de abajo salen de la propia documentación de cuantización de llama.cpp, que lista bits por peso y tamaños de archivo para Llama 3.1 8B. Se comprobaron el 29 de octubre de 2026. Tu modelo y tus tareas pueden comportarse de forma distinta. Qué hace la cuantización Un modelo es un conjunto enorme de pesos, normalmente guardados con precisión de 16 o 32 bits. La cuantización guarda esos...

GGUF is the file format llama.cpp uses, and the letters after a model name tell you how much precision was thrown away to make it smaller. Q4_K_M, Q5_K_M, Q8_0 and the rest are not brand names: they describe a quantisation method and a target size. This guide explains what the labels mean, what the trade-off is, and how to pick one that fits your machine. It is not a benchmark. The numbers below come from llama.cpp's own quantisation documentation, which lists bits per weight and file sizes for Llama 3.1 8B. They were checked on 29 October 2026. Your model and your tasks may behave differently. What quantisation does A model is a large set of weights, normally stored at 16-bit or 32-bit precision. Quantisation stores those weights with fewer bits: 8, 6, 5, 4, 3 or even 2. The file gets smaller and usually needs less memory, which is how a model that would not fit on your GPU can suddenly run on it. The cost is accuracy. llama.cpp's documentation says quantisation ...