LLaMA & Ollama for Local AI Systems (Paperback)

Name: LLaMA & Ollama for Local AI Systems (Paperback)
Author: Devlin Nexley
ISBN: 9788667492949

Devlin Nexley

Sprache: Englisch

Verlag: Devlin Nexley, 2026

8667492949 / 9788667492949

Softcover
Neu

Alle Details anzeigen

Anbieter: AussieBookSeller, Truganina, VIC, AustralienAussieBookSeller

Verkäufer/-in mit 5 Sternen

Verkäufer:in bei AbeBooks seit 22. Juni 2007

Artikel dieses Verkäufers ansehen

Softcover

Zustand: Neu

EUR 40,84

EUR 32,94 Versand

Versand von Australien nach USA

Anzahl: 1 verfügbar

In den Warenkorb

30 Tage kostenlose Rückgabe

Für später vormerkenEin Kaufgesuch für ähnliche Artikel erstellen

Artikelbeschreibung des Verkäufers

Paperback. Modern large language models are no longer confined to centralized cloud APIs. Advances in open-weight models, quantization, GPU acceleration, and local inference runtimes have made it possible to design AI systems that execute directly on developer workstations, private infrastructure, edge devices, and enterprise environments.LLaMA and Ollama in Production AI Systems examines the architecture behind this local AI stack, connecting the foundation-model layer represented by LLaMA with the runtime and inference layer provided by Ollama. Rather than treating local AI as a collection of command-line tools, the book approaches it as a systems-engineering problem involving model execution, memory, compute, APIs, deployment, observability, security, and operational trade-offs.The book explores how LLaMA-class transformer models are represented and executed, how Ollama manages local model execution, and how quantization and model packaging affect memory consumption, throughput, latency, and output quality. It examines the inference pipeline from tokenization and context processing through KV-cache management, sampling, streaming generation, and hardware acceleration.It also moves beyond single-machine experimentation into application and infrastructure architecture. You will examine local inference APIs, model routing, retrieval-augmented generation, tool-using applications, agentic workflows, hybrid local-cloud architectures, and deployment patterns for environments where privacy, latency, cost, availability, or data sovereignty influence where inference should occur.The book also addresses the operational realities that emerge when LLM inference becomes part of a production system: resource contention, model lifecycle management, observability, performance measurement, security boundaries, failure handling, capacity planning, and multi-node deployment.What You Will ExploreLLaMA model architecture and its role in the local LLM ecosystemOllama's runtime and model-execution architectureThe lifecycle of a local inference requestModel packaging, configuration, and runtime parametersGGUF and quantized model executionMemory requirements, KV caches, context windows, and token generationCPU, GPU, and hybrid inference trade-offsOllama's API layer and application integration patternsModel routing and multi-model local inferenceRetrieval-augmented generation with locally hosted modelsTool-using and agentic AI architecturesLocal-first application designHybrid local and cloud inference architecturesObservability and performance engineering for LLM workloadsSecurity, isolation, and data-governance considerationsEdge, on-premises, workstation, and enterprise deployment patternsCapacity planning and operational strategies for production systemsWho This Book Is ForThis book is intended for software engineers, AI engineers, ML engineers, platform engineers, DevOps and infrastructure professionals, solution architects, and technical leaders who want to understand how local LLM systems are engineered beyond basic model execution.It is particularly suited to readers who need to evaluate or build private AI infrastructure, integrate local inference into existing applications, design hybrid AI platforms, or understand the engineering consequences of moving LLM inference from centralized APIs to infrastructure they control.The goal is not simply to show how to run a model locally. It is to explain how the model, runtime, hardware, application, and infrastructure layers fit together-and how those layers behave when local LLM inference becomes a production engineering concern. Advances in open-w Shipping may be from our Sydney, NSW warehouse or from our UK or US warehouse, depending on stock availability. …

Bestandsnummer des Verkäufers 9788667492949

Verkäufer zu diesem Artikel kontaktieren

Diesen Artikel melden

Titel: LLaMA & Ollama for Local AI Systems (Paperback)
Autor: Devlin Nexley
Verlag: Devlin Nexley
Erscheinungsjahr: 2026
Zustand: new
Einband: Paperback
Sprache: Englisch
ISBN-10: 8667492949
ISBN-13: 9788667492949

Modern large language models are no longer confined to centralized cloud APIs. Advances in open-weight models, quantization, GPU acceleration, and local inference runtimes have made it possible to design AI systems that execute directly on developer workstations, private infrastructure, edge devices, and enterprise environments. LLaMA and Ollama in Production AI Systems examines the architecture behind this local AI stack, connecting the foundation-model layer represented by LLaMA with the runtime and inference layer provided by Ollama. Rather than treating local AI as a collection of command-line tools, the book approaches it as a systems-engineering problem involving model execution, memory, compute, APIs, deployment, observability, security, and operational trade-offs. The book explores how LLaMA-class transformer models are represented and executed, how Ollama manages local model execution, and how quantization and model packaging affect memory consumption, throughput, latency, and output quality. It examines the inference pipeline from tokenization and context processing through KV-cache management, sampling, streaming generation, and hardware acceleration. It also moves beyond single-machine experimentation into application and infrastructure architecture. You will examine local inference APIs, model routing, retrieval-augmented generation, tool-using applications, agentic workflows, hybrid local-cloud architectures, and deployment patterns for environments where privacy, latency, cost, availability, or data sovereignty influence where inference should occur. The book also addresses the operational realities that emerge when LLM inference becomes part of a production system: resource contention, model lifecycle management, observability, performance measurement, security boundaries, failure handling, capacity planning, and multi-node deployment. What You Will Explore LLaMA model architecture and its role in the local LLM ecosystem Ollama's runtime and model-execution architecture The lifecycle of a local inference request Model packaging, configuration, and runtime parameters GGUF and quantized model execution Memory requirements, KV caches, context windows, and token generation CPU, GPU, and hybrid inference trade-offs Ollama's API layer and application integration patterns Model routing and multi-model local inference Retrieval-augmented generation with locally hosted models Tool-using and agentic AI architectures Local-first application design Hybrid local and cloud inference architectures Observability and performance engineering for LLM workloads Security, isolation, and data-governance considerations Edge, on-premises, workstation, and enterprise deployment patterns Capacity planning and operational strategies for production systems Who This Book Is For This book is intended for software engineers, AI engineers, ML engineers, platform engineers, DevOps and infrastructure professionals, solution architects, and technical leaders who want to understand how local LLM systems are engineered beyond basic model execution. It is particularly suited to readers who need to evaluate or build private AI infrastructure, integrate local inference into existing applications, design hybrid AI platforms, or understand the engineering consequences of moving LLM inference from centralized APIs to infrastructure they control. The goal is not simply to show how to run a model locally. It is to explain how the model, runtime, hardware, application, and infrastructure layers fit together-and how those layers behave when local LLM inference becomes a production engineering concern.

„Inhaltsangabe“ gehört möglicherweise zu einer anderen Auflage dieses Titels.

AussieBookSeller

Truganina, VIC, Australien

Verkäufer/-in mit 5 Sternen

Verkäufer:in bei AbeBooks seit 22. Juni 2007

Versandkosten von Australien nach USA

Artikel	25 bis 45 Werktage	8 bis 14 Werktage
Erster Artikel	EUR 32,94	EUR 39,17

Die Versandzeiten werden von den Verkäuferinnen und Verkäufern festgelegt. Sie variieren je nach Versanddienstleister und Standort. Sendungen, die den Zoll passieren, können Verzögerungen unterliegen. Eventuell anfallende Abgaben oder Gebühren sind von der Käuferin bzw. dem Käufer zu tragen. Die Verkäuferin bzw. der Verkäufer kann Sie bezüglich zusätzlicher Versandkosten kontaktieren, um einen möglichen Anstieg der Versandkosten für Ihre Artikel auszugleichen.

Zahlungsarten

Unternehmensdaten der Verkäuferin bzw. des Verkäufers

The Nile Group Pty Ltd

42 Apex Drive
Truganina, VIC Australien 3029

Verkäufer/-in kontaktierenArtikel dieser Verkäuferin bzw. dieses Verkäufers anzeigenHomepage des Verkäufers anzeigen

Verkaufsbedingungen

We guarantee the condition of every book as it's described on the Abebooks web sites. If you're dissatisfied with your purchase (Incorrect Book/Not as Described/Damaged) or if the order hasn't arrived, you're eligible for a refund within 30 days of the estimated delivery date. If you've changed your mind about a book that you've ordered, please use the Ask bookseller a question link to contact us and we'll respond within 2 business days.

Widerrufsrecht

Wenn Sie Verbraucher sind, können Sie gemäß den folgenden Bestimmungen vom Vertrag zurücktreten. Verbraucher ist jede natürliche Person, die zu Zwecken handelt, die nicht ihrer kaufmännischen, gewerblichen, künstlerischen oder beruflichen Tätigkeit zugerechnet werden können.

Informationen zum Widerrufsrecht

Gesetzliches Widerrufsrecht

Sie haben das Recht, den Vertrag innerhalb von 14 Tagen ohne Angabe von Gründen zu widerrufen.

Die Widerrufsfrist beträgt 14 Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Transporteur ist, die letzte Ware oder den letzten Posten oder das letzte Exemplar in Besitz genommen hat.

Um das Widerrufsrecht auszuüben, füllen Sie auf unserer Website unter „Meine Einkäufe" in „Mein Nutzerkonto" eine eindeutige Erklärung elektronisch aus und senden Sie sie ab. Wir werden Ihnen unverzüglich eine Bestätigung über den Eingang eines solchen Widerrufs auf einem dauerhaften Datenträger (z. B. per E-Mail) übermitteln.

Um die Widerrufsfrist einzuhalten, reicht es aus, dass Sie Ihre Mitteilung über die Ausübung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.

Auswirkungen des Widerrufs

Wenn Sie diesen Vertrag widerrufen, erstatten wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschließlich der Lieferkosten (mit Ausnahme der zusätzlichen Kosten, die entstehen, wenn Sie eine andere Art der Lieferung als die von uns angebotene günstigste Standardlieferung gewählt haben).

Wir können einen Abzug von der Rückerstattung für den Wertverlust der gelieferten Waren vornehmen, wenn der Verlust auf eine unnötige Behandlung durch Sie zurückzuführen ist.

Wir werden die Rückerstattung unverzüglich und nicht später als 14 Tage nach dem Tag vornehmen, an dem wir über Ihre Entscheidung, diesen Vertrag zu widerrufen, informiert wurden.

Für die Rückerstattung verwenden wir dasselbe Zahlungsmittel, das Sie für die ursprüngliche Transaktion verwendet haben, es sei denn, Sie haben ausdrücklich etwas anderes vereinbart; in keinem Fall werden Ihnen aufgrund einer solchen Rückerstattung Gebühren berechnet.

Wir können die Rückzahlung verweigern, bis wir die Waren wieder zurückerhalten haben oder Sie den Nachweis erbracht haben, dass Sie die Waren zurückgesandt haben, je nachdem, was eher eintritt.

Sie müssen die Waren unverzüglich und in jedem Fall spätestens 14 Tage ab dem Tag, an dem Sie uns über den Widerruf dieses Vertrags unterrichten, an AussieBookSeller, Truganina, Victoria, Australia, zurücksenden oder übergeben. Die Frist ist eingehalten, wenn Sie die Ware vor Ablauf der Frist von 14 Tagen zurücksenden. Sie müssen die direkten Kosten der Rücksendung der Waren tragen. Sie haften nur für einen etwaigen Wertverlust der Waren, der auf eine Behandlung zurückzuführen ist, die nicht zur Prüfung der Art, Eigenschaften und Funktionsweise der Waren erforderlich ist.

Ausnahmen vom Widerrufsrecht

Das Widerrufsrecht gilt nicht für:

Die Lieferung von Zeitungen, Zeitschriften oder Magazinen mit Ausnahme von Abonnementverträgen; und
Die Lieferung digitaler Inhalte, die nicht auf einem physischen Medium (z. B. auf einer CD oder DVD) geliefert werden, wenn Sie bei Ihrer Bestellung akzeptiert haben, dass wir mit der Lieferung beginnen können und dass Sie nach Beginn der Lieferung den Vertrag nicht mehr widerrufen können.

Versandbedingungen

Please note that titles are dispatched from our UK and NZ warehouse. Delivery times specified in shipping terms. Orders ship within 2 business days. Delivery to your door then takes 8-15 days.