Managing Production Large Language Models: Playbook for Designing, Deploying, and Operating LLM at Scale and Machine Learning FinOps Blueprints (Enterprise Machine Learning Operations)
Sprache: Englisch
Verlag: Cybersoft Publishing LLc, 2026
Serie: Buch 2 von 4 - Enterprise Machine Learning Operations
- Softcover
- Neu
Anbieter: California Books, Miami, FL, USACalifornia Books
AbeBooks-Verkäufer/-in seit 27. Oktober 2023
Zustand: Neu
EUR 30,16
Anzahl: Mehr als 20 verfügbar
In den WarenkorbBestandsnummer des Verkäufers I-9798904980153
- Titel
- Managing Production Large Language Models: Playbook for Designing, Deploying, and Operating LLM at Scale and Machine Learning FinOps Blueprints (Enterprise Machine Learning Operations)
- Autor
- O'Neal, Jordan
- Verlag
- Cybersoft Publishing LLc
- Veröffentlichungsjahr
- 2026
- Zustand
- New
- Einband
- Softcover
- Sprache
- Englisch
- ISBN-13
- 9798904980153
- Serie
- Buch 2 von 4: Enterprise Machine Learning Operations
Large language models fail in production in ways no load test anticipates. A retrieval-augmented pipeline answers confidently with fabricated citations when the vector index drifts. An agent loop burns a month of API budget in forty minutes because one tool call returned an unexpected schema. A prompt that cleared every red-team review gets hijacked by a malicious document in the first week of real traffic. Latency spikes vanish with no correlated metric because the KV cache was sized for a context window half as long as users actually send. These are the predictable failure modes of LLM systems, and teams that ship reliable LLM features design against them with patterns that hold across models, vendors, and inference frameworks.
Inside this book, readers will learn how to:
- Operate LLMs in production with the reliability, cost discipline, and observability the rest of the stack already expects.
- Select and size models using a structured framework that weighs capability, latency, cost, and compliance before the first token is generated.
- Choose between fine-tuning and prompting applying LoRA, PEFT, and instruction-tuning where they outperform prompt engineering and recognizing when they do not.
- Serve LLMs at scale with continuous batching, paged attention, and KV cache management to maximize throughput and meet latency SLOs.
- Engineer LLM costs through semantic caching, model tiering, and FinOps practices that keep inference spend predictable as usage grows.
- Defend against prompt injection and detect hallucinations using layered input validation, output verification, and guardrails that hold under adversarial conditions.
- Instrument LLM systems for observability capturing reasoning traces, semantic drift signals, and metrics that distinguish a degraded model from a degraded pipeline.
- Drive quality with eval-driven development building replay harnesses, canary deployments, and evaluation gates so every model update ships with a known risk profile.
- Build production RAG and agent systems with retrieval quality metrics, tool-call guardrails, and loop termination policies that keep costs bounded.
- Navigate compliance obligations including the EU AI Act and sector-specific rules without stalling LLM feature delivery.
The book is organized in four parts: Foundations covers the LLM landscape, model selection, and adaptation patterns; Adaptation and Serving addresses fine-tuning, serving architectures, and cost engineering; Production Concerns covers safety, compliance, observability, and LLM CI/CD; and Frontier Patterns and Case Studies applies all prior material to RAG, agentic systems, and tool-using LLMs, closing with end-to-end reference architectures.
Written for ML architects, ML and LLM engineers, and technical leads, with platform and SRE engineers as a strong secondary audience. Every chapter opens with a production incident, teaches canonical patterns by name, and closes with a checklist the team can apply the same day. Readers finish with the vocabulary, playbook, and pattern library to ship reliable LLM features with confidence.
„Inhaltsangabe“ gehört möglicherweise zu einer anderen Auflage dieses Titels.
California Books
Miami, FL, USA
AbeBooks-Verkäufer/-in seit 27. Oktober 2023
Versandkosten innerhalb von USA
| Artikel | 3 bis 7 Werktage | 2 bis 5 Werktage |
|---|---|---|
| Erster Artikel | EUR 0,00 | EUR 10,33 |
Zahlungsarten
Shop-Beschreibung
Spezialisierung
All authorized categoriesUnternehmensdaten der Verkäuferin bzw. des Verkäufers
Miramar International Services LLC
Widerrufsrecht
Wenn Sie Verbraucher sind, können Sie gemäß den folgenden Bestimmungen vom Vertrag zurücktreten. Verbraucher ist jede natürliche Person, die zu Zwecken handelt, die nicht ihrer kaufmännischen, gewerblichen, künstlerischen oder beruflichen Tätigkeit zugerechnet werden können.
Informationen zum Widerrufsrecht
Gesetzliches Widerrufsrecht
Sie haben das Recht, den Vertrag innerhalb von 14 Tagen ohne Angabe von Gründen zu widerrufen.
Die Widerrufsfrist beträgt 14 Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Transporteur ist, die letzte Ware oder den letzten Posten oder das letzte Exemplar in Besitz genommen hat.
Um das Widerrufsrecht auszuüben, füllen Sie auf unserer Website unter „Meine Einkäufe" in „Mein Nutzerkonto" eine eindeutige Erklärung elektronisch aus und senden Sie sie ab. Wir werden Ihnen unverzüglich eine Bestätigung über den Eingang eines solchen Widerrufs auf einem dauerhaften Datenträger (z. B. per E-Mail) übermitteln.
Um die Widerrufsfrist einzuhalten, reicht es aus, dass Sie Ihre Mitteilung über die Ausübung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.
Auswirkungen des Widerrufs
Wenn Sie diesen Vertrag widerrufen, erstatten wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschließlich der Lieferkosten (mit Ausnahme der zusätzlichen Kosten, die entstehen, wenn Sie eine andere Art der Lieferung als die von uns angebotene günstigste Standardlieferung gewählt haben).
Wir können einen Abzug von der Rückerstattung für den Wertverlust der gelieferten Waren vornehmen, wenn der Verlust auf eine unnötige Behandlung durch Sie zurückzuführen ist.
Wir werden die Rückerstattung unverzüglich und nicht später als 14 Tage nach dem Tag vornehmen, an dem wir über Ihre Entscheidung, diesen Vertrag zu widerrufen, informiert wurden.
Für die Rückerstattung verwenden wir dasselbe Zahlungsmittel, das Sie für die ursprüngliche Transaktion verwendet haben, es sei denn, Sie haben ausdrücklich etwas anderes vereinbart; in keinem Fall werden Ihnen aufgrund einer solchen Rückerstattung Gebühren berechnet.
Wir können die Rückzahlung verweigern, bis wir die Waren wieder zurückerhalten haben oder Sie den Nachweis erbracht haben, dass Sie die Waren zurückgesandt haben, je nachdem, was eher eintritt.
Sie müssen die Waren unverzüglich und in jedem Fall spätestens 14 Tage ab dem Tag, an dem Sie uns über den Widerruf dieses Vertrags unterrichten, an California Books, Fort Wayne, Indiana, U.S.A., zurücksenden oder übergeben. Die Frist ist eingehalten, wenn Sie die Ware vor Ablauf der Frist von 14 Tagen zurücksenden. Sie müssen die direkten Kosten der Rücksendung der Waren tragen. Sie haften nur für einen etwaigen Wertverlust der Waren, der auf eine Behandlung zurückzuführen ist, die nicht zur Prüfung der Art, Eigenschaften und Funktionsweise der Waren erforderlich ist.
Ausnahmen vom Widerrufsrecht
Das Widerrufsrecht gilt nicht für:
- Die Lieferung von Zeitungen, Zeitschriften oder Magazinen mit Ausnahme von Abonnementverträgen; und
- Die Lieferung digitaler Inhalte, die nicht auf einem physischen Medium (z. B. auf einer CD oder DVD) geliefert werden, wenn Sie bei Ihrer Bestellung akzeptiert haben, dass wir mit der Lieferung beginnen können und dass Sie nach Beginn der Lieferung den Vertrag nicht mehr widerrufen können.