LLM Evaluation & AI Quality Engineering: Measure, Regression-Test, Release, and Monitor LLM, RAG, and Agent Systems with Python (QA Testing)
Sprache: Englisch
Verlag: Independently published, 2026
Serie: Buch 7 von 7 - QA Testing
- Softcover
- Neu

Anbieter: California Books, Miami, FL, USACalifornia Books
Verkäufer:in bei AbeBooks seit 27. Oktober 2023
Zustand: Neu
EUR 31,19
Anzahl: Mehr als 20 verfügbar
In den WarenkorbArtikelbeschreibung des Verkäufers
Print on Demand.
Bestandsnummer des Verkäufers I-9798161271766
- Titel
- LLM Evaluation & AI Quality Engineering: Measure, Regression-Test, Release, and Monitor LLM, RAG, and Agent Systems with Python (QA Testing)
- Autor
- Corvick, Braylen; Mondal, Masud
- Verlag
- Independently published
- Erscheinungsjahr
- 2026
- Zustand
- New
- Einband
- Softcover
- Sprache
- Englisch
- ISBN-13
- 9798161271766
- Serie
- Buch 7 von 7: QA Testing
Most teams "evaluate" an LLM application by eyeballing a few outputs or trusting one dashboard score. Then a prompt tweak, a model upgrade or a retrieval change quietly breaks production. LLM Evaluation & AI Quality Engineering shows you a better way: AI quality is an engineering lifecycle, not a single evaluation score. You will learn to Define, Measure, Evaluate, Diagnose, Improve, Regression Test, Release, Monitor and Learn, and to treat every measurement as evidence, not truth.
What you will build and learn
- A vendor-neutral Python evaluation package you own, backed by a free public companion repository with 119 automated tests
- Quality objectives, golden datasets, error analysis and failure taxonomies
- Deterministic code evaluators, metrics and rubrics, human annotation with Cohen's kappa and Krippendorff's alpha
- LLM-as-a-judge evaluators you have actually validated, with TPR/TNR meta-evaluation
- Statistics for non-deterministic systems: Wilson confidence intervals, bootstrap, McNemar paired comparison, sample size, pass@k and pass^k
- RAG evaluation: recall@k, precision@k, MRR, nDCG, groundedness, citation validity and retrieval-vs-generation attribution
- AI agent evaluation: sandboxed outcome checks, trajectory and tool-use evaluation, reliability
- Safety and red teaming: prompt injection, canaries, refusal and over-refusal, mapped to the OWASP Top 10 for LLM Applications 2025
- Evaluation-driven development, regression suites for model migration, and cost, latency and reliability trade-offs
- AI quality gates in CI/CD with GitHub Actions, and production observability with OpenTelemetry GenAI semantic conventions, drift detection and triage
Who this book is for
QA engineers, SDETs and test leads moving into AI quality; AI/ML engineers who own LLM, RAG or agent features; and technical leads who sign off AI releases. You need intermediate Python, basic pytest and Git.
Why this book is different
Written by a software QA professional, it turns evaluation results into release decisions you can defend. DeepEval, Ragas, Inspect AI, Arize Phoenix, MLflow, Langfuse, LangSmith and Promptfoo are compared fairly, but you are never locked into a vendor. The final part shows how to run an AI quality engineering programme: RACI, release sign-off, a maturity model, and a practical mapping to NIST AI RMF and ISO/IEC 42001.
23 chapters, 5 parts, 21 figures, 24 tables and 10 appendices. Part of the author's AI Quality Engineering series. Pair it with AI Testing with Python for foundations and RAG in Production for building the systems you will evaluate.
„Inhaltsangabe“ gehört möglicherweise zu einer anderen Auflage dieses Titels.
California Books
Miami, FL, USA
Verkäufer:in bei AbeBooks seit 27. Oktober 2023
Versandkosten innerhalb von USA
| Artikel | 3 bis 7 Werktage | 2 bis 5 Werktage |
|---|---|---|
| Erster Artikel | EUR 0,00 | EUR 10,69 |
Zahlungsarten
Shopbeschreibung
We have 20 years experience selling books worldwide! Friendly customer support. Your satisfaction guaranteed!
Spezialisierung
All authorized categoriesUnternehmensdaten der Verkäuferin bzw. des Verkäufers
Miramar International Services LLC
FL, USA
Widerrufsrecht
Wenn Sie Verbraucher sind, können Sie gemäß den folgenden Bestimmungen vom Vertrag zurücktreten. Verbraucher ist jede natürliche Person, die zu Zwecken handelt, die nicht ihrer kaufmännischen, gewerblichen, künstlerischen oder beruflichen Tätigkeit zugerechnet werden können.
Informationen zum Widerrufsrecht
Gesetzliches Widerrufsrecht
Sie haben das Recht, den Vertrag innerhalb von 14 Tagen ohne Angabe von Gründen zu widerrufen.
Die Widerrufsfrist beträgt 14 Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Transporteur ist, die letzte Ware oder den letzten Posten oder das letzte Exemplar in Besitz genommen hat.
Um das Widerrufsrecht auszuüben, füllen Sie auf unserer Website unter „Meine Einkäufe" in „Mein Nutzerkonto" eine eindeutige Erklärung elektronisch aus und senden Sie sie ab. Wir werden Ihnen unverzüglich eine Bestätigung über den Eingang eines solchen Widerrufs auf einem dauerhaften Datenträger (z. B. per E-Mail) übermitteln.
Um die Widerrufsfrist einzuhalten, reicht es aus, dass Sie Ihre Mitteilung über die Ausübung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.
Auswirkungen des Widerrufs
Wenn Sie diesen Vertrag widerrufen, erstatten wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschließlich der Lieferkosten (mit Ausnahme der zusätzlichen Kosten, die entstehen, wenn Sie eine andere Art der Lieferung als die von uns angebotene günstigste Standardlieferung gewählt haben).
Wir können einen Abzug von der Rückerstattung für den Wertverlust der gelieferten Waren vornehmen, wenn der Verlust auf eine unnötige Behandlung durch Sie zurückzuführen ist.
Wir werden die Rückerstattung unverzüglich und nicht später als 14 Tage nach dem Tag vornehmen, an dem wir über Ihre Entscheidung, diesen Vertrag zu widerrufen, informiert wurden.
Für die Rückerstattung verwenden wir dasselbe Zahlungsmittel, das Sie für die ursprüngliche Transaktion verwendet haben, es sei denn, Sie haben ausdrücklich etwas anderes vereinbart; in keinem Fall werden Ihnen aufgrund einer solchen Rückerstattung Gebühren berechnet.
Wir können die Rückzahlung verweigern, bis wir die Waren wieder zurückerhalten haben oder Sie den Nachweis erbracht haben, dass Sie die Waren zurückgesandt haben, je nachdem, was eher eintritt.
Sie müssen die Waren unverzüglich und in jedem Fall spätestens 14 Tage ab dem Tag, an dem Sie uns über den Widerruf dieses Vertrags unterrichten, an California Books, Fort Wayne, Indiana, U.S.A., zurücksenden oder übergeben. Die Frist ist eingehalten, wenn Sie die Ware vor Ablauf der Frist von 14 Tagen zurücksenden. Sie müssen die direkten Kosten der Rücksendung der Waren tragen. Sie haften nur für einen etwaigen Wertverlust der Waren, der auf eine Behandlung zurückzuführen ist, die nicht zur Prüfung der Art, Eigenschaften und Funktionsweise der Waren erforderlich ist.
Ausnahmen vom Widerrufsrecht
Das Widerrufsrecht gilt nicht für:
- Die Lieferung von Zeitungen, Zeitschriften oder Magazinen mit Ausnahme von Abonnementverträgen; und
- Die Lieferung digitaler Inhalte, die nicht auf einem physischen Medium (z. B. auf einer CD oder DVD) geliefert werden, wenn Sie bei Ihrer Bestellung akzeptiert haben, dass wir mit der Lieferung beginnen können und dass Sie nach Beginn der Lieferung den Vertrag nicht mehr widerrufen können.