Programming Concurrency on GPUs with Rust : Examine, Run, and Measure GPU Workloads Using CUDA, Streams, and Async Pipelines
Sprache: Englisch
Verlag: Gitforgits, 2026
- Softcover
- Neu
Anbieter: AHA-BUCH GmbH, Einbeck, DeutschlandAHA-BUCH GmbH
Verkäufer:in bei AbeBooks seit 14. August 2006
Zustand: Neu
EUR 84,25
Anzahl: 2 verfügbar
In den WarenkorbArtikelbeschreibung des Verkäufers
nach der Bestellung gedruckt Neuware - Printed after ordering - The bottleneck is not your kernel. In fact, it almost never is.After spending enough time in Nsight, the way you read a timeline becomes as intuitive as a mechanic listening to an engine. The same faults keep cropping up, such as a GPU with thousands of cores sitting idle behind a blocking copy, a single default stream or a host thread frozen at a synchronisation point that was never necessary. This book is about identifying that fault early and eliminating it.Designed for programming professionals, this book is written for GPU developers, Rust engineers and AI practitioners who want their devices to be busy, not just correct. Our approach is to stay in pure Rust throughout, using cuda-oxide for SIMT kernels and cutile-rs for the tile model. We also rely heavily on the type system to ensure that data races fail at compile time rather than at 3 AM during production. We will overlap transfers with compute using streams and pinned memory, build a staging ring that pipelines every stage and feed the GPU through Tokio producers with bounded-channel backpressure. Each technique is profiled, verified against a CPU reference and measured.Key LearningsProfile before you optimise, and let Nsight Systems show you who is actually waiting.Write SIMT kernels in pure Rust where data races fail at compile time.Treat default stream as the enemy of overlap, and fork your own.Overlap copies with compute using pinned memory and a staging ring.Reach for reduction ladder instead of atomics when summing on the device.Express element-wise work as tile kernels, and let compiler map the hardware.Keep the GPU fed with Tokio producers and bounded-channel backpressure.Verify every kernel against CPU reference before you trust its timing.Weigh throughput against latency, since tuning for one quietly taxes the other.Know when to stop, because past a point concurrency only adds bookkeeping.Table of ContentRust's Threads, Timing and OwnershipCPU versus GPU ExecutionSIMT Kernels, Blocks and GridsRace-Free Parallel KernelsAsynchronous GPU ExecutionOverlapping Transfers with StreamsTile Programming with cutile-rsAsync GPU Pipelines with TokioThroughput, Latency and BottlenecksTarget AudienceIf you're a programmer looking for a hands-on guide to GPU programming, Rust techniques and AI principles, this book is for you. It's designed to help you make the most of your device's processing power.…
Bestandsnummer des Verkäufers 9788117136058
- Titel
- Programming Concurrency on GPUs with Rust : Examine, Run, and Measure GPU Workloads Using CUDA, Streams, and Async Pipelines
- Autor
- Zyle Kot
- Verlag
- Gitforgits
- Erscheinungsjahr
- 2026
- Zustand
- Neu
- Einband
- Taschenbuch
- Sprache
- Englisch
- ISBN-10
- 8117136058
- ISBN-13
- 9788117136058
- Artikelgewicht
- 316 Gramm
- Abmessungen
- 235x191x9 mm
The bottleneck is not your kernel. In fact, it almost never is.
After spending enough time in Nsight, the way you read a timeline becomes as intuitive as a mechanic listening to an engine. The same faults keep cropping up, such as a GPU with thousands of cores sitting idle behind a blocking copy, a single default stream or a host thread frozen at a synchronisation point that was never necessary. This book is about identifying that fault early and eliminating it.
Designed for programming professionals, this book is written for GPU developers, Rust engineers and AI practitioners who want their devices to be busy, not just correct. Our approach is to stay in pure Rust throughout, using cuda-oxide for SIMT kernels and cutile-rs for the tile model. We also rely heavily on the type system to ensure that data races fail at compile time rather than at 3 AM during production. We will overlap transfers with compute using streams and pinned memory, build a staging ring that pipelines every stage and feed the GPU through Tokio producers with bounded-channel backpressure. Each technique is profiled, verified against a CPU reference and measured.
Key Learnings
- Profile before you optimise, and let Nsight Systems show you who is actually waiting.
- Write SIMT kernels in pure Rust where data races fail at compile time.
- Treat default stream as the enemy of overlap, and fork your own.
- Overlap copies with compute using pinned memory and a staging ring.
- Reach for reduction ladder instead of atomics when summing on the device.
- Express element-wise work as tile kernels, and let compiler map the hardware.
- Keep the GPU fed with Tokio producers and bounded-channel backpressure.
- Verify every kernel against CPU reference before you trust its timing.
- Weigh throughput against latency, since tuning for one quietly taxes the other.
- Know when to stop, because past a point concurrency only adds bookkeeping.
Table of Content
- Rust’s Threads, Timing and Ownership
- CPU versus GPU Execution
- SIMT Kernels, Blocks and Grids
- Race-Free Parallel Kernels
- Asynchronous GPU Execution
- Overlapping Transfers with Streams
- Tile Programming with cutile-rs
- Async GPU Pipelines with Tokio
- Throughput, Latency and Bottlenecks
Target Audience
If you're a programmer looking for a hands-on guide to GPU programming, Rust techniques and AI principles, this book is for you. It's designed to help you make the most of your device's processing power.„Inhaltsangabe“ gehört möglicherweise zu einer anderen Auflage dieses Titels.
AHA-BUCH GmbH
Einbeck, Deutschland
Verkäufer:in bei AbeBooks seit 14. August 2006
Versandkosten von Deutschland nach USA
| Artikel | 7 bis 10 Werktage | 5 bis 7 Werktage |
|---|---|---|
| Erster Artikel | EUR 35,00 | EUR 45,00 |
Zahlungsarten
- Banküberweisung
- PayPal
- Vorauskasse
Shopbeschreibung
Das Unternehmen AHA-BUCH GmbH: Seit der Gründung von AHA-BUCH im Juli 2005 ist unser Hauptziel, zufriedenen Kunden so schnell und so preisgünstig wie möglich ihren Bücherwunsch zu erfüllen. Unsere Firma beschäftigt 16 Mitarbeiter, die nur ein Ziel kennen: den Kunden und seine Wünsche! Auf über 3700 m2 Fläche haben wir über 100.000 Bücher, Modernes Antiquariat und Spiele auf Lager.
Spezialisierung
Kinderbücher & Kinderhör Casetten, German Books, Software, Natur & Tiere, Ratgeber, Sachbücher, Englische Bücher, Medizin & Gesundheit, Universität & StudiumUnternehmensdaten der Verkäuferin bzw. des Verkäufers
AHA-BUCH GmbH
Garlebsen 48
Einbeck, Deutschland 37574
Verkaufsbedingungen
Impressum
Gesetzliche Anbieterkennung:
AHA-BUCH GmbH
diese vertreten durch den Geschäftsführer Christel Glass
Garlebsen 48
37574 Einbeck
Deutschland
Telefon: 055639996039
Telefax: 055639995974
E-Mail: abebooks@aha-buch.de
USt-IdNr.: DE261904229
eingetragen im Handelsregister des Amtsgerichtes Göttingen
Handelsregisternummer HRB 200691
Alternative Streitbeilegung:
Die Europäische Kommission stellt eine Plattform für die außergerichtliche Online-Streitbeilegung (OS-Plattform) bereit, aufrufbar unter https://ec.europa.eu/odr.
Wir sind seit 25.05.2018 Mitglied der Initiative "FairCommerce".
Nähere Informationen hierzu finden Sie unter www.fair-commerce.de.
Widerrufsrecht
Wenn Sie Verbraucher sind, können Sie gemäß den folgenden Bestimmungen vom Vertrag zurücktreten. Verbraucher ist jede natürliche Person, die zu Zwecken handelt, die nicht ihrer kaufmännischen, gewerblichen, künstlerischen oder beruflichen Tätigkeit zugerechnet werden können.
Informationen zum Widerrufsrecht
Gesetzliches Widerrufsrecht
Sie haben das Recht, den Vertrag innerhalb von 14 Tagen ohne Angabe von Gründen zu widerrufen.
Die Widerrufsfrist beträgt 14 Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Transporteur ist, die letzte Ware oder den letzten Posten oder das letzte Exemplar in Besitz genommen hat.
Um das Widerrufsrecht auszuüben, füllen Sie auf unserer Website unter „Meine Einkäufe" in „Mein Nutzerkonto" eine eindeutige Erklärung elektronisch aus und senden Sie sie ab. Wir werden Ihnen unverzüglich eine Bestätigung über den Eingang eines solchen Widerrufs auf einem dauerhaften Datenträger (z. B. per E-Mail) übermitteln.
Um die Widerrufsfrist einzuhalten, reicht es aus, dass Sie Ihre Mitteilung über die Ausübung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.
Auswirkungen des Widerrufs
Wenn Sie diesen Vertrag widerrufen, erstatten wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschließlich der Lieferkosten (mit Ausnahme der zusätzlichen Kosten, die entstehen, wenn Sie eine andere Art der Lieferung als die von uns angebotene günstigste Standardlieferung gewählt haben).
Wir können einen Abzug von der Rückerstattung für den Wertverlust der gelieferten Waren vornehmen, wenn der Verlust auf eine unnötige Behandlung durch Sie zurückzuführen ist.
Wir werden die Rückerstattung unverzüglich und nicht später als 14 Tage nach dem Tag vornehmen, an dem wir über Ihre Entscheidung, diesen Vertrag zu widerrufen, informiert wurden.
Für die Rückerstattung verwenden wir dasselbe Zahlungsmittel, das Sie für die ursprüngliche Transaktion verwendet haben, es sei denn, Sie haben ausdrücklich etwas anderes vereinbart; in keinem Fall werden Ihnen aufgrund einer solchen Rückerstattung Gebühren berechnet.
Wir können die Rückzahlung verweigern, bis wir die Waren wieder zurückerhalten haben oder Sie den Nachweis erbracht haben, dass Sie die Waren zurückgesandt haben, je nachdem, was eher eintritt.
Sie müssen die Waren unverzüglich und in jedem Fall spätestens 14 Tage ab dem Tag, an dem Sie uns über den Widerruf dieses Vertrags unterrichten, an AHA-BUCH GmbH, Einbeck, Germany, zurücksenden oder übergeben. Die Frist ist eingehalten, wenn Sie die Ware vor Ablauf der Frist von 14 Tagen zurücksenden. Sie müssen die direkten Kosten der Rücksendung der Waren tragen. Sie haften nur für einen etwaigen Wertverlust der Waren, der auf eine Behandlung zurückzuführen ist, die nicht zur Prüfung der Art, Eigenschaften und Funktionsweise der Waren erforderlich ist.
Ausnahmen vom Widerrufsrecht
Das Widerrufsrecht gilt nicht für:
- Die Lieferung von Zeitungen, Zeitschriften oder Magazinen mit Ausnahme von Abonnementverträgen; und
- Die Lieferung digitaler Inhalte, die nicht auf einem physischen Medium (z. B. auf einer CD oder DVD) geliefert werden, wenn Sie bei Ihrer Bestellung akzeptiert haben, dass wir mit der Lieferung beginnen können und dass Sie nach Beginn der Lieferung den Vertrag nicht mehr widerrufen können.
Versandbedingungen
Wir liefern Lagerartikel innerhalb von 24 Stunden nach Erhalt der Bestellung aus.
Barsortimentsartikel, die wir über Nacht geliefert bekommen, am darauffolgenden Werktag.
Unser Ziel ist es Ihnen die Artikel in der ökonomischten und effizientesten Weise zu senden.