6.1 流与异步执行


文档摘要

6.1 流与异步执行 本节摘要:默认情况下,设备的活儿都排在一个队列里串行执行——搬运时算力闲着,小内核之间隔着启动空档。流(stream)是额外的任务队列:互不依赖的任务放进不同的流,设备就能并行消化。本节讲清流的语义、事件计时的用法,给出双流搬运与计算重叠的完整模板,并揭示伪并发的两个陷阱。读完本节,程序时间线上的空档就是你的优化原料。 两个空档:性能账本上被浪费的时间 先看默认模式(单一流)的时间线是怎么浪费的。 会员。《6.1 流与异步执行》收录于灏天文库文集《CUDA并行计算与GPU编程实战》,原作者/来源:灏天文库,整理自「灏天文库」,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。本站整理收录,版权归原作者/开源协议所有。

该文档为会员专享,请先登录或注册后再查看


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U