CUDA Graph Trees PyTorch Developer podcast

Artwork

Tech PyTorch Edward Yang Team PyTorch Deep Learning Machine Learning

コンテンツは PyTorch, Edward Yang, and Team PyTorch によって提供されます。エピソード、グラフィック、ポッドキャストの説明を含むすべてのポッドキャストコンテンツは、PyTorch, Edward Yang, and Team PyTorch またはそのポッドキャストプラットフォームパートナーによって直接アップロードされ、提供されます。誰かがあなたの著作物をあなたの許可なく使用していると思われる場合は、ここで概説されているプロセスに従うことができますhttps://ja.player.fm/legal。

PyTorch Developer Podcast « »
CUDA graph trees

1+ y ago 20:50

シェア

MP3•エピソードのホーム

コンテンツは PyTorch, Edward Yang, and Team PyTorch によって提供されます。エピソード、グラフィック、ポッドキャストの説明を含むすべてのポッドキャストコンテンツは、PyTorch, Edward Yang, and Team PyTorch またはそのポッドキャストプラットフォームパートナーによって直接アップロードされ、提供されます。誰かがあなたの著作物をあなたの許可なく使用していると思われる場合は、ここで概説されているプロセスに従うことができますhttps://ja.player.fm/legal。

CUDA graph trees are the internal implementation of CUDA graphs used in PT2 when you say mode="reduce-overhead". Their primary innovation is that they allow the reuse of memory across multiple CUDA graphs, as long as they form a tree structure of potential paths you can go down with the CUDA graph. This greatly reduced the memory usage of CUDA graphs in PT2. There are some operational implications to using CUDA graphs which are described in the podcast.

… continue reading

83 つのエピソード

#Tech #PyTorch #Edward Yang #Team PyTorch #Deep Learning #Machine Learning

Artwork

CUDA graph trees

PyTorch Developer Podcast

26 subscribers

published 1+ y ago

シェア

MP3•エピソードのホーム

コンテンツは PyTorch, Edward Yang, and Team PyTorch によって提供されます。エピソード、グラフィック、ポッドキャストの説明を含むすべてのポッドキャストコンテンツは、PyTorch, Edward Yang, and Team PyTorch またはそのポッドキャストプラットフォームパートナーによって直接アップロードされ、提供されます。誰かがあなたの著作物をあなたの許可なく使用していると思われる場合は、ここで概説されているプロセスに従うことができますhttps://ja.player.fm/legal。

CUDA graph trees are the internal implementation of CUDA graphs used in PT2 when you say mode="reduce-overhead". Their primary innovation is that they allow the reuse of memory across multiple CUDA graphs, as long as they form a tree structure of potential paths you can go down with the CUDA graph. This greatly reduced the memory usage of CUDA graphs in PT2. There are some operational implications to using CUDA graphs which are described in the podcast.

… continue reading

83 つのエピソード

#Tech #PyTorch #Edward Yang #Team PyTorch #Deep Learning #Machine Learning

Tüm bölümler

×

プレーヤーFMへようこそ！

Player FMは今からすぐに楽しめるために高品質のポッドキャストをウェブでスキャンしています。これは最高のポッドキャストアプリで、Android、iPhone、そしてWebで動作します。全ての端末で購読を同期するためにサインアップしてください。

500+以上のトピックを聴こう

クイックリファレンスガイド

トップポッドキャスト

鈴木淑子の地球は競馬でまわってる

文化放送競馬中継～今週のメインレース

ボードゲームおっぱい

聴く日経ヘッドライン

大竹紳士交遊録 - 大竹まことゴールデンラジオ！

さくら通信

流行りモノ通信簿

RADIO365-TOKYO BAYSIDE RADIO STATION

町田徹のふかぼり！

トレンドウォッチ

伊藤洋一のRound Up World Now！

NHKラジオニュース

KIQTAS（キクタス）

ヴォイニッチの科学書

青春あるでひど

IchibanTalk 海外で頑張る日本人トーク

探検しながらこの番組を聞いてください