最高の Awareness ポッドキャスト (2024)

1
#131: FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness 30:40

2h ago30:40

30:40

CUDA で書かれた PyTorch 用カーネルに森田が玉砕しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2205.14135] FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness GitHub – Dao-AILab/flash-attention: Fast and memory-efficient exact attention GitHub – NVIDIA/apex: A PyTorch Extension: Tools for easy mixed precision and distributed tra…

1
#130: Diffusion models from scratch, from a new theoretical perspective 30:44

18d ago30:44

30:44

向井が画像生成の拡散モデルに入門しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Diffusion models from scratch [1503.03585] Deep Unsupervised Learning using Nonequilibrium Thermodynamics [2006.11239] Denoising Diffusion Probabilistic ModelsJun Mukai による

1
#129: Programming Massively Parallel Processors (Ch.4- Ch.6) 59:43

28d ago59:43

59:43

森田が飽きずに CUDA の教科書を読んでます。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Programming Massively Parallel Processors: A Hands-on Approach (Amazon.co.jp, Elsevier) NVIDIA H100 Tensor Core GPU Architecture OverviewHajime Morrita による

1
#128: Faiss: A library for efficient similarity search and clustering of dense vectors. 42:38

2M ago42:38

42:38

Meta の vector search 実装の関連論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 facebookresearch/faiss: A library for efficient similarity search and clustering of dense vectors. Home · facebookresearch/faiss Wiki Optimized Product Quantization | IEEE Journals & Magazine | IEEE Xplore Product Quantization for Nearest Neighbor Search [1…

1
#127: Programming Massively Parallel Processors (Ch.1- Ch.3) 28:52

2M ago28:52

28:52

森田が CUDA の入門書を読み始めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Programming Massively Parallel Processors: A Hands-on Approach (Amazon.co.jp, Elsevier) Evolution of the Graphics Processing Unit (GPU) | IEEE Journals & Magazine | IEEE Xplore David Kirk (scientist) – WikipediaHajime Morrita による

1
#126: Vector Database Management Systems 54:03

3M ago54:03

54:03

AI 流行りで台頭中な Vector DB のサーベイを向井が眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2309.11322] Vector database management systems: Fundamental concepts, use-cases, and current challenges [2310.11703] A Comprehensive Survey on Vector Database: Storage and Retrieval Technique, Challenge [2310.14021] Survey of Vector Database Management Syst…

1
#125: Always-on Vision Processing Unit for Mobile Applications 27:46

3M ago27:46

27:46

Intel の CPU にやってきたニューラルなんとかの出自を森田がたどりました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Always-on Vision Processing Unit for Mobile Applications | IEEE Journals & Magazine | IEEE Xplore (Google Scholar) Intel Core Ultra Ushers in the Age of the AI PC Intel® Movidius Vision Processing Units (VPUs) Amazon.com: Intel NCS2 Movidius Neural Compu…

1
#124: GAIA: a benchmark for General AI Assistants 41:33

4M ago41:33

41:33

LLM に解かせる難問集と採点結果を向井が睨みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2311.12983] GAIA: a benchmark for General AI Assistants gaia-benchmark/GAIA · Datasets at Hugging FaceJun Mukai による

1
#123: SYCL 2020 Specification 37:50

5M ago37:50

37:50

(壊れた音声ファイルを配信してしまったので、修正したファイルで同じエピソードを再配信しています。ごめんね。教えてくれた皆さんありがとうございました。） GPGPU ワナビーの森田が C++ 拡張の GPGPU 標準を眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 SYCL Overview – The Khronos Group Inc SYCL.tech – Find out the latest SYCL news, videos, learning materials and projects. GitHub – Tohoku-University-Takizawa-Lab/neoSYCL: A SYCL Imp…

1
#122: Lifting the veil on Meta’s microservice architecture 54:03

6M ago54:03

54:03

Meta 社のインターンが分散トレーシングで集めたログを睨んだ論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Lifting the veil on Meta’s microservice architecture: Analyses of topology and request workflows | USENIX GitHub – facebook/fbthrift: Facebook’s branch of Apache Thrift, including a new C++ server. Canopy: An End-to-End Performance Tracing and Analysis…

1
#121: The SPACE of Developer Productivity 22:51

6M ago22:51

22:51

開発生産性の測り方について森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 The SPACE of Developer Productivity – ACM Queue DORA | DevOps Research and Assessment Accelerate: The Science of Lean Software and DevOps: Building and Scaling High Performing Technology Organizations LeanとDevOpsの科学[Accelerate] テクノロジーの戦略的活用が組織変革を加速する…

1
#120: On-demand Container Loading in AWS Lambda 33:32

7M ago33:32

33:32

でかいコンテナイメージをサーバレスで高速に起動する話を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 On-demand Container Loading in AWS Lambda | USENIX Marc Brooker’s Blog – Marc’s Blog #44: Firecracker #91: Serverless in the Wild #99: The Prusti Project: Formal Verification for RustJun Mukai による

1
#119: Overlapping Experiment Infrastructure 32:56

8M ago32:56

32:56

ウェブ検索の開発に使われていた A/B テストのインフラについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Overlapping Experiment Infrastructure: More, Better, Faster Experimentation – Google Research Putting a Bolder Face on Google – The New York Times Goodbye, Google | StopdesignHajime Morrita による

1
#118: Pathways: Asynchronous Distributed Dataflow for ML 34:34

9M ago34:34

34:34

ML アクセラレータ TPU の分散実行インフラについて向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2203.12533] Pathways: Asynchronous Distributed Dataflow for ML [2204.02311] PaLM: Scaling Language Modeling with Pathways System Architecture | Cloud TPU | Google CloudJun Mukai による

1
#117: DuckDB: an Embeddable Analytical Database 29:51

9M ago29:51

29:51

組み込みデータベースの新顔紹介を森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 DuckDB: an Embeddable Analytical Database SQLite: Past, Present, and Future An in-process SQL OLAP database management system – DuckDB 25 Years of Python at CWIHajime Morrita による

1
#116: Asymmetric numeral systems 40:28

11M ago40:28

40:28

人気圧縮フォーマット ZSTD のアルゴリズムについて向井が調べました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1311.2540] Asymmetric numeral systems: entropy coding combining speed of Huffman coding with compression rate of arithmetic coding facebook/zstd: Zstandard – Fast real-time compression algorithm From Project Management to Data Compression Innovator With Yann…

1
#115: Constitutional AI: Harmlessness from AI Feedback 36:42

11M ago36:42

36:42

LLM をチャットボットに仕立てる finetuning について森田が読みました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。 [2203.02155] Training language models to follow instructions with human feedback [2212.08073] Constitutional AI: Harmlessness from AI Feedback It looks like GPT-4-32k is rolling out | Hacker News Anthropic | Introducing Claude Goodhart’s law – Wikipedia…

1
#114: Invisinets: Removing Networking from Cloud Networks 40:18

11M ago40:18

40:18

クラウドのネットワーク設定を簡単にする抽象について向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 Invisinets: Removing Networking from Cloud Networks | USENIXJun Mukai による

1
#113: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models 25:48

12M ago25:48

25:48

LLM に算数の文章題を解かせるコツについて森田が読みました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。 Improving Language Understanding by Generative Pre-Training Language Models are Unsupervised Multitask Learners [2005.14165] Language Models are Few-Shot Learners [2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models NLP’s ImageNet mom…

1
#112: SkyPilot: An Intercloud Broker for Sky Computing 39:24

12M ago39:24

39:24

複数クラウドをまたいだバッチのパイプラインを動かす話を向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 SkyPilot: An Intercloud Broker for Sky Computing | USENIX GitHub – skypilot-org/skypilot: SkyPilot is a framework for easily running machine learning workloads on any cloud through a unified interface. From cloud computing to sky computing | Proceedings …

1
#111: Formal Algorithms for Transformers 38:01

1y ago38:01

38:01

勤務先への脅威に怯える森田が Transformer を復習しました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。今回は録音に際し Adobe Podcast (beta) のバグを引き当ててしまい、向井と森田の音声トラックがずれてしまいました。ごめんなさい。次回からは non-beta の手堅いツールで録音しようと思います・・・。 [2207.09238] Formal Algorithms for Transformers #15 – Neural Machine Translation by Jointly Learning to Align and Translate #38 – Subword Regularizat…

1
#110.5 3:54

1y ago3:54

3:54

最近 Reddit をはじめたよ、きてね、というお知らせです。https://www.reddit.com/r/MisreadingChat/Hajime Morrita による

1
#110: Perseus: A Fail-Slow Detection Framework for Cloud Storage Systems 45:40

1y ago45:40

45:40

遅くなったディスクをみつける Alibaba Cloud の実験について向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 Perseus: A Fail-Slow Detection Framework for Cloud Storage Systems | USENIXJun Mukai による

1
#109: A Measure of Transaction Processing Power 38:06

1y ago38:06

38:06

データベースベンダーの宣伝を読んでもよくわからかった森田が DB ベンチマークの歴史を読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 CockroachDB is 10x more scalable than Amazon Aurora for OLTP workloads TPC-Homepage (TLS の証明書が切れてますよ…) The History of DebitCredit and the TPC A Measure of Transaction Processing Power The Evolution of TPC Benchmarks: Why TPC-A and TPC-B are Obsolete tpc-c_v5.…

1
#108: The Verse Calculus 41:29

1y ago41:29

41:29

Haskell の親分により開発中の次世代関数型論理メタバース言語に向井が入門しました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 The Verse Calculus: a core calculus for functional logic programming – Simon Peyton Jones Beyond Functional Programming: The Verse Programming Language (Simon Peyton Jones) – YouTubeJun Mukai による

1
#107: Simple Ideas That Changed Printing and Publishing 45:22

1+ y ago45:22

45:22

Adobe と PostScript の歴史を森田が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 PostScript: A Digital Printing Press – CHM Founding and Growing Adobe Systems, Inc. (paywall) Simple Ideas That Changed Printing and Publishing on JSTOR (paywall) The Origins of PostScript (paywall) LaserWriter – Wikipedia TrueType hinting – Typography | Microsoft Learn Instr…

1
#106: Human-level play in the game of Diplomacy by combining language models with strategic reasoning 45:22

1+ y ago45:22

45:22

AI がチャットしながらボードゲームで勝つ話を向井が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Human-level play in the game of Diplomacy by combining language models with strategic reasoning | Science CICERO: An AI agent that negotiates, persuades, and cooperates with people Diplomacy (game) – WikipediaJun Mukai による

1
#105: Volcano – An Extensible and Parallel Query Evaluation System 44:40

1+ y ago44:40

44:40

データベースのクエリ処理に関する常識古典論文を森田が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Volcano – An Extensible and Parallel Query Evaluation System Apache IcebergHajime Morrita による

1
#104: It’s Time to Replace TCP in the Datacenter 30:19

1+ y ago30:19

30:19

TCP をやっつけたいメッセージ志向プロトコルの提案を向井が拝聴しました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 [2210.00714] It’s Time to Replace TCP in the Datacenter Netdev | Netdev 0x16 – Sessions GitHub – PlatformLab/Homa: Low-Latency Data Center Network Transport A Philosophy of Software Design, 2nd EditionJun Mukai による

1
#103: GPU-Accelerated Path Rendering 37:35

1+ y ago37:35

37:35

森田が NVIDIA の GPU で二次元お絵描きする話を調べました。感想などはハッシュタグ #misreading やおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 GPU Accelerated Path Rendering | NVIDIA Developer Resolution Independent Curve Rendering using Programmable Graphics Hardware – Microsoft Research Bezier quadratic (Loop/Blinn) – WebGL demo Accelerating vector graphics rendering using the graphics har…

1
#102: Do Developers Really Know How to Use Git Commands? A Large-scale Study Using Stack Overflow 45:59

1+ y ago45:59

45:59

向井が Git の難しさに見識を深めました。感想などはハッシュタグ #misreading やおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Do Developers Really Know How to Use Git Commands? A Large-scale Study Using Stack Overflow (Paper) Do Developers Really Know How to Use Git Commands? · It Will Never Work in TheoryJun Mukai による

1
#101: Lakehouse: A New Generation of Open Platforms that Unify Data Warehousing and Advanced Analytics 40:41

1+ y ago40:41

40:41

高給企業 Databricks の論文を森田が冷やかしました。感想などはハッシュタグ #misreading やおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Lakehouse: A New Generation of Open Platforms that Unify Data Warehousing and Advanced Analytics – Databricks Delta Lake: High-Performance ACID Table Storage over Cloud Object Stores – Databricks Photon: A High-Performance Query Engine for the Lakehouse G…

1
#100 AMA! 47:17

1+ y ago47:17

47:17

Podcast 100 回記念に森田と向井が読者のみなさまの質問に答えさせてもらう AMA をやってみました。 On Misreading Chat – Jun Mukai’s blog On Misreading Chat – 2021-01-06 / steps to phantasien Rebuild – Podcast by Tatsuhiko Miyagawa ByteCast Archive Linear Digressions CoRecursive Podcast – The Stories Behind The Code Spilled Milk the morning paper | a random walk through Computer Science rese…

1
#99.5 AMA? 6:43

1+ y ago6:43

6:43

そろそろこの podcast も 100 回目なので、記念に AMA すなわち読者質問回でもやるのはどうだろうと向井と森田が相談しました（やります）。そこで皆様からの質問などをお待ちしております。投稿先はメール: hello@misreading.chat, Twitter hashtag #misreading, あるいは Google Forms https://forms.gle/aDU21GzBvqpnQTcS7　です。Hajime Morrita による

1
#99: The Prusti Project: Formal Verification for Rust 39:33

1+ y ago39:33

39:33

Rust で使える静的検証ツールの論文を向井が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Prusti – Programming Methodology Group | ETH ZurichJun Mukai による

1
#98: Dynamo: Amazon’s Highly Available Key-value Store 39:20

1+ y ago39:20

39:20

昔 Amazon が作った DynamoDB の祖先について森田が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Amazon’s Dynamo | All Things Distributed Chord (peer-to-peer) – Wikipedia Vector clock – Wikipedia Dynamo | Apache Cassandra DocumentationHajime Morrita による

1
#97: Using Lightweight Formal Methods to Validate a Key-Value Storage Node in Amazon S3 35:25

1+ y ago35:25

35:25

AWS の中の人が Rust の力で TLA+ に対抗する話を向井が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Using Lightweight Formal Methods to Validate a Key-Value Storage Node in Amazon S3 | Proceedings of the ACM SIGOPS 28th Symposium on Operating Systems Principles Prusti – Programming Methodology Group | ETH Zurich tokio-rs/loom: Con…

1
#96: Amazon DynamoDB: A Scalable, Predictably Performant, and Fully Managed NoSQL Database Service 47:48

1+ y ago47:48

47:48

AWS の人気サービス DynamoDB の論文を森田が眺めました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Amazon DynamoDB: A Scalable, Predictably Performant, and Fully Managed NoSQL Database Service | USENIX Fast NoSQL Key-Value Database – Amazon DynamoDB – Amazon Web Services Going Head-to-Head: ScyllaDB vs Amazon DynamoDB – ScyllaDB Amazon…

1
#95: CockroachDB: The Resilient Geo-Distributed SQL Database 46:33

2y ago46:33

46:33

ちょっとやそっとで死なない分散 RDB の論文を向井が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 CockroachDB: The Resilient Geo-Distributed SQL Database | Proceedings of the 2020 ACM SIGMOD International Conference on Management of Data Spanner: Google’s Globally Distributed Database: ACM Transactions on Computer Systems: Vol 31, No 3…

1
#94: Mesos: A Platform for Fine-Grained Resource Sharing in the Data Cente 37:56

2y ago37:56

37:56

Kubernetes 以前に元気だったクラスタスケジューラの論文を向井が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Mesos: A Platform for Fine-Grained Resource Sharing in the Data Center | USENIXJun Mukai による

1
#93: SEQUEL: A structured English query language 35:49

2y ago35:49

35:49

データベースワナビーになった森田が SQL に入門しました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 SEQUEL: A structured English query language A Relational Model of Data for Large Shared Data Banks Specifying queries as relational expressions: The SQUARE data sublanguage 森田の PC ノイズが聞き苦しくなってしまいましたがご容赦ください。夏のせいです。…

1
#92: Software Development Waste 44:42

2y ago44:42

44:42

ソフトウェア開発のムダについて現場に潜り込み分析した論文を森田が読みました。感想などはハッシュタグ #misreading か hello@misreading.chat にお寄せください。iTunes のレビューや星も歓迎です。 Software Development Waste (PDF) It Will Never Work in Theory Making Software: What Really Works, and Why We Believe It Lean Software Development: An Agile Toolkit xkcd: Compiling On Pivotal: This Company Believes You Should Never Hac…

1
Ep.140 I Wanna Remove Public Hair / 脱毛して掃除時間を削減したい 30:00

2y ago30:00

30:00

きんにくん吉本退所した筋トレに興味あり、きっかけはサウナ筋トレマットとか買ったメロン筋の重要性もりくんはデブまっしぐらハゲだけは防ぎたい嫌いなのは抜け毛より縮れ毛の抜け毛筋トレは食事制限からめちゃくちゃ漏れるシャイカーいろいろこだわるより継続が重要 PFCを気にした食事サウナでメンタル鍛えられた

1
Ep.139 When We Win From COVIT19 / コロナ感染した 20:08

2y ago20:08

20:08

2021年11月ぶり風邪とは全然違うから気をつけろもりくんは濃厚接触者になったインフルエンザならんやつはコロナに対しても強い説 PCR検査と抗原検査療養中は筋トレ動画見てた

1
Ep.138 High Productivity Party / アクションに落とし込むニチモリラジオ 45:49

2+ y ago45:49

45:49

テレコンの最初のやつ秒単位に起きるイモリコロナ禍で配信できずに、もう年の瀬生産性の高い飲み会の提案退所するイモリ南っていう奴 by ジャルジャルイケメンタル女子メンタル最近の動向複業を認める両親誰かを咎めたい世間 TV有料化してくれー世間は言われて動く経験によって視野は広がる憂鬱でなければ仕事じゃない４０歳を想像できなかった高校の思い出いのまたタンクトップのくせに人類最後の一人に送るラジオ

1
Ep.137 Check My Baldie / 後頭部をチェックしてください 40:00

2+ y ago40:00

40:00

レジの袋のサイズ聞くやつ犬がうんこするコンビニレジ袋に関する苦言お笑いのジャンルで、一番おもろいのは「ものまね」米国人の言い回しがうまいもりくんがはげはじめた疑惑 AGAする金もない坊主は楽シャワーをウォシュレットにするおっさん長袖のポロシャツの可能性初対面で加圧シャツ着てくるやつノせると飲みすぎるおっさん