Rust を Linux カーネルへで使う取り組みの進捗を向井がウォッチしました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 An Empirical Study of Rust-for-Linux: The Success, Dissatisfaction, and Compromise | USENIX Rust for LinuxJun Mukai による

GitHub の Issue を読んでバグを直すエーアイについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2310.06770] SWE-bench: Can Language Models Resolve Real-World GitHub Issues? [2405.15793] SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering SWE-bench Introducing SWE-bench Verified | OpenAI The new Claude 3.5 Sonnet, Computer Us…

Google SQL の新しい文法を森田が紹介しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 SQL Has Problems. We Can Fix Them: Pipe Syntax In SQL PRQL Pipe syntax | BigQuery | Google Cloud SQLite Forum: Interesting paper from Google on pipe syntax on SQLHajime Morrita による

LLM にひっかけ算数問題を出してみる話を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2410.05229] GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models GitHub – openai/grade-school-mathJun Mukai による

写真を集めてシーンをレンダリングするニューラルネットを森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis NeRF Tutorial ECCV 2022 illuminate.google.comHajime Morrita による

大きなモデルから小さなモデルを作るテクニックを向井が回願しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1503.02531] Distilling the Knowledge in a Neural NetworkJun Mukai による

ストリームにパーセンタイルを計算したい森田が教科書を読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1603.05346v2] Optimal Quantile Approximation in Streams Small Summaries for Big Data Data Types – Presto 0.288 Documentation Estimating Percentile Values | Snowflake Documentation KLL sketch vs t-digest – DataSketches…

学部生にも実装できるストリームの要素カウントアルゴリズムを向井が試しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2301.10191] Distinct Elements in Streams: An Algorithm for the (Text) Book The CVM Algorithm for Estimating Distinct Elements in Streams Computer scientists invent an efficient new way to count | Hacker News…

行列の掛け算が得意なハードウェアについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1704.04760] In-Datacenter Performance Analysis of a Tensor Processing Unit Systolic Arrays – an overview | ScienceDirect Topics Pallas: a JAX kernel language — JAX documentation About Groq – Fast AI Inference The Design Process for Google’s Training Chips: TPUv2 an…

巨大 ML モデルの軽量 fine-tuning 手法を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2106.09685] LoRA: Low-Rank Adaptation of Large Language ModelsJun Mukai による

CUDA を書かずに済む GPU カーネルの DSL について森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations Introducing Triton: Open-source GPU programming for neural networks | OpenAI Welcome to Triton’s documentation! — Triton documentation Hello Triton.ipynb – Colab #01: Tens…

Stable Diffusion の元論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2112.10752] High-Resolution Image Synthesis with Latent Diffusion Models [2105.05233] Diffusion Models Beat GANs on Image Synthesis Classifier-Free Diffusion Guidance | OpenReview What are Diffusion Models? | Lil’Log…

CUDA で書かれた PyTorch 用カーネルに森田が玉砕しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2205.14135] FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness GitHub – Dao-AILab/flash-attention: Fast and memory-efficient exact attention GitHub – NVIDIA/apex: A PyTorch Extension: Tools for easy mixed precision and distributed tra…

以下の記事について話しました。 PHPの時代は終わった？ プログラミング言語のランキングで、2001年以来の最低シェアを記録【やじうまWatch】 - INTERNET Watch https://internet.watch.impress.co.jp/docs/yajiuma/1583089.html

向井が画像生成の拡散モデルに入門しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Diffusion models from scratch [1503.03585] Deep Unsupervised Learning using Nonequilibrium Thermodynamics [2006.11239] Denoising Diffusion Probabilistic ModelsJun Mukai による

森田が飽きずに CUDA の教科書を読んでます。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Programming Massively Parallel Processors: A Hands-on Approach (Amazon.co.jp, Elsevier) NVIDIA H100 Tensor Core GPU Architecture OverviewHajime Morrita による

Meta の vector search 実装の関連論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 facebookresearch/faiss: A library for efficient similarity search and clustering of dense vectors. Home · facebookresearch/faiss Wiki Optimized Product Quantization | IEEE Journals & Magazine | IEEE Xplore Product Quantization for Nearest Neighbor Search [1…

森田が CUDA の入門書を読み始めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Programming Massively Parallel Processors: A Hands-on Approach (Amazon.co.jp, Elsevier) Evolution of the Graphics Processing Unit (GPU) | IEEE Journals & Magazine | IEEE Xplore David Kirk (scientist) – WikipediaHajime Morrita による

AI 流行りで台頭中な Vector DB のサーベイを向井が眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2309.11322] Vector database management systems: Fundamental concepts, use-cases, and current challenges [2310.11703] A Comprehensive Survey on Vector Database: Storage and Retrieval Technique, Challenge [2310.14021] Survey of Vector Database Management Syst…

Intel の CPU にやってきたニューラルなんとかの出自を森田がたどりました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Always-on Vision Processing Unit for Mobile Applications | IEEE Journals & Magazine | IEEE Xplore (Google Scholar) Intel Core Ultra Ushers in the Age of the AI PC Intel® Movidius Vision Processing Units (VPUs) Amazon.com: Intel NCS2 Movidius Neural Compu…

LLM に解かせる難問集と採点結果を向井が睨みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2311.12983] GAIA: a benchmark for General AI Assistants gaia-benchmark/GAIA · Datasets at Hugging FaceJun Mukai による

(壊れた音声ファイルを配信してしまったので、修正したファイルで同じエピソードを再配信しています。ごめんね。教えてくれた皆さんありがとうございました。） GPGPU ワナビーの森田が C++ 拡張の GPGPU 標準を眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 SYCL Overview – The Khronos Group Inc SYCL.tech – Find out the latest SYCL news, videos, learning materials and projects. GitHub – Tohoku-University-Takizawa-Lab/neoSYCL: A SYCL Imp…

Meta 社のインターンが分散トレーシングで集めたログを睨んだ論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Lifting the veil on Meta’s microservice architecture: Analyses of topology and request workflows | USENIX GitHub – facebook/fbthrift: Facebook’s branch of Apache Thrift, including a new C++ server. Canopy: An End-to-End Performance Tracing and Analysis…

開発生産性の測り方について森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 The SPACE of Developer Productivity – ACM Queue DORA | DevOps Research and Assessment Accelerate: The Science of Lean Software and DevOps: Building and Scaling High Performing Technology Organizations LeanとDevOpsの科学[Accelerate] テクノロジーの戦略的活用が組織変革を加速する…

でかいコンテナイメージをサーバレスで高速に起動する話を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 On-demand Container Loading in AWS Lambda | USENIX Marc Brooker’s Blog – Marc’s Blog #44: Firecracker #91: Serverless in the Wild #99: The Prusti Project: Formal Verification for RustJun Mukai による

ウェブ検索の開発に使われていた A/B テストのインフラについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 Overlapping Experiment Infrastructure: More, Better, Faster Experimentation – Google Research Putting a Bolder Face on Google – The New York Times Goodbye, Google | StopdesignHajime Morrita による

Androidスマホからさまざまな端末へファイル転送する機能「ニアバイシェア」がWindowsPCに対応して、便利になった話です。 Google、Windows版「ニアバイシェア」を一般公開 ～PC⇔Androidのファイル送信アプリ - 窓の杜 https://forest.watch.impress.co.jp/docs/news/1517550.html 記事概要：Windows版「ニアバイシェア」（Nearby Share）アプリの一般公開を発表した。今年3月末よりベータテストが続けられていたが、ようやく正式版となる。 #PC #タイパ #効率化

ML アクセラレータ TPU の分散実行インフラについて向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [2203.12533] Pathways: Asynchronous Distributed Dataflow for ML [2204.02311] PaLM: Scaling Language Modeling with Pathways System Architecture | Cloud TPU | Google CloudJun Mukai による

ホリエモンのyoutubeチャンネルで動画の最後に言う「いってらっしゃい！」が良い言葉だなぁと思った話です。 #40代 BGM: https://www.youtube.com/watch?v=r0RKuP8OYvs

組み込みデータベースの新顔紹介を森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 DuckDB: an Embeddable Analytical Database SQLite: Past, Present, and Future An in-process SQL OLAP database management system – DuckDB 25 Years of Python at CWIHajime Morrita による

ツイッターを眺めていたらLinux Mintの新バージョンを見つけました。知ってるディストリビューションだったからうれしくなりました。Linux Mint 21.2 “Victoria” Cinnamon released! – The Linux Mint Bloghttps://blog.linuxmint.com/?p=4543

今年の目標は「アウトプットを毎週する」です。目標にむけた進み具合を確認してみる。

雑談です。 壊れたイヤホンソニー ワイヤレスオープンイヤーステレオイヤホン SBH82D : Bluetooth/ながら聴き/NFC対応/マイク・操作ボタン付 2019年モデル ブラック SBH82D B https://amzn.asia/d/ffb3Gr4

お久しぶりです。約2年ぶりの更新です。 また配信を再開しようと思います。

人気圧縮フォーマット ZSTD のアルゴリズムについて向井が調べました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1311.2540] Asymmetric numeral systems: entropy coding combining speed of Huffman coding with compression rate of arithmetic coding facebook/zstd: Zstandard – Fast real-time compression algorithm From Project Management to Data Compression Innovator With Yann…

LLM をチャットボットに仕立てる finetuning について森田が読みました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。 [2203.02155] Training language models to follow instructions with human feedback [2212.08073] Constitutional AI: Harmlessness from AI Feedback It looks like GPT-4-32k is rolling out | Hacker News Anthropic | Introducing Claude Goodhart’s law – Wikipedia…

クラウドのネットワーク設定を簡単にする抽象について向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 Invisinets: Removing Networking from Cloud Networks | USENIXJun Mukai による

LLM に算数の文章題を解かせるコツについて森田が読みました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。 Improving Language Understanding by Generative Pre-Training Language Models are Unsupervised Multitask Learners [2005.14165] Language Models are Few-Shot Learners [2201.11903] Chain-of-Thought Prompting Elicits Reasoning in Large Language Models NLP’s ImageNet mom…

複数クラウドをまたいだバッチのパイプラインを動かす話を向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 SkyPilot: An Intercloud Broker for Sky Computing | USENIX GitHub – skypilot-org/skypilot: SkyPilot is a framework for easily running machine learning workloads on any cloud through a unified interface. From cloud computing to sky computing | Proceedings …

勤務先への脅威に怯える森田が Transformer を復習しました。ご意見ご感想などはおたより投書箱や Reddit にお寄せください。iTunes のレビューや星も歓迎です。 今回は録音に際し Adobe Podcast (beta) のバグを引き当ててしまい、向井と森田の音声トラックがずれてしまいました。ごめんなさい。次回からは non-beta の手堅いツールで録音しようと思います・・・。 [2207.09238] Formal Algorithms for Transformers #15 – Neural Machine Translation by Jointly Learning to Align and Translate #38 – Subword Regularizat…

最近 Reddit をはじめたよ、きてね、というお知らせです。https://www.reddit.com/r/MisreadingChat/Hajime Morrita による

遅くなったディスクをみつける Alibaba Cloud の実験について向井が読みました。ご意見感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。Reddit もはじめました。 Perseus: A Fail-Slow Detection Framework for Cloud Storage Systems | USENIXJun Mukai による

データベースベンダーの宣伝を読んでもよくわからかった森田が DB ベンチマークの歴史を読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 CockroachDB is 10x more scalable than Amazon Aurora for OLTP workloads TPC-Homepage (TLS の証明書が切れてますよ…) The History of DebitCredit and the TPC A Measure of Transaction Processing Power The Evolution of TPC Benchmarks: Why TPC-A and TPC-B are Obsolete tpc-c_v5.…

Haskell の親分により開発中の次世代関数型論理メタバース言語に向井が入門しました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 The Verse Calculus: a core calculus for functional logic programming – Simon Peyton Jones Beyond Functional Programming: The Verse Programming Language (Simon Peyton Jones) – YouTubeJun Mukai による

Adobe と PostScript の歴史を森田が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 PostScript: A Digital Printing Press – CHM Founding and Growing Adobe Systems, Inc. (paywall) Simple Ideas That Changed Printing and Publishing on JSTOR (paywall) The Origins of PostScript (paywall) LaserWriter – Wikipedia TrueType hinting – Typography | Microsoft Learn Instr…

AI がチャットしながらボードゲームで勝つ話を向井が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Human-level play in the game of Diplomacy by combining language models with strategic reasoning | Science CICERO: An AI agent that negotiates, persuades, and cooperates with people Diplomacy (game) – WikipediaJun Mukai による

データベースのクエリ処理に関する常識古典論文を森田が読みました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 Volcano – An Extensible and Parallel Query Evaluation System Apache IcebergHajime Morrita による

TCP をやっつけたいメッセージ志向プロトコルの提案を向井が拝聴しました。感想などはおたより投書箱にお寄せください。iTunes のレビューや星も歓迎です。 [2210.00714] It’s Time to Replace TCP in the Datacenter Netdev | Netdev 0x16 – Sessions GitHub – PlatformLab/Homa: Low-Latency Data Center Network Transport A Philosophy of Software Design, 2nd EditionJun Mukai による

森田が NVIDIA の GPU で二次元お絵描きする話を調べました。感想などはハッシュタグ #misreading や おたより投書箱 にお寄せください。iTunes のレビューや星も歓迎です。 GPU Accelerated Path Rendering | NVIDIA Developer Resolution Independent Curve Rendering using Programmable Graphics Hardware – Microsoft Research Bezier quadratic (Loop/Blinn) – WebGL demo Accelerating vector graphics rendering using the graphics har…

向井が Git の難しさに見識を深めました。感想などはハッシュタグ #misreading や おたより投書箱 にお寄せください。iTunes のレビューや星も歓迎です。 Do Developers Really Know How to Use Git Commands? A Large-scale Study Using Stack Overflow (Paper) Do Developers Really Know How to Use Git Commands? · It Will Never Work in TheoryJun Mukai による