人工知能ニュース、毎時更新
EN EnglishES EspañolAR العربيةRU РусскийDE DeutschPT PortuguêsZH 中文FI SuomiFR FrançaisNL NederlandsID Bahasa IndonesiaHI हिन्दीJA 日本語KO 한국어TR TürkçeVI Tiếng Việt
RSS 検索 すべて 🟢 状況

PyTorch

最新のAIニュース、モデル、リリース元 PyTorch. ['scaled_dot_product_attention']

研究 🇺🇸

PyTorch でのプロファイリング（第3回）：アテンションこそプロファイリングの要

この記事では、PyTorch におけるアテンション機構のプロファイリングを行い、ナイーブなアテンション、インプレース最適化、Scaled Dot Product Attention（SDPA）バックエンドを比較します。SDPA の math バックエンドは、Tensor Core の未活用、マスクの再構築、セーフソフトマックスのオーバーヘッドにより、ナイーブなアテンションよりも遅いことが明らかになります。

PyTorchPyTorch NVIDIANVIDIA
Hugging Face blog29.07 · 23:03
研究 🇺🇸

IEEE Launches Online Training Course on Large Language Models

IEEE has introduced a five-course online program, 'Large Language Models Demystified,' to help technical professionals master LLM engineering. The program covers transformer architectures, model optimization, RAG, RLHF, and deployment, aiming to bridge the gap between AI users and builders.

IEEEIEEE PyTorchPyTorch
IEEE Spectrum AI28.07 · 16:03
新着ニュース