Actualités en intelligence artificielle, mises à jour chaque heure
EN EnglishES EspañolAR العربيةRU РусскийDE DeutschPT PortuguêsZH 中文FI SuomiFR FrançaisNL NederlandsID Bahasa IndonesiaHI हिन्दीJA 日本語KO 한국어TR TürkçeVI Tiếng Việt
RSS Rechercher Tout 🟢 État

PyTorch

Dernières actualités, modèles et sorties d'IA de PyTorch. ['scaled_dot_product_attention']

Recherche 🇺🇸

Profilage dans PyTorch (Partie 3) : L'attention est tout ce qu'il faut profiler

Cet article profile les mécanismes d'attention dans PyTorch, en comparant l'attention naïve, l'optimisation sur place et les backends de l'attention produit scalaire mise à l'échelle (SDPA). Il révèle que le backend mathématique de SDPA est plus lent que l'attention naïve en raison de la sous-utilisation des Tensor Cores, de la reconstruction du masque et du surcoût du softmax sécurisé.

PyTorchPyTorch NVIDIANVIDIA
Hugging Face blog29.07 · 23:03
Recherche 🇺🇸

IEEE Launches Online Training Course on Large Language Models

IEEE has introduced a five-course online program, 'Large Language Models Demystified,' to help technical professionals master LLM engineering. The program covers transformer architectures, model optimization, RAG, RLHF, and deployment, aiming to bridge the gap between AI users and builders.

IEEEIEEE PyTorchPyTorch
IEEE Spectrum AI28.07 · 16:03
Infos fraîches