📰 IT Дайджест

#visualization

1 материал

15. Визуальный разбор трансформеров: GPT-2 small интерактивно покажет, как работает Attention

Интерактивный инструмент Transformer Explainer наглядно объясняет архитектуру на примере GPT-2 small (124M параметров). Пошагово показаны токенизация, эмбеддинги (768-мерные векторы), self-attention и MLP. Векторная таблица встраиваний содержит ~39 млн параметров.

poloclub.github.io · #ai #education #transformers #visualization