Transformer

Суть в одном предложении

Transformer — архитектура нейросети с механизмом внимания (attention), на которой построены современные LLM.

Краткое определение

Transformer — модель последовательностей, где self-attention связывает каждый токен с остальными без рекуррентности; основа GPT, BERT, T5 и др.

Оригинал и перевод

• Язык: английский
• Оригинал: Transformer
• Буквальный перевод: трансформер

Синонимы и варианты написания

• —

Где используется

• Искусственный интеллект
• Веб-разработка
• SEO и контент

Когда это важно

• при проектировании AI-фич на сайте
• при оптимизации под LLM-краулеры

Подробное объяснение

Attention позволяет улавливать дальние зависимости в тексте. Encoder-only (BERT) силён в классификации; decoder-only (GPT) — в генерации.