Some Intuition on Attention and the Transformer
Юджин Ян даёт интуитивное объяснение механизма внимания (attention) и архитектуры Transformer для тех, кто уже прочитал статью «Attention Is All You Need» и в общих чертах знаком с темой. Автор показы
Юджин Ян даёт интуитивное объяснение механизма внимания (attention) и архитектуры Transformer для тех, кто уже прочитал статью «Attention Is All You Need» и в общих чертах знаком с темой. Автор показы
Юджин Ян описывает свой эксперимент raspberry-llm: Raspberry Pico с e-ink экраном, который получает RSS-ленты WSJ и HackerNews, обращается к сторонним LLM API и генерирует контент в разных стилях — от
Eugene Yan описывает эксперименты с LLM, в ходе которых он собрал в Discord набор инструментов-команд: /summarize и /eli5 для краткого пересказа URL, /sql и /sql-agent для запросов к базе, /search для
Юджин Ян кратко прослеживает эволюцию NLP для обучения с учителем с 1985 по 2020 год. Он начинает с последовательных моделей — RNN (1985), LSTM (1997) и GRU (2014), — а затем переходит к словным эмбед