ZARZA We are Zarza, the prestigious firm behind major projects in information technology.
Ouvir "#77- Ring Attention e janelas de contexto de 1M, o RAG está morto?"
Sinopse do Episódio
Fala galera, nesse episódio eu explico como a gente consegue escalar a janela de contexto de um LLM pra mais de 1 milhão de tokens usando Ring Attention. Além disso eu discuto se a abordagem usando RAG está morta com esses avanços na janela de contexto.
Paper Lost in the Middle: https://arxiv.org/pdf/2307.03172.pdf
Gemini technical report: https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf
Paper Ring Attention: https://arxiv.org/pdf/2310.01889.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Paper Lost in the Middle: https://arxiv.org/pdf/2307.03172.pdf
Gemini technical report: https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf
Paper Ring Attention: https://arxiv.org/pdf/2310.01889.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Mais episódios do podcast Vida com IA
#128- Embeddings e vetores de alta dimensão.
04/09/2025
#127- Como eu uso vibe coding e Cursor.
28/08/2025
#126- Contratações milionárias na Meta.
21/08/2025
#125- GPT5.
14/08/2025
#123- Como a Alexa funciona?
31/07/2025
In God we trust