Inteligência Artificial
Escassez de semicondutores na IA o que muda no serving
Escassez de semicondutores: IBM caiu e isso afeta devs; aprendi que o gargalo vira memória/serving, então controlo KV cache e batching por tokens.
Ler artigo completo