Zyphra presenta ZYFA, un kernel de atención hasta 1,76 veces más rápido en AMD MI355X
Canuto · DiarioBitcoin ·
Zyphra afirma que su kernel ZYFA acelera hasta 1,76 veces la atención FP8 frente a AITER en una AMD MI355X y reduce el error, aunque las ganancias dependen de las activaciones y el uso queda limitado al prefill. *** ZYFA es de código abierto y apunta al prefill causal en FP8 y…