Разбираем нашу новую работу — на этот раз с неожиданным выводом 😳 Rethinking the Role of Tensor Decompositions in Post-Training LLM Compression [статья] [код] Тензорные разложения (Tucker, Tensor Train (TT)) выглядят идеальным инструментом для сжатия LLM: экспоненциальная компрессия, красивая теория, естественное соответствие структуре Transformer.
| Type | Tool |
| Section | Search & research |
| Site language | en |