Con 16GB de VRAM en la RTX 4070 Ti Super ya se pueden mover modelos bastante más grandes sin tirar de RAM del sistema, y los 64GB de RAM dejan margen de sobra para cargar varios modelos a la vez o trabajar con contextos largos. El Ryzen 7 7700X tira bien de la parte de CPU que estos programas también usan (carga de datos, preprocesado).
Ventajas
- 16GB de VRAM permiten mover modelos notablemente más grandes sin recurrir a RAM del sistema.
- 64GB de RAM dan margen para contextos largos o tener varios modelos cargados a la vez.
- Buen equilibrio entre CPU y GPU para las tareas de preprocesado que también pesan en estos programas.
A tener en cuenta
- Los modelos de gama muy alta (70B+) siguen sin entrar enteros en 16GB sin cuantizar agresivamente.
- Es una inversión pensada para quien usa IA local de forma habitual, no solo para probarlo.