La nueva SSD XL-Flash de Kioxia ofrecerá velocidades de más de 10 millones de IOPS en cargas de trabajo de bloques pequeños. Esto es tres veces más rápido que la velocidad máxima de las SSD actuales.
La empresa anunció el desarrollo de en una reunión de estrategia corporativa a principios de la semana pasada. Uno de los cuellos de botella en el rendimiento de los servidores de IA actuales es la transferencia de datos entre el almacenamiento y la GPU utilizando la CPU, lo que aumenta considerablemente la latencia. Kioxia está desarrollando nuevo controlador diseñado específicamente para maximizar las IOPS, lo que garantizará que los chips gráficos se utilicen siempre al 100% mediante un acceso rápido a los datos.
La SSD de IA propuesta utilizará memoria flash XL-Flash de celda de nivel único (SLC), que tiene una latencia de lectura de sólo 3 a 5 microsegundos. Las unidades actuales basadas en NAND 3D convencionales ofrecen entre 40 y 100 microsegundos. Además, el almacenamiento de un bit por celda en SLC proporciona tiempos de acceso más cortos y una mayor resistencia, aspectos fundamentales para las tareas de IA.
Las unidades SSD modernas de alto rendimiento para centros de datos suelen alcanzar de 2 a 3 millones de IOPS tanto en operaciones de lectura aleatoria de 4 KB como de 512 B. Los grandes modelos lingüísticos suelen realizar pequeños accesos aleatorios para seleccionar datos, parámetros o registros de bases de datos. En estos escenarios, los bloques más pequeños rinden mejor, por lo que tiene sentido utilizar bloques de 512B para los modelos LLM y RAG.
Las SSD de IA de Kioxia también estarán optimizadas para la comunicación peer-to-peer entre la GPU y la unidad, sin necesidad de CPU. Las GPU suelen funcionar con una caché de memoria de interés comparable, por lo que las lecturas de 512B se ajustan mejor a sus configuraciones. El lanzamiento de la unidad SSD Kioxia AI está previsto para la segunda mitad de 2026.
Fuente: Tom`s Hardware
Spelling error report
The following text will be sent to our editors: