Etched є одним з конкурентів NVIDIA на ринку процесорів для штучного інтелекту. Стартап пропонує інший підхід до їхнього створення, який схожий на виробництво ASIC для майнінгу — спеціалізацію на конкретному типі генеративного ШІ, а саме так званих трансформерах. Чипи не працюватимуть з іншими моделями, проте з конкретними матимуть на порядки більшу продуктивність. Представлені процесори Sohu працюють з Llama 70B і здатні обробляти 500 тис. токенів за секунду. Сервер з 8x чипів Sohu при цьому здатний замінити 160 процесорів NVIDIA H100.
Скопіюйте та вставте це посилання до свого WordPress сайту, щоби вставити
Скопіюйте та вставте цей код собі на сайт, щоби вставити