Depositphotos
Дослідники з Університету Північної Кароліни представили новий інструмент на базі ШІ CacheMind для допомоги розробникам у підвищенні продуктивності CPU.
Зазначається, що це перший симулятор архітектури процесорів, здатний відповідати на довільні питання в режимі реального часу стосовно складної взаємодії апаратного та програмного забезпечення. Інструмент орієнтований на покращення роботи кешу, апаратного або програмного компонента, який зберігає дані, які система може використати найближчим часом.
Вилучення даних з кешу відбувається швидше, ніж з інших областей жорсткого диска, однак у кеші може зберігатись лише дуже обмежений обсяг даних. Для підвищення продуктивності розробники зазвичай використовують 2 методи. Метод попередньої вибірки покращує продуктивність внаслідок вибіркового збереження даних в кеші, які з найбільшою ймовірністю будуть використані системою. Також використовуються алгоритми для визначення того, що слід видалити з кешу аби додати нові дані.
“Оптимізація політики заміщення в кеші – складне завдання, оскільки важко визначити, які блоки даних будуть використовуватись у найближчому майбутньому. Для успішного вирішення цього завдання необхідно добре розуміти найдрібніші деталі того, що відбувається в системі, наприклад, які інструкції залежать від даних, яких немає в кеші”, — зазначає перший автор дослідження Каушал Мхапсекар.
Як зазначає співавтор дослідження Азам Ганбарі, наразі розробники використовують симулятори для оцінки того, як зміна алгоритмів заміщення даних у кеші вплине на продуктивність. Результати являють узагальнену статистику щодо використання блоків даних. Однак вони не враховують тонкощі, необхідні для визначення найкращих способів покращення політики заміщення даних.
Наявні методи переважно базуються на методі проб та помилок. Проводиться моделювання, аналізуються результати, тестується зміна алгоритмів попередньої вибірки або заміни, потім знову проводиться моделювання та перевірка, чи покращились результати.
“Більш ефективний метод полягає в аналізі того, що відбувається, виявленні закономірностей, які можна покращити, визначенні причин цих закономірностей, а потім впровадженні рішення. CacheMind був розроблений для того, щоб допомогти в цьому — він використовує причинно-наслідковий аналіз, а не метод проб і помилок, для покращення управління пам’яттю”, — зазначає провідна авторка дослідження Саміра Мірбагер Ажорпаз.
У завершеному варіанті дослідники отримали модель LLM, здатну вести діалог з розробниками та відповідати на їхні питання. За результатами тестів CacheMind покращив показники потрапляння необхідних даних у кеш та прискорив його роботу. Дослідники також розробили тест для порівняння продуктивності CacheMind з майбутніми аналогічними моделями.
Вони створили CacheMindBench, який складається зі 100 питань щодо політики заміщення кешу з перевіреними відповідями. За словами дослідників, він не обмежується лише питаннями пов’язаними з кешем, як і сам CacheMind. Цей бенчмарк допоможе іншим моделям LLM навчатись імітації логічного мислення в областях, в яких вони не були попередньо навчені.
Раніше ми писали, що AMD показала Ryzen 9 9950X3D2 з 208 МБ кешу і TDP 200 Вт — перший у світі CPU з подвійним 3D V-Cache. Intel працює над новими процесорами під кодовою назвою Serpent Lake, які можуть стати першими чипами з графічним блоком NVIDIA RTX.
Результати дослідження опубліковані на сервері препринтів arXiv
Джерело: TechXplore
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.