Віцепрезидент Microsoft створив GPU Taskman для детального контролю відеопам’яті
Віцепрезидент Microsoft і GitHub Скотт Хансельман створив відкритий GPU Taskman для моніторингу використання відеопам’яті окремими процесами. Утиліта також показує навантаження, температуру, енергоспоживання та дані про локальні ШІ-моделі.
Image: itc.ua · Author: \u041e\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0424\u0435\u0434\u043e\u0442\u043a\u0456\u043d · source articleEditorial excerpt for news reporting
Віцепрезидент і член технічного персоналу Microsoft/GitHub Скотт Хансельман створив відкритий застосунок GPU Taskman для детального моніторингу використання відеопам’яті графічними процесорами.
Утиліта показує, скільки VRAM споживає кожен активний процес, і об’єднує ці дані із системною пам’яттю, активністю процесів та телеметрією в термінальному інтерфейсі.
Дані про GPU та окремі процеси
GPU Taskman відображає навантаження на GPU, використання VRAM, температуру, енергоспоживання, тактові частоти, активність пам’яті та дані PCIe. Програма також розрізняє композитинг робочого столу, браузери, ігри та застосунки на базі ШІ.
Окремий модуль призначений для локальних ШІ-моделей. У підтримуваних середовищах він може показувати архітектуру, квантування, кількість параметрів, ваги та потенційні вимоги до кешу ключ-значення.
Наразі застосунок розпізнає llama.cpp, Ollama та LM Studio. Він відокремлює пам’ять, виділену під ваги моделі, кеш ключ-значення та обчислювальні буфери.
Оцінювані значення та обмеження
GPU Taskman використовує лічильники GPU, метадані процесів, файли моделей, журнали виконання та локальні API. Частина значень для конкретних моделей є оцінкою, а не прямим вимірюванням виділеної пам’яті.
Хансельман також попередив, що використання системної пам’яті не обов’язково свідчить про повне вичерпання VRAM: програма не ідентифікує окремі ігрові текстури та не визначає, які ресурси було вилучено.
Підтримувані системи та версія 0.3.5
GPU Taskman працює з відеокартами NVIDIA та AMD у Windows 10/11, Linux, WSL і macOS, хоча функції залежать від операційної системи та обладнання.
Версія v0.3.5, випущена 10 листопада, додала підтримку графіки Intel у Linux, моніторинг CPU та системної оперативної пам’яті, а також додаткові параметри запису даних. Проєкт поширюється за ліцензією MIT; для Windows доступні портативні збірки, а встановлення також можливе через PyPI.
Що ми знаємо
- Скотт Хансельман створив відкритий GPU Taskman для відстеження використання VRAM окремими процесами.
- Утиліта показує навантаження GPU, температуру, енергоспоживання, тактові частоти та дані PCIe.
- Застосунок розпізнає llama.cpp, Ollama та LM Studio і розділяє пам’ять моделей за типами.
- Версія v0.3.5 додала підтримку графіки Intel у Linux, моніторинг CPU та системної оперативної пам’яті.
- GPU Taskman працює на Windows 10/11, Linux, WSL і macOS із відеокартами NVIDIA та AMD.
Довіра: Одне джерело
- Матеріал спирається на одного видавця. Другого незалежного підтвердження в наведених джерелах не встановлено.
- Джерела: ITC.ua.
СПІЛЬНОТА
Обговорення
Увійдіть, щоб долучитися до обговорення.
Завантажуємо коментарі…