Системные требования
Аппаратные средства
Nvidia
Содержание агента: 0.1 ядра CPU, 0.4 Gb RAM.
Потребление на поток – 20–25 FPS для точности вычислений FP32. Все потребление CPU рассчитано в количестве потоков с гипертредингом.
| Название | CPU | RAM | VRAM | GPU (FP32) |
|---|---|---|---|---|
| Разжатие видео | 0.2 потока (0.15 ядра) | – | – | – |
| Идентификация лиц | 1.1 потока (0.7 ядра) | 1.3 Gb+3 Gb на 1 млн лиц | 0.25 Gb | 1.2 TFLOP |
| Идентификация лиц (только на CPU) | 2.3 потока (1.6 ядра) | 3.5 Gb+3 Gb на 1 млн лиц | – | – |
| Детекция тел и контроль частей тела | 1.3 потока (0.9 ядра) | 0.4 Gb | 0.3 Gb Cuda 0.2 Gb Tensor | 1.4 TFLOP Cuda 1.0 TFLOP Tensor |
| Поведенческая активность (HAR) добавляется к потреблению на детектор тел | 0.2 потока (0.13 ядра) | 0.2 Gb | 0.3 Gb | 3.0 TFLOP Cuda 2.5 TFLOP Tensor |
| UAD новые объекты (700×700) | 1.9 потока (1.3 ядра) | 1.9 Gb | 1.8 Gb | 3.8 TFLOP |
| Детекция объектов (телефон, сигареты и др.) | 0.4 потока (0.3 ядра) | 0.17 Gb | 0.15 Gb | 1.2 TFLOP Cuda 0.8 TFLOP Tensor |
| Контроль оператора/водителя (DSM) | 1.0 потока (0.7 ядра) | 1.0 Gb | 1.4 Gb | 3.1 TFLOP |
Спецификация тестовой машины десктоп (Nvidia)
- OS: Ubuntu 20.04
- CPU: AMD Ryzen 9 5950X @ 3.4Ghz: 16 cores (32 threads)
- RAM: 118 Gb DDR4
- VRAM: 11Gb
- Disk: 500 Gb Samsung SSD 870 (read 560 MB/s, write 530 MB/s)
- GPU: NVIDIA GeForce GTX 1080 Ti 10.6 TFLOPS
Сравнение видеокарт NVIDIA по производительности FP32/FP16
| Видеокарта | Объём VRAM | FP32 (одинарная точность) | FP16 (половинная точность) |
|---|---|---|---|
| GTX 1080 Ti | 11 GB GDDR5X | 11 TFLOPS | 0.2 TFLOPS |
| RTX 2080 Ti | 11 GB GDDR6 | 13 TFLOPS | 26 TFLOPS |
| RTX 3060 Ti | 8 GB GDDR6 | 16 TFLOPS | 32 TFLOPS |
| RTX 3080 Ti | 12 GB GDDR6X | 34 TFLOPS | 68 TFLOPS |
| RTX 4070 | 12 GB GDDR6X | 22 TFLOPS | 58 TFLOPS |
| RTX 4090 | 24 GB GDDR6X | 82 TFLOPS | 165 TFLOPS |
Edge (Sophgo)
Содержание агента: CPU 0.1 ядра, RAM 0.4 Gb
Потребление на поток – 20–25 FPS для точности вычислений FP16.
| Название | CPU | RAM | RAM NPU | NPU (FP16) |
|---|---|---|---|---|
| Разжатие видео | 0.3 ядра | 0.05 Gb | 0.17 Gb | – |
| Подсчет пассажиров (APC) | 0.6 ядра | 0.05 Gb | 0.20 Gb | 1.5 TOPS |
| Контроль водителя (DSM) | 1.3 ядра | 0.10 Gb | 0.25 Gb | 2.3 TOPS |
| Детекция тел и контроль частей тела | 1.4 ядра | 0.10 Gb | 0.05 Gb | 1.6 TOPS |
| Поведенческая активность (HAR) добавляется к потреблению на детектор тел | 0.8 ядра | 0.02 Gb | 0.02 Gb | 4.5 TOPS |
| UAD новые объекты (700×700) (10 FPS) | 3.5 ядра | 0.28 Gb | 0.09 Gb | 5.6 TFLOP |
Спецификация тестовой машины Edge (Sophgo)
- OS: Ubuntu 20.04
- CPU: ARM Cortex-A53 @ 2.3 GHz: 8 cores
- RAM: 8 Gb LPDDR4x
- VRAM: 8 Gb LPDDR4x
- Disk: 64 Gb eMMC
- NPU: 16 TFLOPS (FP16)
Поддержка Sophgo доступна для ограниченного набора сценариев видеоаналитики (без поддержки распознавания лиц и детекции телефонов). Ускорение на встроенном аппаратном ускорителе включено по умолчанию; CUDA и TensorRT не поддерживаются.
Для расчета серверных мощностей воспользуйтесь калькулятором.
Программное обеспечение
Поддерживаемые ОС: Windows 10+ (x86_64), Ubuntu 14+ (x86_64).
Для стабильной работы OMNI Agent аппаратные средства не должны быть загружены более чем на 80%.
При размере БД более 50К персон рабочий каталог агента должен располагаться на SSD накопителе.
Требования к GPU
Системные требования
- Linux / Windows:
- GPU Driver >= 441.22
- CUDA Toolkit 11.8
- cuDNN v8.8.0 для CUDA 11.x
- TensorRT 8.6 (опционально)
Требования к оборудованию
- Графический процессор (GPU) с поддержкой CUDA (от NVIDIA GTX 1050 Ti до RTX 4090 включительно (Compute capability 3.5-9.0)).