Вибір тензорних акселераторів під конкретні задачі: що таке compute/memory bound models, «арифметична інтенсивність» та квантування моделей

Ми як провайдер бачимо що нерідко потенційні клієнти дещо дезорієнтовані в питаннях вибору акселераторів. Технології змінюються дуже швидко, тому питання «а що там на ринку, а чим відрізняються всі ці картки, а які кращі» мають місце бути. І критерії вибору досить непрості. Що таке compute/memory bound models, «арифметична інтенсивність» і квантування моделе? Ці характеристики мають вирішальне значення при виборі інфраструктури.