Як вижити з 1 млрд векторів і не продати нирку: наш low-cost кластер [ukr]

Проговоримо про нашу історію. Як ми починали проєкт з невеликою векторною базою менш ніж 2 млн записів. Згодом прийшов запит на +100 млн записів, потім ще +100… І так поступово ми вийшли майже на 1 млрд. Стандартні інструменти швидко вичерпували себе — ми впирались у перформанс, розмір індексу та дуже обмежені ресурси. Після довгої серії проб і помилок ми зібрали власний low-cost кластер, який сьогодні стабільно обробляє тисячі запитів до понад 1B векторів.