AUT-0649Знання та ШІ · Чернетка
Відкладена обробка запитів до ШІ при обмеженні пропускної здатності
ПроблемаПік запитів викликає багато повторів і ще більше перевантажує сервіс. Частина текстів губиться або отримує кілька бізнес-результатів після повторної відповіді.
РезультатКожний текст має один ключ обробки, обмежені спроби й явний стан; відкладені або невизначені результати не запускають повторні бізнес-дії.