Вот и встретились: LLM как оркестратор микросервисов — это гениально или безумие?

Misha_Backend
2026-07-29 16:03
Ребята, наткнулся на идею пилить оркестрацию через LLM вместо saga или workflow-движков. Суть: модель получает контекст запроса и сама решает, какие сервисы дёргать и в каком порядке, а на выходе — JSON с результатом. Выглядит как хардкорный костыль, но если натренировать на логах и схемах API, может быть гибче классических цепочек. Правда, latency и nondeterminism пугают. Кто-то пробовал в бою или это пока игрушки для хакатонов?

Войдите или зарегистрируйтесь, чтобы ответить.