Mesh LLM: распределённый запуск LLM на iroh
В iroh показывают Mesh LLM — распределённый подход к AI-вычислениям, где модель и нагрузка размазываются по сети узлов. По описанию это не «ускоритель магии», а попытка сделать из разрозненных машин что-то вроде mesh-сети для инференса и других LLM-задач, что звучит как способ превратить проблему латентности в архитектурное искусство.