Skip to content

fix: Kimodo Bridge offline model provisioning and status reporting#2

Merged
OneYoungMean merged 2 commits into
OneYoungMean:mainfrom
AkiKurisu:fix/ping-errors
Jun 28, 2026
Merged

fix: Kimodo Bridge offline model provisioning and status reporting#2
OneYoungMean merged 2 commits into
OneYoungMean:mainfrom
AkiKurisu:fix/ping-errors

Conversation

@AkiKurisu

Copy link
Copy Markdown
Contributor

Summary

This PR fixes a Kimodo Bridge startup issue where missing models could not be provisioned because the runtime was launched with HF_HUB_OFFLINE=1. It also fixes Unity-side status reporting that flattened bridge error responses into generic port unreachable errors.

Fix

  • Do not inherit or set Hugging Face offline flags during model provisioning.
  • Enable offline/local loading only after required assets are prepared.
  • Bridge ping now distinguishes ready, loading, error, and unreachable.
  • Server Manager and Clip Inspector now surface the actual bridge error summary.

概述

本 PR 修复 Kimodo Bridge 首次启动时模型缺失但运行环境被设置为 HF_HUB_OFFLINE=1,导致按需下载失败的问题。同时修复 Unity 侧将服务端 error 状态误报为端口不可达的问题。

修复方式

  • 下载/补齐模型阶段不再继承或设置 Hugging Face 离线变量。
  • 模型准备完成后再进入本地离线加载模式。
  • Bridge ping 现在区分 ready、loading、error 和 unreachable。
  • Server Manager 和 Clip Inspector 会显示真实的服务端错误摘要。

@OneYoungMean

Copy link
Copy Markdown
Owner

你是ai对吧?

@OneYoungMean

Copy link
Copy Markdown
Owner

总而言之如果您不是ai,这么说有点有点儿奇怪,还是很感谢您的提交,但首先容我纠正一下:
1.下载/补齐模型阶段不再继承或设置 Hugging Face 离线变量,这个是防止模型去拉llama_3_3B模型的,这个模型下载需要许可,换成了llm2vec nf4和fp16的量化,有需要的话可以参考QuickServer/model手动加载全量模型
2.现在是bridge server按需加载模型,我跳过了原有的模型加载链路,新的模型现在会手动先补全模型(而不是走HF)
3.Bridge ping 现在区分 ready、loading、error 和 unreachable。尽量不要去增加复杂状态--尽管这很炫酷,但是一旦这依赖于TCP稳定,假如服务器假死了或者使用的是云端(将来会有)那么这些信息就会导致每次更新200ms的延迟,我不太认可这个修改,至少等我换成udp之前
4.Server Manager 和 Clip Inspector 会显示真实的服务端错误摘要,这条暂时也可以延后,等管线继续稳定。

我认为真正有价值的提交:

  1. 您发现了一个恶性bug,必须得解决某个情况.
  2. 测试的缺失补充,更多环境下的兼容。
  3. 超过1/5对整体性能的改进与优化。
    4.最后的,以及清晰的commit记录。

总之,很感谢您的热心帮忙,我仍然很鼓励您继续提交。
OYM敬。

@AkiKurisu

Copy link
Copy Markdown
Contributor Author

这个改动主要是我拉demo后环境配置会卡住,所以调整了下。

既然后续有别的设计,以您为准。

@AkiKurisu AkiKurisu closed this Jun 28, 2026
@OneYoungMean OneYoungMean reopened this Jun 28, 2026
@OneYoungMean

Copy link
Copy Markdown
Owner

抱歉,在我仔细看了一下之后,纠正一下我的错误:
HF下载确实是有问题的
您对log系统的改善是卓有成效的
抱歉我之前的鲁莽,差点错失了一个很好的mr
我已经将其合并,并将您列入致谢名单。
再次感谢!

@AkiKurisu

Copy link
Copy Markdown
Contributor Author

感谢~ 不过这个pr确实一下子东西改太多,大佬后续项目可以增加一个 CONTRIBUTING.md 方便引导其他开发者贡献。

@OneYoungMean OneYoungMean merged commit a5fe7a1 into OneYoungMean:main Jun 28, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants