支持text-generation-webui吗?我这里一直loading

#11
by carlosbdw - opened

官方能否提供一个能跑的py demo阿?

能load,但是效果和页面上给的即行推理代码效果差异非常大,甚至可以说是崩掉,建议官方出一个web ui的demo,否则自己写的会认为是模型有问题。

This comment has been hidden

Sign up or log in to comment