Dify添加模型max_tokens_too_small异常
侧边栏壁纸
  • 累计撰写 222 篇文章
  • 累计收到 1,666 条评论

Dify添加模型max_tokens_too_small异常

萧瑟
2026-03-12 / 2 评论 / 26 阅读 / 正在检测是否收录...

环境信息

Dify版本:1.10.1

插件版本:OpenAI-API-compatible 0.0.36

异常问题

添加自定义模型出现 {"error":{"code":"max_tokens_too_small","message":"max_tokens must be at least 10 (request id: xxxxx)"}} 错误;

异常问题

通过GitHub提问,目前是已知问题:与 OpenAl-API 兼容的插件在进行凭证验证时使用了固定的“max_tokens: 5”设置,低于许多模型所要求的最小令牌数5;

修改方法

docker部署解决方案:

找到映射的目录文件:

docker/volumes/plugin_daemon/cwd/langgenius/openai_api_compatible-0.0.**@**/.venv/lib/python3.12/site-packages/dify_plugin/interfaces/model/openai_compatible/llm.py

找到 validate_credentials_max_tokens = credentials.get("validate_credentials_max_tokens", 5) or 5 进行修改

修改为5为16或者更高,就可以解决这个问题。

参考文档

issues 1694

issues 2710

评论 (2)

取消
  1. 头像
    acevs
    山东省青岛市城阳区 Windows 10 · Google Chrome

    本地部署?

    回复
    1. 头像
      萧瑟 作者
      北京市海淀区 Android · Google Chrome
      @ acevs

      是的,私有化部署dify,然后编写程序调用私有化dify,开发agent应用。

      回复