前言 最近看到这么一个工具—— ollama-ocr ,利用本地大模型直接进行 OCR,试用了一下,感觉效果还不错,联想之前看到的一个项目—— PDFMathTranslate ,感觉本地大模型已经非常成熟了,部署使用也越来越简单了。 如果需要提供 LLM 服务,还是用 vLLM 部署相对合适。 这篇文章 Friends Don't Let Friends Use Ollama ,不推荐使用 Ol…
前言 最近看到这么一个工具—— ollama-ocr ,利用本地大模型直接进行 OCR,试用了一下,感觉效果还不错,联想之前看到的一个项目—— PDFMathTranslate ,感觉本地大模型已经非常成熟了,部署使用也越来越简单了。 如果需要提供 LLM 服务,还是用 vLLM 部署相对合适。 这篇文章 Friends Don't Let Friends Use Ollama ,不推荐使用 Ol…
讨论
登录后参与讨论
还没有评论,来说第一句吧。