OllmOne现已支持Llama 3

Llama 3已经发布了,现在想要快速尝试Llama 3,只需要从Mac App Store下载OllmOne。

OllmOne是一款离线大语言模型工具,我刚刚为OllmOne支持了Llama 3,欢迎各位小伙伴提出宝贵的建议!

OllmOne有一些好用的功能,我简单介绍一下。

支持流行的开源大模型

大模型支持:Llama3, Llama2, Gemma, Yi, Qwen, Mistral, CodeLlama, CodeGemma.

大模型完全本地运行,模型下载好后断网也可以使用,不需要担心数据安全问题,不需要为API调用长期付费。

Markdown渲染以及会话历史记录

界面非常美观,历史记录也是完全本地存储的。

支持数学公式友好展示

支持Katex格式的数学公式渲染。

支持流程图展友好展示

支持mermaid格式的图表展示。

支持URL网页内容浏览

这个功能就是当你输入的问题中包含有网页URL时,应用会自动去抓取这个网页的内容然后发给大模型,毕竟直接发给大模型URL是没有意义的。‍当然了,这个功能需要联网才能使用。

支持将当前的对话记录导出

如果想要给别人分享你的对话内容,可以将当前对话导出为HTML和Markdown两种格式。

导出的HTML长这样,还是挺好看的。

模型自动下载

模型第一次使用需要进行下载,这个下载是自动的,目前国内的下载速度可能比较慢,后续会优化。

本地模型管理

模型下载后可以在模型管理页查看已下载的模型信息,可以将不需要的模型删除,释放硬盘空间,因为模型都比较大,这个功能还是很有必要的。

应用设置

提供了对应用的一些基本设置,支持多种界面语言,支持明亮模式和暗黑模式。

主要的功能就这么多,后续还会增加更多的功能。

对于Windows系统的支持,我也在尝试做,遇到了一些困难,正在慢慢解决。