软件介绍
MNN Chat简体中文汉化版是一款由淘宝(中国)软件有限公司所推出的功能类似于Google AI Edge Gallery的手机多模态端侧AI软件,这款软件最大的优势就是能够自动部署相应的本地AI大模型,这样一来就能够很好的脱离网络环境,实现了离线效果。相关用户在这里可以轻轻松松进行一系列AI操作,能够很好的提升了相关用户的工作、学习效率。
MNN Chat简体中文汉化版不仅能够充分调用手机CPU/GPU性能,而且更是支持多种领先的模型,包括了:Qwen、Gemma、Llama(涵盖TinyLlama与MobileLLM)、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm等待,相关用户在这里可以随心所欲的进行ai聊天、ai生成图文、ai视频制作、ai写代码等操作。
功能特色
【多模态支持】
提供多种任务功能,包括文本生成文本、图像生成文本、音频转文本及文本生成图像(基于扩散模型)。
【CPU推理优化】
在安卓平台上,MNN-LLM展现了卓越的CPU性能,预填充速度相较于llama.cpp提高了8.6倍,相较于fastllm提升了20.5倍,解码速度分别快了2.3倍和8.9倍。下图为 llama.cpp 与 MNN-LLM 的比较。
【广泛的模型兼容性】
支持多种领先的模型提供商,包括Qwen、Gemma、Llama(涵盖TinyLlama与MobileLLM)、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm。
【本地运行】
完全在设备本地运行,确保数据隐私,无需将信息上传至外部服务器。
MNN Chat app使用简介
1、本站免费下载安装应用后,您可以在模型市场界面中浏览所有支持的模型。

2、然后选择你需要的ai大模型下载。

3、下载好后就可以直接在应用内与模型交互。

4、此外,您可以通过侧边栏访问聊天历史,轻松查看和管理之前的对话记录。

应用场景
1、全能创作官:
它不只是陪你聊天,更是你的全职文案加程序员。无论是写复杂的学术论文、策划活动方案,还是直接在手机上帮你写出一段能运行的代码,它都能手到擒来。
2、随身多媒体工作室:
它是你的全能绘图师与视频帮手。你可以一句话让它生成精美的画作,或者让它看懂一段视频并帮你总结核心内容、提取文案,甚至辅助你完成视频剪辑思路,实现从文字到图文、再到视频的跨维度创作。
3、真正的“智慧大脑”:
相比其他单一功能的 App,它更像是一个超级枢纽。它能同时理解图片、声音和视频,你可以拍一张复杂的流程图让它转化成代码,或者录一段会议音频让它直接生成带配图的PPT大纲。
4、不插线的“工作站”:
最关键的是,这些高强度的创作任务(画图、分析视频、写程序)全是在你手机本地完成的。这意味着你拥有了一个不费流量、不收月费、响应极快的高性能 AI 工作站,随时随地开启生产力。
更新日志
v0.8.2.2版本
1、更新亮点:
刷新内置 MNN runtime,带入最新的 CPU LinearAttention 与 Arm82 fp16 优化路径。
提升思考模式提示词和数组拼接场景下的 tokenizer 与模板渲染兼容性。
为 OpenCL 和 Metal 执行路径补充 TopKV2 后端支持。
2、问题修复:
修复 Android 点击 Add Local Model 时的崩溃问题。
避免模型加载时因 mmap 权重部分初始化而导致的死锁问题。
对同模型启动 API 服务时复用已加载 runtime session,避免额外重载导致的卡死或崩溃。
图片预览
本站所有软件均来自互联网,如有侵权,联系删除
相关推荐




































粤ICP备2024276164号-5
粤公网安备44090202001253号