1.4 KiB
1.4 KiB
人工智能助手chatglm2-6B
针对中文优化的对话模型
早前chatgpt需要续费,于是在本地部署了开源的gpt4all
但是实际的对话效果很差,对中文不好有,且用cpu进行计算
于是换成了chatglm2-6B
用GPU来跑,虽然显存并不高,12G,系统是ubuntu22.04
在本地部署chatglm-int4的量化模型
stable diffusion文字生成图片
免费开源
早前也是在内网部署了webui,就是stable diffusio的网页版本
由于这次想要对接微信机器人
于是就启用了stable diffusion 的api
只需要把启动参数改成nowebui就可以了
微信机器人
为什么要接入微信机器人?
因为,懒得记网页的域名
实现的效果如下:
-
默认智能对话
-
/img 文字描述=>生成图片
总结
AIGC提升效率
chatgpt 和midjourney的质量优于开源模型
但是私有化部署是企业或小型团队的刚需
随着不断地迭代升级,通过本地的gpu服务器,实现低成本实现个人助手,未来可期