搜索
提交
工作笔记
数据库
docker
Linux
服务器
Java
git
Nginx
前端
私有云
maven
AI
搜索引擎
运维
开发工具
SpringBoot
部署llama.cpp
AI
|
2024-05-20 02:47:37
|
ZH
|
阅读(669)
|
状态:未完成
git clone http://github.com/ggerganov/llama.cpp
编译llama.cpp
使用GPU执行【推荐】:
cd llama.cpp
make LLAMA_CUBLAS=1
使用CPU执行【安装简单】:
cd llama.cpp
make
提示缺少 ccache,安装
brew install ccache
安装完成以后,再次make
提示bash: brew: command not found【
安装brew
】
docker环境CPU运行Llama 3 8B大模型和对话客户端
Ollama部署本地中文环境大模型
最新
整合RAGFlow、Dify、Ollama、DeepSeek
ubuntu部署ollama
ubuntu查看版本号
centos8 yum dnf配置
centos部署ollama
docker快速部署opengauss
Windows文件在CentOS中的格式转换问题
docker 部署oceanbase
文件上传
electron创建应用
Error response from daemon: Get "https://registry-1.docker.io/v2/
Authenticator: 2FA Client
yum执行失败Error: Error: rpmdb open failed
Docker部署Easysearch
Docker部署StarRocks单机版
word文档失去输入焦点
Win10无法访问网上邻居
docker 部署 clickhouse
CentOS中安装中文字体
docker 部署 oracle