搜索
提交
工作笔记
数据库
docker
Linux
服务器
Java
git
Nginx
前端
私有云
maven
搜索引擎
运维
数据结构
SpringBoot
AI
部署llama.cpp
AI
|
2024-05-20 02:47:37
|
ZH
|
阅读(442)
|
状态:未完成
git clone http://github.com/ggerganov/llama.cpp
编译llama.cpp
使用GPU执行【推荐】:
cd llama.cpp
make LLAMA_CUBLAS=1
使用CPU执行【安装简单】:
cd llama.cpp
make
提示缺少 ccache,安装
brew install ccache
安装完成以后,再次make
提示bash: brew: command not found【
安装brew
】
docker环境CPU运行Llama 3 8B大模型和对话客户端
Ollama部署本地中文环境大模型
最新
Docker部署Easysearch
Docker部署StarRocks单机版
word文档失去输入焦点
Win10无法访问网上邻居
docker 部署 clickhouse
CentOS中安装中文字体
docker 部署 oracle
docker部署hbase
docker部署milvus
pgvector安装
centos7安装OceanBase
docker部署OceanBase
tdengine rest连接服务器
yum配置
docker导入导出镜像(容器)
centos安装mongodb
centos安装cronolog
centos7安装jdk21
docker修改镜像(容器修改内容提交到镜像)
Windows只能安装在GPT磁盘