LLM

概述 Hermes Agent 默认开启大模型的"思考模式"（reasoning mode），模型会在正式回答前先输出一段 <think> 推理过程。对于简单问答、命令补全等场景，这段思考既消耗 token 又会刷屏。本文记录关闭思考模式的三种方式，从临时到永久覆盖全场景。 一、3 种关闭方式对比 方式 命令/位置 生效范围 持久性 推荐场景 斜杠命令 /reasoning none 当前会话 临时 临时切换、调试 配置文件 display.show_reasoning: false 全局 永久 长期使用偏好 启动参数 hermes chat --reasoning none 单次启动 一次性 一次性任务、CI 二、方法一：斜杠命令（最常用） 在当前交互会话中直接输入： /reasoning none 可选级别： none —— 完全关闭思考（最省 token、响应最快） minimal —— 最小化思考 low / medium / high / xhigh —— 思考强度递增 hide —— 思考但不在终端回显（视觉静音） show —— 思考并显示（默认行为） 推荐组合： 日常命令补全：/reasoning none 既要质量又嫌刷屏：/reasoning hide 三、方法二：配置文件永久生效 编辑 ~/.hermes/config.yaml，在 display 段添加： ...

1. 下载源码 git clone https://github.com/langgenius/dify.git 2. Docker Compose 部署 2.1 进入 docker 目录并配置环境变量 cd dify cd docker cp .env.example .env 2.2 修改访问端口 编辑 .env 文件，修改 Nginx 暴露端口（避免与宿主机上已有服务冲突）： vim .env 找到并修改以下配置： EXPOSE_NGINX_PORT=8888 EXPOSE_NGINX_SSL_PORT=8443 默认是 80 和 443，如果已被占用可改为其他端口。 2.3 配置域名地址 编辑 .env 文件，设置 Dify 的 Web 和 API 访问地址： CONSOLE_API_URL=https://dify.example.com CONSOLE_WEB_URL=https://dify.example.com SERVICE_API_URL=https://dify.example.com APP_API_URL=https://dify.example.com APP_WEB_URL=https://dify.example.com 将 dify.example.com 替换为你的实际域名。 2.4 启动服务 docker compose up -d 启动后包含以下容器： 容器 用途 dify-nginx 反向代理，对外暴露 Web 和 API dify-api Dify 后端 API 服务 dify-worker 异步任务处理 dify-web 前端页面 db PostgreSQL 数据库 redis 缓存和消息队列 weaviate 向量数据库（用于 RAG 知识库） 3. Nginx 反向代理设置 如果 Dify 部署在内网服务器，需要通过 Nginx 反向代理暴露到公网： ...

1. 官网 https://ollama.com/ 2. 安装 curl -fsSL https://ollama.com/install.sh | sh 一键安装脚本会自动完成以下操作： 添加 Ollama APT 仓库 安装 Ollama 二进制文件 创建 ollama 系统用户 注册 ollama.service 系统服务 启动服务并设置开机自启 3. 环境配置 3.1 修改访问权限为所有 IP 默认 Ollama 只监听 127.0.0.1，局域网其他设备无法访问。修改为监听所有网络接口： vim /etc/systemd/system/ollama.service 在 [Service] 段下添加： Environment="OLLAMA_HOST=0.0.0.0" 重启服务： sudo systemctl daemon-reexec sudo systemctl restart ollama 3.2 更改模型存储位置 默认模型下载到 ~/.ollama/models/，系统盘空间不足时可迁移到数据盘： # 创建目标目录 mkdir -p /jgsteel/ollama # 修改目录所有者 chown -R ollama:ollama /jgsteel/ollama # 编辑服务配置 vim /etc/systemd/system/ollama.service 在 [Service] 段下添加： ...