相关文章
vLLM 部署 DeepSeek 大模型避坑指南
本文基于实战经验,提供从环境准备到性能调优的全流程避坑指南。
一、环境准备:驱动与硬件兼容性
1. NVIDIA 驱动与 CUDA 版本对齐
确保NVIDIA驱动和CUDA版本相互匹配是关键。例如,CUDA 12.x需要至少525.60的驱动版本。
# 使用 nvidia-smi…
建站知识
2025/3/29 16:09:05
Linux后台启动命令nohup并且MobaXterm后台启动断网也不关闭软件
nohup主要作用就是可以在后台运行,并可以选择将日志输出到指定文件。如启动一个程序,若使用./demo的方式启动程序当窗口关闭的时候程序也停止了,而且日志会直接输出到控制台非常不直观,nohup启动就可以解决这两个问题。
nohup与&…
建站知识
2025/3/29 16:11:36
✨1.HTML、CSS 和 JavaScript 是什么?
✨✨ HTML、CSS 和 JavaScript 是构建网页的三大核心技术,它们相互协作,让网页呈现出丰富的内容、精美的样式和交互功能。以下为你详细介绍: 🦋1. HTML(超文本标记语言)
定义:HTML 是一种用于描…
建站知识
2025/3/29 16:13:57
HTML【详解】input 标签
input 标签主要用于接收用户的输入,随 type 属性值的不同,变换其具体功能。 通用属性 属性属性值功能name字符串定义输入字段的名称,在表单提交时,服务器通过该名称来获取对应的值disabled布尔值禁用输入框,使其无法被…
建站知识
2025/3/29 16:14:52
Github很慢/无法访问:简单两步搞定
第一步:获取github当前的DNS列表
第二步:把它们复制到自己本地的hosts文件中,保存 比大象装冰箱还少一步!( 下面具体说怎么操作 ~) 获取github当前的DNS列表
http://raw.hellogithub.com/hosts
把这个地址粘贴到浏…
建站知识
2025/3/19 16:31:09
调用deepseek接口
首次调用
http请求
curl https://api.deepseek.com/chat/completions \-H "Content-Type: application/json" \-H "Authorization: Bearer <DeepSeek API Key>" \-d {"model": "deepseek-chat","messages": [{"…
建站知识
2025/3/11 17:25:03