前言
教程来自up主 技术爬爬虾
网上有很多关于本地部署DeepSeek都不是真正的R1模型
因为是蒸馏模型,不如官方的聪明这是必然的
本期教程免费使用70B蒸馏模型,输出速度快,不用本地部署DeepSeek
教程
进入https://groq.com/官网,点击右上角DEV CONSOLE 需要国外上网环境
使用谷歌账户登录
右上角都是模型列表
这个deepseep-r1是基于llama蒸馏出的模型,参数70b
然后点击左侧API KEYS 点击下面创建key
复制KEY
打开Cherry studio官网(开源免费AI对话客户端)并安装https://cherry-ai.com/
进入软件点击左下角设置
模型服务选择Groq,填入刚才申请的key右上角启用模型
点击添加
复制我们的模型名字并添加
deepseek-r1-distill-llama-70b
点击助手,在最上方选中我们刚添加的模型就可以对话了
使用DENO会被ban!!!!!
由于Groq的api必须使用国外网络使用,所以我们得使用DENO把API中转至国内
打开项目地址https://github.com/tech-shrimp/deno-api-proxy
登录/注册 https://dash.deno.com/account/projects
点击右上角New Playground
打开项目文件main.ts并复制里面所有内容
async function handleRequest(request: Request): Promise<Response> {
const url = new URL(request.url);
const pathname = url.pathname;
if (pathname === '/' || pathname === '/index.html') {
return new Response('Proxy is Running!Details:https://github.com/tech-shrimp/deno-api-proxy', {
status: 200,
headers: { 'Content-Type': 'text/html' }
});
}
const targetUrl = `https://${pathname}`;
try {
const headers = new Headers();
const allowedHeaders = ['accept', 'content-type', 'authorization'];
for (const [key, value] of request.headers.entries()) {
if (allowedHeaders.includes(key.toLowerCase())) {
headers.set(key, value);
}
}
const response = await fetch(targetUrl, {
method: request.method,
headers: headers,
body: request.body
});
const responseHeaders = new Headers(response.headers);
responseHeaders.set('Referrer-Policy', 'no-referrer');
return new Response(response.body, {
status: response.status,
headers: responseHeaders
});
} catch (error) {
console.error('Failed to fetch:', error);
return new Response('Internal Server Error', { status: 500 });
}
};
Deno.serve(handleRequest);
粘贴进去点击部署
复制右上角域名粘贴至请求头
现在可以正常使用了,不需要国外ip
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
- 最新
- 最热
只看作者