【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型

【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型

前言

教程来自up主 技术爬爬虾

网上有很多关于本地部署DeepSeek都不是真正的R1模型

因为是蒸馏模型,不如官方的聪明这是必然的

本期教程免费使用70B蒸馏模型,输出速度快,不用本地部署DeepSeek

图片[1]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

教程

进入https://groq.com/官网,点击右上角DEV CONSOLE   需要国外上网环境

使用谷歌账户登录

图片[2]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

右上角都是模型列表

图片[3]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

这个deepseep-r1是基于llama蒸馏出的模型,参数70b

然后点击左侧API KEYS 点击下面创建key 

图片[4]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

图片[5]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

复制KEY

打开Cherry studio官网(开源免费AI对话客户端)并安装https://cherry-ai.com/

进入软件点击左下角设置

图片[6]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

模型服务选择Groq,填入刚才申请的key右上角启用模型

点击添加

图片[7]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

复制我们的模型名字并添加

deepseek-r1-distill-llama-70b

图片[8]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

图片[9]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

点击助手,在最上方选中我们刚添加的模型就可以对话了

图片[10]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

使用DENO会被ban!!!!!

由于Groq的api必须使用国外网络使用,所以我们得使用DENO把API中转至国内

打开项目地址https://github.com/tech-shrimp/deno-api-proxy

图片[11]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

登录/注册 https://dash.deno.com/account/projects

点击右上角New Playground

图片[12]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

打开项目文件main.ts并复制里面所有内容

图片[13]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

async function handleRequest(request: Request): Promise<Response> {

  const url = new URL(request.url);
  const pathname = url.pathname;

  if (pathname === '/' || pathname === '/index.html') {
    return new Response('Proxy is Running!Details:https://github.com/tech-shrimp/deno-api-proxy', {
      status: 200,
      headers: { 'Content-Type': 'text/html' }
    });
  } 
  
  const targetUrl = `https://${pathname}`;

  try {
    const headers = new Headers();
    const allowedHeaders = ['accept', 'content-type', 'authorization'];
    for (const [key, value] of request.headers.entries()) {
      if (allowedHeaders.includes(key.toLowerCase())) {
        headers.set(key, value);
      }
    }

    const response = await fetch(targetUrl, {
      method: request.method,
      headers: headers,
      body: request.body
    });

    const responseHeaders = new Headers(response.headers);
    responseHeaders.set('Referrer-Policy', 'no-referrer');

    return new Response(response.body, {
      status: response.status,
      headers: responseHeaders
    });

  } catch (error) {
    console.error('Failed to fetch:', error);
    return new Response('Internal Server Error', { status: 500 });
  }
};

Deno.serve(handleRequest);

图片[14]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

粘贴进去点击部署

图片[15]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

复制右上角域名粘贴至请求头

图片[16]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

图片[17]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

现在可以正常使用了,不需要国外ip

图片[18]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

© 版权声明
THE END
喜欢就支持一下吧
点赞15 分享
评论 共3条
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片快捷回复
    • 头像dusays.com0
    • 九笙的头像-孤独の博客九笙等级-LV10-孤独の博客作者0