在边缘网络上部署 DeepSeek 推理应用

小麦2025年02月12日759 字

在上期视频的最后,我介绍了边缘计算的应用场景,

并提到可以在边缘计算节点上部署 Web 函数。

如果新来的朋友还不了解什么是边缘计算,可以回看上期视频。

这期视频就来填个坑,实操演示一下如何在边缘节点上,部署一个基于 DeepSeek 的前端应用,并分析代码研究在这个场景中,边缘函数是如何发挥作用的。

请允许我拿腾讯云的「边缘安全加速平台」这个产品举例子,注意这不是广告(腾讯云打钱!)。

选择 EdgeOne -> Open Edge 下有一个叫做 Pages 的功能,为了演示边缘计算,我们选择 “创建项目”,

接着选择下面的 deepseek template 模板,这是一个使用 DeepSeek API 一句话生成简单前端代码和在线演示的工具。

绑定 Github 账号后就可以点击 “立即创建” 开始部署了。

部署完成后就可以通过它的预览按钮预览网站了,注意你需要根据代码仓库中 README 的提示,设置 DeepSeek API key 才能正常使用它的功能。

或是通过腾讯云提供的 DEMO 地址体验。

接下来让我们研究一下这个项目的代码,在 functions/api/generateCode.ts 文件中,我们看到导出了一个 onRequest 函数,接收 request 对象。

在这个函数中,代码通过 openai sdk 调用大语言模型完成推理任务,随后返回一个 Response 对象,显然这就是一个进行 AI 推理的边缘函数。

在页面端,代码通过 fetch 函数请求接口并传递用户提示词,获取到结果后进行后续的页面渲染动作。

由于边缘计算节点是分布式部署的,这意味着这个前端应用调用的推理接口,可以在更靠近用户的位置,快速响应用户需求。

相比传统的一台服务器放一个网站的架构,无论是延迟体验、可扩展性还是容灾性能,边缘计算的优势都相当明显。

边缘计算可以在另一个维度上,帮助前端大幅度提升用户体验。你可以利用它探索更多可能性,比如边缘服务端渲染 ESR(Edge Server Render)。

本期视频我们演示了如何在边缘计算节点上部署前端应用。

如果对你有用,请投币、收藏和转发,你的支持是我持续更新的最大动力。

我是小麦,一位热爱分享的前端工程师,期待和你分享更多硬核的内容。

评论

你需要先登录才能发表评论
Made by 捣鼓键盘的小麦 / © 2025 Front Talk 版权所有