方式一:基于httpclient
步骤 1:准备工作
获取 deepseek api 密钥:访问 deepseek 的开发者平台,注册并获取 api 密钥。
步骤 2:引入依赖
<dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-web</artifactid> </dependency>
步骤 3:配置 deepseek api
配置参数:在 application.yml 文件里,把 deepseek 的 api 端点和密钥写进去:
在 application.properties
或 application.yml
中配置 deepseek 的 api 密钥和端点:
deepseek.api.key=sk-xxxxxxxxxx deepseek.api.url=https://api.deepseek.com/v1/chat/completions
步骤 4:自定义 deepseek client service
(1)自定义请求头
public record deepseekrequest( string model, list<message> messages, double temperature, int max_tokens ) { public record message(string role, string content) {} }
(2)自定义响应体
public record deepseekresponse( string id, string object, long created, string model, list<choice> choices ) { public record choice( int index, message message, string finish_reason ) { public record message(string role, string content) {} } }
(3)service
import org.springframework.beans.factory.annotation.value; import org.springframework.boot.web.client.resttemplatebuilder; import org.springframework.http.*; import org.springframework.stereotype.service; import org.springframework.web.client.resttemplate; import java.util.list; @service public class deepseekservice { @value("${deepseek.api.url}") private string apiurl; @value("${deepseek.api.key}") private string apikey; private final resttemplate resttemplate; public deepseekservice(resttemplatebuilder resttemplatebuilder) { this.resttemplate = resttemplatebuilder.build(); } public string getchatresponse(string usermessage) { // 构造请求体 deepseekrequest request = new deepseekrequest( "deepseek-chat", list.of(new deepseekrequest.message("user", usermessage)), 0.7, 1000 ); // 设置请求头 httpheaders headers = new httpheaders(); headers.setcontenttype(mediatype.application_json); headers.setbearerauth(apikey); httpentity<deepseekrequest> entity = new httpentity<>(request, headers); // 发送请求 responseentity<deepseekresponse> response = resttemplate.exchange( apiurl, httpmethod.post, entity, deepseekresponse.class ); // 处理响应 if (response.getstatuscode().is2xxsuccessful() && response.getbody() != null) { return response.getbody().choices().get(0).message().content(); } throw new runtimeexception("api请求失败: " + response.getstatuscode()); } }
请求体中可以指定:调整模型、温度、最大 token 数等
什么是温度(temperature)?
温度是控制模型生成文本的“创造力”或“随机性”的一个参数。你可以把它想象成调节模型的“脑洞大小”。
温度低(比如 0.1):
模型会变得非常保守,倾向于选择最确定、最安全的答案。
适合需要准确性和一致性的任务,比如回答事实性问题。
例子:问“1+1等于几?”,模型会回答“2”,不会瞎编。
温度高(比如 1.0 或更高):
模型会变得更有创造力,可能会给出一些意想不到的回答。
适合需要创意或多样性的任务,比如写故事、生成诗歌。
例子:问“写一首关于秋天的诗”,模型可能会生成一些充满想象力的句子。
温度适中(比如 0.7):
模型会在保守和创意之间找到一个平衡点。
适合大多数任务,既能保证一定的准确性,又能有一些变化。
总结:
温度低 → 模型像“学霸”,回答严谨但可能无聊。
温度高 → 模型像“艺术家”,回答有趣但可能不靠谱。
温度适中 → 模型像“聪明人”,回答既靠谱又有趣。
最大 token 数(max tokens)
token 是模型处理文本的基本单位,可以理解为一个词或一部分词。
比如:
英文单词“hello”是一个 token。
中文“你好”可能是两个 token(每个字一个 token)。
长单词或复杂字符可能会被拆成多个 token。
最大 token 数就是限制模型生成的文本长度。可以把它想象成给模型一个“字数限制”。
设置较小的最大 token 数(比如 50):
模型生成的文本会非常短,可能只回答问题的核心部分。
例子:问“介绍一下太阳系”,模型可能只回答“太阳系包括太阳和八大行星”。
设置较大的最大 token 数(比如 500):
模型生成的文本会更长,可能会包含更多细节。
例子:问“介绍一下太阳系”,模型可能会详细描述每颗行星的特点。
不设置最大 token 数:
模型可能会一直生成文本,直到达到它的内部限制(通常是几千个 token)。
这可能会导致生成的文本过长,甚至跑题。
总结:
最大 token 数小 → 模型像“话少的人”,回答简短。
最大 token 数大 → 模型像“话多的人”,回答详细。
不设置最大 token 数 → 模型像“话痨”,可能会一直说个不停。
步骤 5:创建控制器
@restcontroller @requestmapping("/deepseek/chat") public class deepseekcontroller { private final deepseekservice deepseekservice; public deepseekcontroller(deepseekservice deepseekservice) { this.deepseekservice = deepseekservice; } @postmapping public responseentity<?> chat(@requestbody map<string, string> request) { try { string response = deepseekservice.getchatresponse(request.get("message")); return responseentity.ok(collections.singletonmap("response", response)); } catch (exception e) { return responseentity.status(httpstatus.internal_server_error) .body(collections.singletonmap("error", e.getmessage())); } } }
方式二:基于spring-ai-openai
步骤基本一致,这里罗列几处实现代码
依赖:
<properties> <java.version>17</java.version> <spring-ai.version>1.0.0-m5</spring-ai.version> </properties> <dependency> <groupid>org.springframework.ai</groupid> <artifactid>spring-ai-openai-spring-boot-starter</artifactid> </dependency> <dependencymanagement> <dependencies> <dependency> <groupid>org.springframework.ai</groupid> <artifactid>spring-ai-bom</artifactid> <version>${spring-ai.version}</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencymanagement>
deepseekconfig:
import org.springframework.ai.chat.client.chatclient; import org.springframework.ai.openai.openaichatmodel; import org.springframework.context.annotation.bean; import org.springframework.context.annotation.configuration; @configuration public class deepseekconfig { @bean public chatclient chatclient(openaichatmodel openaichatmodel) { return chatclient.builder(openaichatmodel).build(); } }
deepseekcontroller:
import jakarta.annotation.postconstruct; import jakarta.annotation.resource; import org.springframework.ai.chat.messages.message; import org.springframework.ai.chat.messages.systemmessage; import org.springframework.ai.chat.messages.usermessage; import org.springframework.ai.chat.prompt.prompt; import org.springframework.ai.openai.openaichatmodel; import org.springframework.web.bind.annotation.postmapping; import org.springframework.web.bind.annotation.requestbody; import org.springframework.web.bind.annotation.requestmapping; import org.springframework.web.bind.annotation.restcontroller; import org.springframework.ai.chat.model.chatresponse; import java.util.arraylist; import java.util.list; @restcontroller @requestmapping("/api") public class chatcontroller { @resource private openaichatmodel chatmodel; private final list<message> chathistorylist = new arraylist<>(); @postconstruct public void init() { chathistorylist.add(new systemmessage("you are a helpful assistant.")); } @postmapping("/chat") public chatresponse test(@requestbody string message) { chathistorylist.add(new usermessage(message)); prompt prompt = new prompt(chathistorylist); chatresponse chatresponse = chatmodel.call(prompt); if (chatresponse.getresult() != null && chatresponse.getresult().getoutput() != null) { chathistorylist.add(chatresponse.getresult().getoutput()); } return chatresponse; } }
到此这篇关于springboot两种方式接入deepseek的实现的文章就介绍到这了,更多相关springboot接入deepseek内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论