专业的JAVA编程教程与资源

网站首页 > java教程 正文

java如何访问本地部署的deepseek?

temp10 2025-05-14 16:36:07 java教程 4 ℃ 0 评论

前面的文章<<4g内存也行,史上最详细deepseek本地安装教程>>我们讲了如何在本地安装部署deepseek,本地安装的目的是为了搭建我们自己的大模型或知识库,供其他系统使用,比如客服系统、问答系统、数据检索系统等等,否则,直接使用deepseek提供的pc端或app不是更方便,而且更强大。这样,就需要其他系统和deepseek进行对接,从而实现通讯。

前面安装deepseek使用的是ollama,同样,对接也是和ollama,由ollama对外提供服务,http协议的,端口是11434,地址是api/generate

java如何访问本地部署的deepseek?

如果ip是127.0.0.1,则访问地址就是:

http://127.0.0.1:11434/api/generate

请求参数:

model:大模型名称,比如我安装的是deepseek-r1:1.5b

prompt:询问的问题,比如java是什么?

stream:是否使用流式响应,false或true,对于长文本生成可以流式响应,一般不需要

下面我们看看如何使用java对接,因为使用的是http协议,其他任何的开发语言都可以,我这里只以java为例:

第1步:启动ollama

任务栏出现这个,就说明是启动的


第2步:集成http和json依赖两个工具

因为ollama返回的数据是json格式

 <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>fastjson</artifactId>
            <version>1.2.33</version>
        </dependency>
        <dependency>
            <groupId>org.apache.httpcomponents</groupId>
            <artifactId>httpclient</artifactId>
            <version>4.3.5</version>
        </dependency>


第3步:访问

完整代码:

package com.demo;
import com.alibaba.fastjson.JSONObject;
import org.apache.http.HttpResponse;
import org.apache.http.client.methods.HttpPost;
import org.apache.http.entity.ContentType;
import org.apache.http.entity.StringEntity;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

import java.net.URI;

public class Test {
    private static final String OLLAMA_URL = "http://localhost:11434/api/generate";

    public static String generateResponse(String model, String prompt) throws Exception {
        HttpPost httpPost = new HttpPost(OLLAMA_URL);

        String json = String.format("{\"model\": \"%s\", \"prompt\": \"%s\", \"stream\": false}", model, prompt);
        httpPost.setEntity(new StringEntity(json, ContentType.APPLICATION_JSON));
        CloseableHttpClient httpClient = HttpClients.createDefault();

        HttpResponse response = httpClient.execute(httpPost);
        String responseBody = EntityUtils.toString(response.getEntity());
        httpClient.close();
        System.out.println("回答:"+JSONObject.parseObject(responseBody).getString("response"));
        return responseBody;
    }

    public static void main(String[] args) {
        try {
            String response = generateResponse("deepseek-r1:1.5b", "你是谁?");
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

返回的json中response是回答的内容。

我是程序员老左,以后会长期更新,可以关注一下,有任何问题可以留言或私信,我们下期见。

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表