spring Ai框架整合Ollama，调用本地大模型

Spring AI框架整合Ollama调用本地大模型的过程大致如下：

1. 引入Spring AI和Ollama的依赖。
2. 配置Ollama的客户端。
3. 创建一个服务，使用Ollama客户端与大模型交互。

以下是一个简化的例子：

第一步：添加依赖

在pom.xml中添加Spring AI和Ollama的依赖。

<dependencies>
    <!-- Spring AI 依赖 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-ai-openai</artifactId>
    </dependency>
    <!-- Ollama 客户端依赖 -->
    <dependency>
        <groupId>com.oracle.adw.llama</groupId>
        <artifactId>llama-client</artifactId>
        <version>版本号</version>
    </dependency>
</dependencies>

第二步：配置Ollama客户端

在Spring配置文件中配置Ollama客户端。

@Configuration
public class OllamaConfig {
 
    @Bean
    public LlamaClient llamaClient() {
        LlamaClientConfig llamaClientConfig = new LlamaClientConfig()
                .service("ollama服务地址")
                .port(端口号)
                .user("用户名")
                .password("密码");
        return new LlamaClient(llamaClientConfig);
    }
}

第三步：创建服务

创建一个服务，使用Ollama客户端与大模型交互。

@Service
public class LlamaService {
 
    private final LlamaClient llamaClient;
 
    @Autowired
    public LlamaService(LlamaClient llamaClient) {
        this.llamaClient = llamaClient;
    }
 
    public String submitQuery(String query) {
        LlamaResponse response = llamaClient.submitQuery(query);
        return response.getResult();
    }
}

第四步：调用服务

在你的控制器或业务逻辑中调用LlamaService。

@RestController
public class LlamaController {
 
    private final LlamaService llamaService;
 
    @Autowired
    public LlamaController(LlamaService llamaService) {
        this.llamaService = llamaService;
    }
 
    @GetMapping("/query")
    public String queryModel(@RequestParam String prompt) {
        return llamaService.submitQuery(prompt);
    }
}

以上代码展示了如何在Spring应用程序中整合Ollama客户端，并通过一个简单的服务与本地大模型进行交互。这个例子假设你已经有了一个运行中的Ollama服务，并且知道如何配置服务的连接信息。