流式或非流式调用 # # Set OpenAI's API key and API base to use vLLM's API server. import json import logging import time import uvicorn from fastapi import FastAPI, Request from openai im...
python 批量下载.eml格式附件
import email from email import policy from email.parser import BytesParser import os import secrets def generate_unique_id(): # 获取当前时间的精确到秒的字符串表示 current_time = ...
conda怎么用
Conda 是一个开源的包管理和环境管理工具，主要用于 Python 项目，但也可以管理其他语言的依赖。以下是 Conda 的 核心用法详解，涵盖安装、环境管理、包管理、配置优化等场景。 1. 安装 Conda 1.1 下载 Min...
ollama gpu设置
默认的ollama调用的各种大模型，如deepseek 70b模型，每个模型实例只绑定一张 GPU，如果是多卡，其它卡会一直闲置，造成一定浪费。 本文档介绍如何通过 systemd 配置文件为 Ollama 服务添加 GPU 和调度相关的环...
ollama 开放外部访问
要开放 Ollama 的外部访问，使其可以被局域网或外网访问，需要进行以下配置： 1. 设置 OLLAMA_HOST 环境变量 默认情况下，Ollama 仅监听 127.0.0.1:11434，要允许外部访问，需修改 OLLAMA_HOST： bash ...
gin 自定义绑定器以及错误信息
type Astudent struct { StuName string `json:"name" binding:"required" msg:"学生姓名错误"` StuNumber int `json:"number" binding:"required" msg:"学号校验失败"` //自定义绑定...
Supervisord 进程管理工具
Supervisord 是一个用 Python 编写的进程管理工具，可以方便地管理和监控后台进程。它非常适合用于管理需要常驻后台运行的 Python 脚本或其他应用程序。以下是使用 Supervisord 的详细步骤： 1. 安装 Supervis...
RabbitMQListener 的用法
RabbitMQListener 是用于监听 RabbitMQ 消息队列并处理消息的组件，通常在 Spring AMQP 或 Spring Boot 中使用。以下是 RabbitMQListener 的基本用法和配置步骤。 1. 添加依赖 首先，确保项目中引入了 Spri...
Golang 操作 ElasticSearch
在 Go 语言中操作 Elasticsearch 通常使用官方提供的 Elasticsearch 客户端库 elastic/go-elasticsearch。这个库提供了与 Elasticsearch 交互的 API，支持索引、搜索、更新、删除等操作。 以下是如何在 Go 中...
Spring WebFlux支持mybatis-plus吗
Spring WebFlux 本身并不直接支持 MyBatis-Plus，因为 MyBatis-Plus 是基于传统的阻塞式 JDBC 开发的 ORM 框架，而 Spring WebFlux 是一个非阻塞的响应式编程框架。两者的设计理念存在冲突，直接结合会导致阻塞问...