Hướng dẫn nhanh: API Tương thích OpenAI không kiểm duyệt

Cài đặt SDK OpenAI

Cài đặt thư viện tiêu chuẩn cho ngôn ngữ ưa thích để xử lý yêu cầu ngay lập tức.

Thư viện này cung cấp các máy khách cần thiết để giao tiếp với điểm cuối tương thích OpenAI của chúng tôi. Nó quản lý các tiêu đề xác thực và phân tích cú pháp phản hồi cho bạn.

• Python: pip install openai
• Node.js: npm install openai

Không yêu cầu trình điều khiển đặc biệt. SDK xử lý các kết nối HTTP cơ bản một cách hiệu quả.

Cấu hình URL cơ sở và Khóa

Điểm client của bạn đến URL cơ sở cụ thể của chúng tôi và đặt khóa API của bạn để bỏ qua các hạn chế cổng tiêu chuẩn.

Sử dụng https://api.openrouterapiratelimit.com/v1 làm URL cơ sở. Điều này định hướng lưu lượng truy cập đến các máy chủ trực tiếp của chúng tôi thay vì lớp proxy. Khóa API của bạn xác thực tài khoản tín dụng trả trước của bạn.

Chúng tôi hỗ trợ các tiêu đề tiêu chuẩn. Truyền khóa của bạn trong Authorization header. Điều này đảm bảo các yêu cầu của bạn đi thẳng đến mô hình không kiểm duyệt mà không có các bước trung gian.

Gửi Yêu cầu Không kiểm duyệt đầu tiên của bạn

Gửi yêu cầu POST đến /v1/chat/completions với ID mô hình uncensored để tạo văn bản mà không có bộ lọc nội dung.

Mô hình của chúng tôi không từ chối các chủ đề người trưởng thành hợp pháp, hư cấu hoặc gây tranh cãi. Nó trả lời trực tiếp dựa trên lời nhắc của bạn.

Copycurl https://api.openrouterapiratelimit.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send a test message to verify endpoint availability."}]
  }'

Thay thế YOUR_API_KEY với khóa thực tế của bạn. Phản hồi trả về văn bản được tạo trong choices mảng. Điều này xác nhận mô hình đang hoạt động và không kiểm duyệt.

Bật phát trực tiếp cho đầu ra thời gian thực

Đặt stream: true để nhận các token khi chúng được tạo, giảm độ trễ cảm nhận đối với các phản hồi dài.

Streaming cho phép ứng dụng của bạn hiển thị đầu ra theo từng phần. Điều này rất quan trọng đối với các giao diện trò chuyện nơi người dùng mong đợi phản hồi ngay lập tức.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouterapiratelimit.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK phát ra các chunk khi chúng đến. Xử lý từng chunk để cập nhật giao diện người dùng của bạn. Chunk cuối cùng chứa tổng số token sử dụng cho yêu cầu.

Sử dụng Công cụ và Chế độ JSON

Sử dụng gọi hàm hoặc chế độ JSON nghiêm ngặt để trích xuất dữ liệu có cấu trúc từ mô hình không kiểm duyệt của bạn.

API của chúng tôi hỗ trợ định nghĩa công cụ tiêu chuẩn của OpenAI. Định nghĩa các công cụ của bạn trong yêu cầu và để mô hình quyết định khi nào gọi chúng. Hoặc sử dụng response_format: {"type": "json_object"} để đầu ra JSON xác định.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouterapiratelimit.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Điều này đảm bảo các hệ thống xử lý dữ liệu sau của bạn nhận được dữ liệu có thể phân tích được. Mô hình tuân thủ lược đồ bạn cung cấp. Sử dụng điều này cho tích hợp đáng tin cậy vào các pipeline của bạn.

Kiểm tra Sử dụng và Giới hạn Token

Theo dõi mức sử dụng của bạn dựa trên cửa sổ ngữ cảnh 100,000 token và giới hạn 300 yêu cầu mỗi phút của chúng tôi.

Cửa sổ ngữ cảnh của bạn bao gồm cả token lệnh nhắc và token hoàn thành. Đầu ra tối đa cho mỗi yêu cầu là 16.000 token. Nếu bạn không đặt max_tokens, nó mặc định là 2.048.

Giới hạn tốc độ nghiêm ngặt nhưng có thể dự đoán. Bạn nhận được 8 yêu cầu đồng bộ mỗi khóa. Lỗi như 401 (khóa không hợp lệ) hoặc 402 (không có tín dụng) là miễn phí. Lỗi 429 cho biết bạn đã đạt giới hạn tốc độ. Kiểm tra các tiêu đề phản hồi để biết hạn ngạch còn lại.

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)