帮助中心

服务器、网络和账户的分步教程。

云服务器(VPS)

如何在日本或韩国 VPS 上运行 AI 聊天机器人或 AI API 应用

如何在日本或韩国 VPS 上运行 AI 聊天机器人或 AI API 应用

要在日本或韩国运行 AI 聊天机器人、Telegram/Discord AI 机器人,或调用 AI API 的应用,可以在东京或首尔 VPS 上创建 Python 虚拟环境,把 API 密钥保存在受保护的环境变量文件中,再把应用配置成 systemd 服务。本文用一个最小示例演示每一步。

请遵守 AI 服务商的规定。开始之前,请阅读你所用 AI 服务商的服务条款、使用政策和支持的国家与地区列表,确保你的账号和应用符合要求。服务器所在地不会改变你的身份,也不会改变服务商允许的范围。

第 1 步:选择服务器

JUSTG 东京和首尔云服务器配备日本或韩国原生 IPv4、免费 IPv6、亚洲优化线路和 500 Mbps 端口,付款后自动开通。

这些是 CPU 服务器,不带 GPU。它们适合调用云端 AI API、运行聊天机器人、AI Agent、自动化任务以及使用云端模型的 RAG 后端,但不适合训练模型。机器人大部分时间在等待 API 返回,对 CPU 要求不高,一般从 01 套餐(2 核、1 GB 内存,$29.99/月)或 02 套餐(3 核、2 GB 内存,$39.99/月)起步即可;如果同一台服务器还要跑数据库或向量检索,请选择更大内存的套餐。

第 2 步:安装 Python 并创建虚拟环境

在 Debian 或 Ubuntu 上,创建专用用户和位于 /opt/aibot 的虚拟环境,然后安装服务商的官方 SDK。本例使用 Python 包 openai,其他服务商的 SDK 安装方法相同。

apt update && apt install -y python3 python3-venv
useradd -r -m -d /opt/aibot -s /usr/sbin/nologin aibot
python3 -m venv /opt/aibot/venv
/opt/aibot/venv/bin/pip install --upgrade pip
/opt/aibot/venv/bin/pip install openai

第 3 步:把 API 密钥保存在环境变量文件中

不要把 API 密钥写进代码或 Git 仓库。创建 /etc/aibot.env:

AI_API_KEY=your-api-key
AI_MODEL=your-model-name

把示例值替换成你的真实密钥,以及服务商文档中给出的模型名称。然后把文件权限设为仅 root 可读:

chown root:root /etc/aibot.env
chmod 600 /etc/aibot.env
ls -l /etc/aibot.env

输出应以 -rw------- 开头。systemd 在启动服务时以 root 身份读取该文件,所以机器人用户本身不需要读取权限。

第 4 步:编写最小测试程序

创建 /opt/aibot/app.py,它会发送一条消息并打印回复:

import logging
import os

from openai import OpenAI

logging.basicConfig(level=logging.INFO, format="%(levelname)s %(message)s")
log = logging.getLogger("aibot")

client = OpenAI(api_key=os.environ["AI_API_KEY"], max_retries=3, timeout=30)

resp = client.chat.completions.create(
    model=os.environ["AI_MODEL"],
    messages=[{"role": "user", "content": "Hello from Tokyo"}],
)
log.info("reply received")
print(resp.choices[0].message.content)

其他 SDK 的用法类似:用环境变量中的密钥创建客户端,再调用服务商的对话或消息接口(例如 client.messages.create(...))。以 root 身份运行一次测试:

chown -R aibot:aibot /opt/aibot
set -a; . /etc/aibot.env; set +a
/opt/aibot/venv/bin/python /opt/aibot/app.py

能看到回复,说明密钥、SDK 和网络连接都正常。

第 5 步:把机器人配置为 systemd 服务

把你实际的机器人或 API 应用放在 /opt/aibot/bot.py(需要是长期运行的程序,例如 Telegram 机器人或小型 Web API),然后创建 /etc/systemd/system/aibot.service:

[Unit]
Description=AI bot
After=network-online.target
Wants=network-online.target

[Service]
User=aibot
WorkingDirectory=/opt/aibot
EnvironmentFile=/etc/aibot.env
ExecStart=/opt/aibot/venv/bin/python /opt/aibot/bot.py
Restart=on-failure
RestartSec=10

[Install]
WantedBy=multi-user.target
systemctl daemon-reload
systemctl enable --now aibot
systemctl status aibot

服务会开机自启,崩溃后自动重启。如果应用需要接收 Webhook 或对外提供 Web API,只放行必要的端口:

apt install -y ufw
ufw allow OpenSSH
ufw allow 443/tcp
ufw enable

第 6 步:查看日志

应用输出到标准输出或通过 Python logging 记录的内容都会进入 systemd 日志:

journalctl -u aibot -f
journalctl -u aibot --since "1 hour ago"

建议记录请求状态、错误和耗时,但不要记录 API 密钥;除非确有必要且隐私政策允许,也尽量不要完整记录用户消息。

第 7 步:处理速率限制和费用

  • 退避重试:API 返回限流错误(HTTP 429)或临时错误时,等待后按逐渐加长的间隔重试。官方 SDK 可以自动完成(见上例中的 max_retries)。
  • 设置超时:超时可以避免单个慢请求卡住整个机器人。
  • 限制自己的用户:在机器人中限制每个用户每分钟的请求数,防止个别用户耗尽你的额度。
  • 设置消费上限:在 AI 服务商控制台中配置用量和预算限制。
云服务器上 CPU 短时间跑满 100% 没有问题,但如果 1 小时平均 CPU 使用率超过 50%,会被自动限制在 50%。单纯调用云端 API 很少达到这个水平,大量本地计算则可能会。

FAQ

可以在这台 VPS 上本地运行大型 AI 模型吗?

这些是不带 GPU 的 CPU 服务器,不适合训练模型或在本地运行大型模型,但很适合调用云端 AI API 的应用、机器人和 Agent。

日本和韩国是 AI API 的支持地区吗?

日本和韩国属于 OpenAI、Anthropic、Google Gemini 等主流 AI 服务商的支持地区,但具体规则由各服务商自行决定。请始终以服务商最新的支持地区列表和服务条款为准。

购买前可以先试用服务器吗?

可以。提交工单申请测试服务器,然后在上面运行第 4 步的测试程序。

这篇文章有帮助吗?
帮助中心
云服务器(VPS) VPS IPv6 设置教程:Ubuntu Netplan、Debian、Rocky Linux 与 Windows Server 每台 JUSTG 云服务器除了 IPv4 之外,都免费提供 IPv6 地址。IPv6 让您多一条独立的通道连接 VPS,让网站能被只支持 IPv6 的移动网络访问,在需要额外地址时也是免费的替代方案。本文说明如何在… 云服务器(VPS) VPS 开通需要多久?交付时间与新 VPS 前 15 分钟必做设置 JUSTG 的 VPS 开通需要多久?云服务器(VPS)在付款后自动开通,并预先安装你所选操作系统的最新稳定版本。本文说明 VPS 与独立服务器的交付时间,并带你完成新 Linux 或 Windows VPS 的前 15… 云服务器(VPS) VPS IP 被中国大陆或第三方封锁怎么办?IP 连通性测试与 JUSTG 更换 IP 政策 如果你的 VPS IP 地址突然无法从中国大陆连接,或被第三方(例如某国防火墙、邮件黑名单或其他网络)封锁,采取行动前应先确认实际状况。本文说明 JUSTG 对被封锁 IP 的政策,示范如何从不同网络用 ping、tcping 与 mtr 测试 IP 连通性、IP… 云服务器(VPS) VPS 升级内存、SSD 硬盘或 IP 教程,以及扩展分区(Linux 与 Windows) 本文说明如何为 JUSTG VPS 升级内存(RAM)、SSD 硬盘或 IP 地址、独立服务器有何不同,以及升级后需要在操作系统内完成的设置。虚拟硬盘变大并不会自动扩大分区,因此本文也示范如何在 Linux(Debian、Ubuntu、CentOS、Rocky… 云服务器(VPS) 云服务器 VPS 该选哪个套餐?配置与价格详解 大多数小型项目选择 01 或 02 套餐即可,数据库和访问量较大的应用通常需要 03 或更高的套餐。JUSTG 七款云服务器套餐在东京、首尔和莫斯科完全相同,年付比月付可节省 17% 到 50%。 每个套餐都包含 KVM 虚拟化,可安装 Linux 或 Windows…
AlipayUnionPayVISAMastercardPayPalUSDTstripe