百炼大模型压测

MAC 电脑安装Homebrew软件

终端输入中科大镜像的一键安装脚本:
/bin/zsh -c “$(curl -fsSL https://gitee.com/cunkai/HomebrewCN/raw/master/Homebrew.sh)”
安装时会提示选择镜像源,输入1选择中科大源即可;后续按提示输入密码,脚本会自动配置环境变量,无需手动操作。

/bin/zsh -c “$(curl -fsSL https://gitee.com/cunkai/HomebrewCN/raw/master/Homebrew.sh)”

如果能访问github网络,可以考虑“终端输入指令:
/bin/bash -c “$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)”
过程中按提示输入 Mac 开机密码(输入时密码不显示,属于正常现象),等待脚本自动完成安装,成功后会出现对应提示。”

安装Python

brew install python
验证:
MacBook-Air:~ EthanNi$ python3 --version
Python 3.13.3

创建虚拟环境

进入项目目录:
cd /user/EthanNi/Desktop/llm-api-tests
创建虚拟环境
python3 -m venv venv
在这里插入图片描述
✅ 激活后,你的终端提示符会变成:

(venv) EthanNi@MacBook-Air llm-api-tests %
这表示你现在在隔离环境中,所有 pip install 都只影响这个项目。

pip install dashscope python-dotenv

requirements.txt

备份依赖:

pip freeze > requirements.txt
是 Python 项目中用于导出当前环境已安装的所有包及其版本号到指定文件的命令,核心作用是固化项目依赖,方便协作、部署或环境迁移。

退出虚拟环境(当你不需要时)
deactivate

别人拿到项目后只需
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt
就可以还原你之前的环境。

模型QPS压测:

pip install locust aiohttp requests

(venv) EthanNi@MacBook-Air text % vi qwen_locust.py
(venv) EthanNi@MacBook-Air text % locust -f qwen_locust.py --host=https://dashscope.aliyuncs.com

[2025-11-27 15:43:16,024] MacBook-Air/INFO/locust.main: Starting Locust 2.42.5
[2025-11-27 15:43:16,026] MacBook-Air/INFO/locust.main: Starting web interface at http://0.0.0.0:8089, press enter to open your default browser.

在这里插入图片描述
Number of users:并发用户数(如 10、50、100,逐步增加);
Spawn rate:每秒启动的用户数(如 5);
点击 “Start swarming” 开始压测。

被限流:
HTTPError(‘429 Client Error: Too Many Requests for url: /api/v1/services/aigc/text-generation/generation’)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值