aihub - tencentmusic/cube-studio GitHub Wiki

一、AIHUB简介

AIHUB是cube studio开发的模型仓库,其中包含了400+开源AI模型,涵盖视觉、语音、自然语言、多模态等领域。

AIHUB中的模型都是可商用的开源模型,用户可根据自身需求选择合适的模型进行部署、微调、改造等。

二、模型部署

在模型市场中选择合适的模型后,可以一键部署试用,查看模型的效果。

点击部署web之后,会自动跳转到查看pod部署情况的页面,部署成功后,pod的状态应该为Running。

部署之后,除了可以点击模型图片进入web端的应用界面之外,还可以在右侧看到移动端的应用展示。

部署成功的应用,也可以直接点击卸载web,即可完成资源的释放。如果某个模型一直部署失败,也可以首先考虑查看机器资源,是否被其他应用占用过多,导致没有足够的资源部署该应用,可以释放其他不需要的应用,重新部署该应用即可。

三、模型推理

模型部署成功后,会自动给出推理服务可以使用的接口,以及自动化标注可以使用的接口。

四、模型微调

对于不能直接使用的模型,我们可以加入自己的数据,对模型进行一键微调。点击模型的“训练”按钮,即可进入微调界面。

微调界面实际是模型训练的pipeline,我们把需要用来做模型微调的训练数据和评估数据在模型训练的task节点处配置好,点击运行pipeline,即可进行模型微调。

五、模型开发

对于微调都不能满足需求的模型,可以直接进行二次开发。点击开发按钮,即可进入模型的二次开发界面。