OFA-图文蕴含 (英文)
图文蕴含是什么？
图文蕴含即根据给定的图片和文本判断其语义关系，从“entailment”、“contradiction”和“neutrality”三种关系中选出。
本系列还有如下模型，欢迎试用：
快速玩起来
玩转OFA只需区区以下数行代码，就是如此轻松！如果你觉得还不够方便，请点击右上角Notebook按钮，我们为你提供了配备了GPU的环境，你只需要在notebook里输入提供的代码，就可以把OFA玩起来了！
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
from modelscope.outputs import OutputKeys
ofa_pipe = pipeline(Tasks.visual_entailment, model='damo/ofa_visual-entailment_snli-ve_large_en')
image = 'https://xingchen-data.oss-cn-zhangjiakou.aliyuncs.com/maas/visual-entailment/visual_entailment.jpg'
text = 'there are two birds.'
input = {'image': image, 'text': text}
result = ofa_pipe(input)
print(result[OutputKeys.LABELS]) # no
OFA是什么？
OFA(One-For-All)是通用多模态预训练模型，使用简单的序列到序列的学习框架统一模态（跨模态、视觉、语言等模态）和任务（如图片生成、视觉定位、图片描述、图片分类、文本生成等），详见我们发表于ICML 2022的论文：OFA: Unifying Architectures, Tasks, and Modalities Through a Simple Sequence-to-Sequence Learning Framework以及我们的官方Github仓库https://github.com/OFA-Sys/OFA。
OFA模型规模：
| Model | Params-en | Params-zh | Backbone | Hidden size | Intermediate size | Num. of heads | Enc layers | Dec layers |
|---|---|---|---|---|---|---|---|---|
| OFATiny | 33M | - | ResNet50 | 256 | 1024 | 4 | 4 | 4 |
| OFAMedium | 93M | - | ResNet101 | 512 | 2048 | 8 | 4 | 4 |
| OFABase | 180M | 160M | ResNet101 | 768 | 3072 | 12 | 6 | 6 |
| OFALarge | 470M | 440M | ResNet152 | 1024 | 4096 | 16 | 12 | 12 |
| OFAHuge | 930M | - | ResNet152 | 1280 | 5120 | 16 | 24 | 12 |
为什么OFA是图文蕴含的最佳选择？
OFA在图文蕴含的数据集SNLI-VE上取得最优表现，具体结果如下：
| Task | SNLI-VE | |
|---|---|---|
| Split | test-dev | test-std |
| OFABase | 89.3 | 89.2 |
| OFALarge | 90.3 | 90.2 |
| OFAHuge | 91.0 | 91.2 |
模型训练流程
训练数据介绍
本模型训练数据集是snli-ve数据集。
训练流程
finetune能力请参考OFA Tutorial 1.4节。
模型局限性以及可能的偏差
训练数据集自身有局限，有可能产生一些偏差，请用户自行评测后决定如何使用。
相关论文以及引用信息
如果你觉得OFA好用，喜欢我们的工作，欢迎引用： ``` @article{wang2022ofa, author = {Peng Wang and An Yang and Rui Men and Junyang Lin and Shuai Bai and Zhikang Li and Jianxin Ma and Chang Zhou and Jingren Zhou and Hongxia Yang}, title = {OFA: Unifying Architectures, Tasks, and Modalities Through a Simple Sequence-to-Sequence Learning Framework}, journal = {CoRR}, volume = {abs/2202.03052}, year = {2022} }
评论