AI真的”看懂”图片了吗?
把一张照片丢给 AI,它能说出图里是”一只金毛在草地上叼着飞盘”,甚至能点评构图和情绪。看起来它”看懂”了。但同样是它,数不清图里有几只动物,分不清左右,也不理解”图里没有猫”这句话。这份聪明和这份笨拙来自同一个源头——CLIP 和它开创的”图文对齐”技术。理解了它,你就理解了 AI 视觉能力的真实边界。
第一步:CLIP 做的事,是把图和文拉进同一个数学空间
2021 年 OpenAI 发布 CLIP,用约 4 亿对从网上收集的”图片+文字描述”做训练。结构是双塔:一个图像编码器把图片压缩成一个向量,一个文本编码器把句子也压缩成一个向量,两个向量落在同一个高维空间里。
训练目标很朴素:配对的图和文,向量距离拉近;不配对的,推远。4 亿对数据反复训下来,模型掌握了这张对照表——于是”一张图”和”一句话”可以被直接比较,相似度一算便知。这就是”图文对齐”。
第二步:这是”对齐”,不是”理解”
CLIP 学到的是统计共现:有草地的图片,经常和含”草地”的文本一起出现,于是两类向量被放到了邻近位置。它建立的是相关性映射,不涉及因果和物理常识。
反证很清楚:问它”图里有几只没拿东西的动物”,它会崩——它”知道”草地上常有狗,但不会数数,也没真正建模”没有”这个概念。它像一个背下百万张图注的人:对答如流,但遇到需要推理的新问题就露馅。
第三步:今天的一切视觉 AI,底座几乎都是它
CLIP 之后的所有主流应用都建立在这套对齐空间上。文生图模型把你的提示词编码成向量,引导扩散模型去噪——所谓”模型听懂了提示词”,本质是这句话的向量落到了空间里正确的区域。多模态大模型让视觉编码器输出的向量作为”外语输入”喂给语言模型,图文问答、看图写作由此而来。以文搜图、内容审核、素材检索,同样靠这个空间做匹配。
所以提示词写得好不好,翻译过来就是:这句话在对齐空间里的位置,离你想要的画面近不近。
第四步:看得见的盲区
CLIP 类模型有几个著名盲区:计数不准;空间关系弱(左右、上下、前后经常搞反);否定句基本无效;读不出图里的文字;细粒度属性绑定差——”红色方块和蓝色圆圈”经常被画成红圆圈配蓝方块。
多模态大模型用”视觉特征 + 语言模型推理”的组合弥补了一部分,比如靠语言模型的数数能力辅助计数。但底层视觉编码仍是同源架构,这些盲区只能缓解,不能根除。
第五步:三条实操启示
第一,提示词要用”模型见过的语言”:具体的名词加风格词,胜过复杂的逻辑组合。第二,别写否定句——”画面里没有文字”反而会引入文字相关特征,正确做法是正向描述你要的东西。第三,评估一个 AI 视觉产品,看它视觉编码部分是沿用开源底座还是重新训练,直接决定它在中文场景和细粒度任务上的上限。
结论
AI 的”看懂”,是高维空间里的模式对齐,不是人类的理解:它认识”金毛叼飞盘”的统计分布,但不认识飞盘为什么飞得起来。做 AIGC广告 时,理解这条边界能避开大量无效尝试——把生成和判断分开,让模型负责”画得像”,人负责”对不对”。同样,AI广告制作 流程里的人工卡点之所以删不掉,正是因为这套对齐系统会在计数、空间、否定这些地方悄悄出错,而它错得毫无自觉。