主营
手机访问更快捷
安卓版
营销推广更便捷
手机访问更快捷
安卓版
营销推广更便捷
语言模型在文本生成领域的巨大成功，启发了研究人员探索将类似的范式迁移至视觉领域。ImageGPT-Large等早期开创性模型证明了自回归Transformer架构在视觉领域的可行性。由于原始图像数据维度高，直接将RGB值作为序列会导致计算复杂度爆炸。为此，研究团队引入了创新的色彩聚类预处理技术，将每个像素映射到预设的数百种可能的聚类值之一。这一操作大幅降低了数据的维度，使得原本庞大的三维图像能够被转换为一维的Token序列。基于此，模型可以通过预测“下一个像素Token”的自监督任务来学习图像的深层表征。尽管早期的受限于当时的算力仅能生成低分辨率图像，但这种将视觉数据序列化并进行像素级预测的思想，为后续统一多模态大模型奠定了关键的技术基石。
