語言模型在文本生成領域的巨大成功，啟發(fā)了研究人員探索將類似的范式遷移至視覺領域。ImageGPT-Large等早期開創(chuàng)性模型證明了自回歸Transformer架構在視覺領域的可行性。由于原始圖像數(shù)據(jù)維度高，直接將RGB值作為序列會導致計算復雜度爆炸。為此，研究團隊引入了創(chuàng)新的色彩聚類預處理技術，將每個像素映射到預設的數(shù)百種可能的聚類值之一。這一操作大幅降低了數(shù)據(jù)的維度，使得原本龐大的三維圖像能夠被轉換為一維的Token序列?；诖耍Ｐ涂梢酝ㄟ^預測“下一個像素Token"的自監(jiān)督任務來學習圖像的深層表征。盡管早期的受限于當時的算力僅能生成低分辨率圖像，但這種將視覺數(shù)據(jù)序列化并進行像素級預測的思想，為后續(xù)統(tǒng)一多模態(tài)大模型奠定了關鍵的技術基石。