MLIR的Constant Propagation與Folding：一次踩坑后的深度復盤上個月調試一個AI推理引擎的中間表示優(yōu)化流程，遇到一個詭異現(xiàn)象：模型在x86上跑得好好的，交叉編譯到RISC-V后，某些層的計算結果開始出現(xiàn)微小偏差。追了兩天，發(fā)現(xiàn)是MLIR的constant folding階段把一些本該保留的浮點常量折疊成了不同的精度表示。這個坑讓我重新審視了MLIR中看似簡單的常量傳播與折疊機制——它遠不止“把常量算出來”這么簡單。從一次“過度優(yōu)化”說起問題出在某個量化感知訓練后的模型，圖中存在大量形如%c = arith.addf %a, %b的節(jié)點，其中%a和%b都是通過arith.constant定義的浮點常量。MLIR的 canonicalization pass 默認會嘗試將這些常量運算折疊成新的常量。但問題在于，當%a和%b的精度不同（比如一個f32一個f16），或者它們來自不同的dialect（比如tosa.const與arith.constant混用）時，折疊行為會觸發(fā)隱式的類型提升，導致最終結果與原始語義不一致。更隱蔽的是，MLIR的fold()接口默認返回OptionalValue，如果返回nullopt表示無法折疊。但很多自定義op的fold實現(xiàn)會“偷懶”——直