整数余弦变换技术 (PIT)

整数余弦变换技术（Integer Cosine Transform, ICT）并非传统浮点域离散余弦变换（DCT）的简单近似，而是一类严格基于整数算术的数学变换算法。它利用整数域内的离散余弦基函数作为正交基，将时域或空间域的信号数据精确映射至频域，且在整个变换过程中仅涉及加减乘除等整数运算，完全摒弃了浮点乘法与除法。该技术在大模型领域扮演着关键角色，它使得模型权重、激活值及中间特征图能够在保持信息无损（或极低失真）的前提下，被压缩至极小的比特宽度（如 2-bit 或 4-bit），从而成为实现模型量化、稀疏化及硬件加速推理的底层数学引擎。

在现代计算架构与人工智能大模型生态中，整数余弦变换技术是连接高维稀疏数据与高效硬件执行的关键桥梁。随着大模型参数量呈指数级增长，传统浮点运算带来的存储瓶颈与算力消耗已成为制约其落地的主要障碍。ICT 技术通过其独特的整数域特性，解决了浮点量化带来的精度丢失问题，使得模型能够在极低比特宽下运行，同时大幅降低对专用浮点硬件（FPU）的依赖。它不仅广泛应用于模型压缩、边缘端推理加速，还深度融入神经网络架构搜索（NAS）与动态稀疏化策略中，是构建绿色、高效、可部署的大模型基础设施不可或缺的技术组件，标志着 AI 计算从‘精度优先’向‘能效与精度平衡’的范式转变。