1.58-bit FLUX：高效文本到图像生成模型

1.58-bit FLUX简介

1.58-bit FLUX是一种创新的文本到图像生成模型，它通过将最先进的FLUX模型的权重量化到1.58位（即{-1, 0, +1}中的值），在保持图像生成质量的同时，显著降低了模型的存储和推理内存需求。这种量化方法不依赖于图像数据，只使用自监督，并且通过定制的1.58位内核优化，实现了7.7倍的存储减少和5.1倍的推理内存降低，同时改善了推理延迟，使得在资源受限的设备上部署高质量的图像生成模型成为可能。

1.58-bit FLUX主要功能

1. 文本到图像生成：1.58-bit FLUX能够根据文本描述生成高质量的图像，维持1024×1024的高分辨率输出。
2. 模型参数量化：通过将模型参数量化到1.58位，显著减少模型的存储和内存占用，使得模型更适合在资源受限的设备上部署。
3. 保持性能：尽管进行了极端的量化，1.58-bit FLUX仍能保持与全精度模型相当的图像生成质量。

1.58-bit FLUX技术原理

1. 无图像数据量化：1.58-bit FLUX的量化过程不依赖于图像数据，而是完全基于模型自身的自监督机制，这减少了对大量训练数据的需求。
2. 1.58位权重表示：模型中的权重被量化到1.58位，即权重值被限制在+1, -1, 或0，这种极端的量化方式大幅减少了模型的存储需求。
3. 定制计算内核：为了配合1.58位的权重，开发了专门的计算内核，优化了低比特运算，提高了模型的推理效率。
4. 存储和内存效率：1.58-bit FLUX相比于原始模型，实现了7.7倍的存储空间减少和5.1倍的推理内存减少，这对于需要在边缘设备上运行的大型模型尤其重要。
5. 推理延迟优化：通过优化的内核和量化技术，1.58-bit FLUX在保持图像质量的同时，还改善了模型的推理延迟，使得模型运行更加迅速。

1.58-bit FLUX应用场景

1. 移动应用开发：由于模型量化后对存储和内存需求降低，适合在智能手机等移动设备上实现图像生成功能，如个性化表情包制作或虚拟试衣。
2. 在线广告和营销：快速生成与广告文案匹配的图像，提高广告的吸引力和个性化程度，同时减少服务器负载。
3. 社交媒体内容创作：用户可以利用1.58-bit FLUX生成创意图像，用于社交媒体平台，如Instagram和Twitter，增加互动和关注度。
4. 教育和培训：在教育领域，可以利用该模型生成教学辅助图像，如历史场景重现或科学现象模拟，增强学习体验。
5. 游戏开发：在资源受限的游戏平台或独立游戏中，使用1.58-bit FLUX快速生成游戏内图像或背景，提升游戏画质和玩家体验。
6. 自动化设计：在工业设计领域，设计师可以利用1.58-bit FLUX快速生成产品设计原型图，加速设计迭代和决策过程。

1.58-bit FLUX项目入口

• arXiv研究论文：https://arxiv.org/pdf/2412.18653