使用 PDLP 扩展线性规划
Scaling up linear programming with PDLP

原始链接: https://research.google/blog/scaling-up-linear-programming-with-pdlp/

线性规划 (LP) 是计算机科学和运筹学中的一个重要问题,应用于制造、网络等行业。 它极大地影响了数学规划的发展,塑造了当前面向数据的决策的模型和算法。 当需要优化时,LP往往会发挥作用。 LP 求解的发展始于 20 世纪 40 年代末,其中 Dantzig 的单纯形法和内点法是常见的解决方案。 现代商业 LP 求解器使用这些方法,但由于计算时间限制而难以处理极大的数据集。 为了解决这个问题,一阶方法 (FOM) 在大规模 LP 问题中越来越受欢迎。 我们提出了 PDLP(线性规划增强型原始对偶混合梯度),这是一种基于 FOM 的新型 LP 求解器。 与依赖矩阵分解的传统方法不同,PDLP 使用矩阵向量乘法。 因此,PDLP 消耗更少的内存,并且非常适合 GPU 和分布式计算系统等现代技术,提供可扩展的选项,减轻传统 LP 技术面临的内存和计算缺点。 PDLP 的源代码可以通过 Google 的 OR-Tools 访问。 自 2018 年以来,PDLP 一直在开发中 [1,2,3],并在 2024 年 7 月举行的国际数学规划研讨会上获得了受人尊敬的 Beale – Orchard-Hays 奖 [4]。 该奖项旨在表彰计算优化领域的重大成就,由数学优化协会每三年颁发一次。 [1] 哈利勒扎德,A.,等人。 “PDLP:大规模线性程序的原始对偶混合梯度下降。” 运筹学,67(5):1212-1243,2019 年 5 月。 [2] 劳伦特·P·范登伯格 (Vandenberghe) 和约翰·E·迪莫普洛斯 (John E. Dimopoulos)。 “稀疏非线性互补问题的缩放原始对偶内点方法。” 计算数学进展,40(3):391-426,2016 年 3 月。 [3] 袁海龙. “增强拉格朗日和对数的统一视角

西方“四大”优化软件提供商,即CPLEX、Gurobi、Xpress和MOSEK,被认为是高效的求解器。 然而,最近的发展表明,COpt 在线性规划 (LP) 问题上已经超越了他们,并且正在缩小混合整数规划 (MIP) 问题上的差距。 目前尚不清楚是否存在任何欺骗行为,但开发人员之间的竞争可能会导致性能平衡。 Mittelman 基准测试提供了最先进解决方案的近似衡量标准。 虽然 COpt 结果非常出色,但在分析这些结果时需要考虑一些重要因素。 首先,与 Gurobi (1e-6) 相比,COpt 的错误容忍度 (1e-4) 明显更大。 其次,COpt 禁用预求解,这会影响速度和性能。 尽管将其求解器与启用预求解的比较可以在学术研究中提供富有洞察力的信息,但结果可能会导致对求解器之间实际运行时差异的误解。 最后,COpt 与 Gurobi 的比较表明,在 Mittelman 实例上,COpt 需要大约五倍的时间才能达到类似的精度水平,但根据 Mittelman 本人的说法,仍然比 COpt 慢大约十五倍。 总之,COpt 在基准测试中的表现非常出色,但由于预求解和特定实例集等因素,更实际的评估可能会产生不同的结果。 尽管存在这些细微差别,COpt 可能是解决大规模问题的最佳解决方案。 此外,非线性规划、数据包络分析、神经网络集成和求解线性规划的一阶方法代表了运筹学中不太传统的应用。 手术室面临着需要专门的人类专业知识才能有效利用这些技术的挑战。
相关文章

原文

Classic linear programming (LP) problems are one of the most foundational problems in computer science and operations research. With extensive applications across numerous sectors of the global economy, such as manufacturing, networking, and other fields, LP has been the cornerstone of mathematical programming and has significantly influenced the development of today’s sophisticated modeling and algorithmic frameworks for data-driven decision making. If there's something to optimize, there's a good chance LP is involved.

Since the late 1940s, LP solving has evolved significantly, with the simplex method by Dantzig and various interior-point methods being the most prevalent techniques. Today's advanced commercial LP solvers utilize these methods but face challenges in scaling to very large instances due to computational demands. In response to this limitation, first-order methods (FOMs) have gained traction for large-scale LP problems.

With the above in mind, we introduce our solver PDLP (Primal-dual hybrid gradient enhanced for LP), a new FOM–based LP solver that significantly scales up our LP solving capabilities. Utilizing matrix-vector multiplication rather than matrix factorization, PDLP requires less memory and is more compatible with modern computational technologies like GPUs and distributed systems, offering a scalable alternative that mitigates the memory and computational inefficiencies of traditional LP methods. PDLP is open-sourced in Google’s OR-Tools. This project has been in development since 2018 [1, 2, 3], and we are proud to announce that it was co-awarded the prestigious Beale — Orchard-Hays Prize at the International Symposium of Mathematical Programming in July 2024. This accolade is one of the highest honors in the field of computational optimization, awarded every three years by the Mathematical Optimization Society.

联系我们 contact @ memedata.com