Ising 机 - Nature 灌水机

Dorian
2024-12-09 16:37:26
本帖最后由 Dorian 于 2025-1-21 16:27 编辑

一、 Ising 模型

1924 年恩斯特·伊辛 (Ernst Ising)在其博士论文中, 解决了几年前由他的导师威廉·伦茨 (Wilhelm Lenz) 提出的磁性材料模型的一维版本。

100 年后,该模型已经是统计力学中最著名的模型之一,其变体不仅用于描述铁磁,还用于建模众多复杂系统,甚至成了诺贝尔物理学奖的宠儿。

今年的物理诺奖颁给John Hopfield 教授提出的神经网络模型,就是Ising 模型的一种推广。

2021年诺贝尔物理学奖颁给了自旋玻璃。自旋玻璃实际上不是玻璃,而是形象化比喻一个网络状的自旋系统,也是Ising模型的一种变体。

二、 Ising 机

Ising 模型具有基本的计算意义,因为NP复杂度类型中的任何问题都可以表述为仅具有多项式开销的 Ising 问题

Ising 模型俨然成了物理诺奖灌水机,而基于Ising 模型构建的硬件 - 性能优于现有计算机的可扩展 Ising 机,有潜力对实际应用产生巨大影响,最近几年自然成了自然(Nature)的灌水机。

三、组合优化硬件求解器

第一篇Nature,将 Ising 机作为组合优化问题的硬件求解器,用来搜索 Ising 模型的绝对或近似基态。论文探索了构建 Ising 机的各种方法,并解释了其操作原理。

方法包括

1.基于自旋电子学、光学、忆阻器和数字硬件加速器等技术的经典热退火器;

2. 使用光学和电子实现的动态系统求解器;

3. 超导电路量子退火器。

文献1:  Ising machines as hardware solvers of combinatorial optimization problems   https://www.nature.com/articles/s42254-022-00440-8

核心观点

摩尔定律终结者;

一台机器可基于经典退火、量子退火和动力学系统演化等多种计算方法运行;

常见基准测试问题的SOTA性能;

量子方法的性能优于经典算法;

混合量子-经典和数字-模拟算法未来前景广阔。

四、平衡传播的 Ising 机 

第二篇Nature,探讨并解决了 “监督训练方法与 Ising 机物理学匹配的复杂性导致其在 AI 应用中受到的限制”。

该研究找到通过平衡传播算法以监督方式训练 Ising 机的有效方法,从而获得了与基于软件的实现水平相当的结果。证明了仅通过自旋系统的动力学执行推理、误差反向传播和计算全局成本函数梯度的可行性

文献2 Training an Ising machine with equilibrium propagation https://www.nature.com/articles/s41467-024-46879-4

基于硬件物理学的新学习算法正在出现,例如 Hamiltonian Echo Backprop、耦合学习、热力学计算、深度油藏计算和平衡传播等等。

硬件(根据Ising能量演变的耦合自旋的物理系统)与算法(一种利用 Ising 能量的最小化来查找权重更新的训练算法)匹配是在非常规硬件中实现学习的有效方法。

将此方法(Ising 自旋系统通过其内在动力学计算梯度)与采用纳米技术(如忆阻器)实现局部耦合的低功耗硬件相结合,嵌入式 AI 未来充满发展潜力。

五、稀疏和高阶 Ising 机

第三篇Nature专注于一种基于概率位 (p-bit) 的新兴、受物理启发的求解器,强调能够实现高阶交互的稀疏、大规模并行和可重构架构。

p-bit的灵感来自自然界中遇到的相互作用粒子的统计力学(下图a); 其中粒子形成稀疏连接、异步和大规模并行网络(下图b)。稀疏性通过允许并行更新大部分网络而不会引入任何错误来实现很大程度的并发性。

文献3 All-to-all reconfigurability with sparse and higher-order Ising machines https://www.nature.com/articles/s41467-024-53270-w

研究的中心思想是引入一种主图架构,可以为给定的 p-bit 多路复用不同的连接和相移(彩色)时钟,以实现可重构架构来同时保持稀疏网络的大规模并行性。

研究还在基于 FPGA 的大规模 p-计算机中首次实现了三阶交互,并将此实现与最近引入的组合优化挑战(即 XORSAT 问题)进行了比较。结果表明,与领先的Ising机相比,运行 APT 算法的基于 FPGA 的 p 计算机极具竞争力。

六、启示

当国内还在苦苦找寻购买使用N家GPU大炼钢铁的时候,用于求解困难优化问题的 Ising 机和特定于领域的加速器正在悄然崛起。基于各种物理启发的方法已经使用一系列硬件基板实现。

当我们埋头追赶的时候,一定还是得抬头看路。不然悄无声息发展的技术(ChatGPT就是个好例子),某天突然爆发的时候,我们还得开启新一轮的埋头追赶,如此往复。


本文转载自微信公众号:清熙

566
0
0
0
关于作者
相关文章
  • 用遗传算法解决VRP问题
    车辆路径问题 (Vehicle Routing Problem,以下简称VRP问题)最早由Dantzig和Ramser于1959 ...
    了解详情 
  • 一文搞懂激活函数
    了解详情 
  • Ising 模型及马尔科夫链蒙特卡罗方法
    乔治·帕里西(Giorgio Parisi)于上世纪 80 年代对自旋玻璃作了深入研究,发现了随机现象 ...
    了解详情 
  • 激活函数:神经网络的魔法(通俗易懂)
    神经元的故事想象一下,你的大脑是一个精密的信息处理中心,其中数以亿计的神经元在默默工作,接 ...
    了解详情 
  • 什么是伊辛机?
     在文章开始之前,想和大家一起做个小游戏。游戏规则如下:对于给定的图形,只画一条线,在 ...
    了解详情 
在本版发帖
快速回复 返回顶部 返回列表
玻色有奖小调研
填写问卷,将免费赠送您5个100bit真机配额
(单选) 您是从哪个渠道得知我们的?*
您是从哪个社交媒体得知我们的?*
您是通过哪个学校的校园宣讲得知我们的呢?
取消

提交成功

真机配额已发放到您的账户,可前往【云平台】查看