物理科技生物学-PHYICA

从另一个角度看防止计算机系统停滞的随机舍入

技术工程 2022-04-17 21:56:49

Taking another look at stochastic rounding to prevent stagnation in computer systems基于总和的随机舍入算法中的位对齐。随机位被添加到有效位mt,随后被截断。这些位如何产生和相加取决于实现方式——我们可以只将k位添加到有效位底部的前k位,然后在截断后使用进位来控制mr的舍入,或者我们可以将k个随机位打包成一个长度为mt的字,并使用整数运算将其添加到mt:传播进位将导致t op p位的舍入。鸣谢:英国皇家学会开放科学(2022)。来自美国、英国和法国的一小组研究人员对在某些计算机应用中使用随机舍入(SR)来减少停滞的可能性进行了新的研究。在他们发表在皇家学会开放科学杂志上的论文中,该小组描述了他们在机器学习等应用中调查SR使用的方法。最常见的方法是将小于某个值的数字向下舍入,而将大于该值的数字向上舍入。例如,将3.4向下舍入到3,将3.7向上舍入到4。这里,舍入值是0.5。在这种情况下,落在舍入值上的数字是随机选择的。在这个例子中,3.5可以向上或向下舍入,这取决于进行舍入的人或计算机的突发奇想。计算机在处理π这样的无限表达式时,也必须进行舍入运算。对于人类来说,向上或向下取整可能是一个有用的快速估计工具——例如,将购物车中所有商品的价格相加,以确保在结账时手头有足够的现金。舍入对计算机也很有用,因为它允许用数学常数(如π)进行计算,但它也带来了一个问题——停滞。

对于计算机,当小数量的长和(如0.1)因四舍五入而丢失时,就会出现停滞。在一般应用中,有许多方法可以解决这个问题,但是停滞是机器学习应用的一个主要问题。在这项新的努力中,研究人员正在寻找在这种应用中使用SR的可能性。

SR是计算机的一种舍入方法,已经存在了半个多世纪,但使用有限。使用SR的程序使用基于与给定数字的距离的概率对该数字进行舍入。例如,数字2.6有60%的机会被舍入到3,有40%的机会被舍入到2。研究人员指出,这样的概率是可以使用的,因为它们是“一路”到目标数字的百分比。比如2.6,在通往3的路上是60%。在SR中,中点被认为同样可能被向上或向下舍入。在这种情况下,方向仍然被认为是随机的。研究人员认为,使用这种方法可以防止舍入过于频繁地向同一方向进行,并有助于避免停滞。当然,问题是大多数计算机系统缺乏真正的随机数生成器。为了克服这个问题,研究人员建议使用多种类型的舍入。

来源:由phyica.com整理转载自PH,转载请保留出处和链接!

本文链接:http://www.phyica.com/jishugongcheng/14768.html

发表评论

用户头像 游客
此处应有掌声~

评论列表

还没有评论,快来说点什么吧~