每当我听到有人大谈我们现在的计算机能力比20世纪60年代阿波罗时代的计算机能力多得多时,我都会感到震惊。这些比较通常严重低估了差异。到1961年,世界上的一些大学已经购买了IBM 7090主机。
7090是第一个全晶体管计算机系列,以今天的货币计算,它的成本为2000万美元,或者是今天顶级笔记本电脑的6000倍。它的早期买家通常将计算机作为整个校园的共享资源来部署。很少有用户有幸每周能获得一小时的计算机时间。
7090的时钟周期为2.18微秒,因此工作频率略低于500KHz。但在那个年代,指令并不是流水线式的,所以大多数指令需要一个以上的周期来执行。一些整数运算需要14个周期,而一个浮点运算可能需要15个周期。因此,7090通常被估计为每秒钟执行约10万条指令。大多数现代计算机内核可以以每秒30亿条指令的速度持续运行,峰值速度要快得多。这是3万倍的速度,所以一个有四个或八个内核的现代芯片很容易达到10万倍的速度。
与1961年那个得到一小时计算机时间的幸运儿不同,你可以一直运行你的笔记本电脑,每周积累超过1900年的7090计算机时间。继续这个比较,考虑一下训练流行的自然语言人工智能模型GPT-3所需的指令数量。在云服务器上执行这些指令相当于355年的笔记本电脑时间,这在7090上转化为超过3600万年。
但是说真的,这种比较是不公平的。你的笔记本电脑可能有16G的主内存。7090的最大容量为144Kb。要运行同样的程序,需要将大量的数据进出7090,而且必须使用磁带。当时最好的磁带机最大数据传输率为每秒60KB。虽然12个磁带单元可以连接到一台7090计算机上,但这个速率需要在它们之间共享。但是,这种共享需要一组人类操作员交换驱动器上的磁带,以这种方式读取(或写入)16GB的数据将需要三天时间。因此,与今天的速度相比,数据传输也慢了大约10万倍。
所以现在7090看起来运行速度是2021年笔记本电脑的四亿分之一。现代笔记本上一周的计算时间会比7090上的宇宙年龄更长。你的笔记本电脑的每个核心都有内置的SIMD(单指令,多数据)扩展,可以以Turbo模式进行浮点运算,用于矢量操作。7090上甚至没有这些东西的影子。然后是GPU,最初用于图形加速,但现在用于大部分的人工智学能习,如在训练GPT-3。而最新的iPhone芯片,A15 Bionic,有五个GPU,以及一个额外的神经引擎,每秒运行15万亿次算术运算。
短短60年的差异让人难以置信。但我们是否有效地利用了所有这些计算能力?