奔腾II古董Win98电脑竟能流畅运行大语言模型！

近日，一个名为EXO Labs的团队在社交媒体上发布了一段引人注目的视频，展示了一台运行Windows 98系统的老式奔腾II电脑（配备128MB内存）成功执行大型语言模型（LLM）的壮举。这一成就不仅令人惊叹，也标志着人工智能技术在极端条件下的出色表现。

EXO Labs由牛津大学的研究人员和工程师组成，今年9月正式亮相。他们致力于打破大型企业对人工智能技术的垄断，认为这种垄断可能对文化、真相以及社会的其他方面产生负面影响。因此，他们希望构建开放的基础设施，使前沿的人工智能模型能够被任何人、在任何地方运行。此次在Windows 98上运行LLM的成功案例，正是他们这一理念的生动体现。

EXO Labs的目标不仅限于此。他们正在探索一种名为BitNet的新型人工智能架构，该架构使用三元权重，使得一个70亿参数的模型仅需1.38GB的存储空间。尽管这对于一台26年前的奔腾II来说可能仍然有些吃力，但对于现代硬件甚至十年前的设备来说，这一要求已经变得非常轻量级。BitNet是“CPU优先”的，避免了对昂贵GPU的依赖。据称，这种类型的模型比全精度模型效率高50%，并且可以在单个CPU上以人类阅读速度（约每秒5到7个token）运行一个1000亿参数的模型。