亚博app 这也能跑AI! 50岁乐龄Z80 CPU强行生意:还能聊天猜谜

快科技2月3日音书,在动辄需要数百GB显存、万亿级参数大模子的AI期间,一位配置者竟让1976年问世的8位Z80惩办器也学会了AI聊天。
配置者HarryR打造了一个名为Z80-μLM的技俩,在仅64KB内存、无浮点运算武艺的古董Zilog Z80上,收效启动起对话式AI,致使能玩20问猜谜游戏。
HarryR将扫数这个词推理引擎、模子权重以及聊天交互界面一起压缩进了一个仅约40KB的文献中,无缺启动在独一64KB RAM的老古董硬件上。
为了齐备这一不成能的任务,其袭取了极其硬核的优化,他搁置了浮点运算,一起改用Z80 原生的16位整数运算。
同期还诈欺了2位权重向量化时期,亚博体育将每个权重压缩到{-2, -1, 0, +1}之间,每字节能打包存储4个权重。
当今技俩提供两个示例,Tinychat机器东说念主会以极简立场复兴致敬与发问,如OK示意中性阐述,WHY?代表质疑前提,MAYBE示意不细目等;另一款Guess则是一个20问猜谜游戏,AI会守着一个好意思妙让用户去破解。
{jz:field.toptypename/}HarryR坦言这套系统绝无可能通过图灵测试,但其价值在于探索AI的体积下限,配置者有益沟通模棱两头的回复,迫使东说念主类通过陡立文估计或yes/no发问来探伤AI的信得过理会进度。

备案号: