为破解大模型部署与推理成本高昂的困境,近日,北京大学杨仝教授团队首次提出名为iFairy的超低比特量化方案。该方案创新性地利用复数{±1, ±i}对模型权重进行2-bit量化,在实现1/8极致压缩与“无乘法”推理加速的同时,语言建模能力和下游任务表现反超了同尺寸的全精度LLaMA基座模型。相关论文题为“iFairy: the First 2-bit Complex LLM with All ...
3月6日,一款名为“Manus”的AI工具在网络上走红并登上了微博热搜。Manus的产品名,意思为“手”,来自拉丁文 mens et manus(知行合一)。Manus在其官网上称,Manus是一个通用的AI代理,它能够独立思考、规划并执行复杂任务,直接交付完整成果。Manus认为,按照GAIA Benchmark(盖亚基准),其工具在所有三个难度级别都实现了新的最先进的性能,超过了Open...