英伟达发布开源工具 PAIR,可将家里闲置电脑变成私有 AI 集群

英伟达发布开源工具 PAIR,可将家里闲置电脑变成私有 AI 集群

英伟达发布了名为“Personal AI Router”(PAIR)的开源软件,它做的事是在局域网里发现兼容的电脑,把它们连起来,一起跑本地推理。工具链走的是 Ollama 和 LM Studio 这套开发者已经熟悉的东西,支持的设备以英伟达自家 GeForce 为主——RTX 20 系及以上、RTX Pro、DGX Spark——但苹果 M4 及更新的芯片也能加入进来。 先说名字里最容易误会的那部分:PAIR 不是硬件路由器。其核心机制就一条:只用闲置算力。家里的机器空闲时才被调度,你一坐下来打游戏,它会自己退出,不跟你抢 GPU。多台机器并行拆任务,把一个 agentic 工作流里的大活儿切成小块分下去,避免单卡瓶颈。 英伟达产品经理 Seth Schneider 在媒体简报里给了一个极端化的例子:一个家里,爸爸有 RTX Spark 笔记本加 DGX Spark 台式机,妈妈有 RTX 5090 笔记本,女儿有游戏台式机,儿子有 MacBook Pro。他估算这个家庭有大约 165 teraflops 的算力在闲置。原话是——「这真的是今天躺在家里的、免费 token 的宝藏」,即便算上美国家庭的平均电费。 安全这块走的是六位配对码加 mTLS(Mutual Transport Layer Security),双向加密通道。PAIR 的 beta 已上线,支持 Windows、Linux、macOS。 真正有意思的问题是谁在用。Schneider 被问到这个时,给的答案比 165 teraflops 那个广告场景克制得多:大多数 PAIR 用户大概就是一台 MacBook 或 Windows 笔记本,加一台游戏 PC。 也就是说,这玩意儿不是给极客地主准备的,是给「手里刚好有两台电脑」的人。 配合 PAIR 一起宣布的还有三款 AI agent 应用——Perplexity Portable Computer、Hermes Agent、OpenClaw——在 Windows 上提供简化的本地部署体验,英伟达的说法是点几下就能跑起来,省掉初始的手工配置。 PAIR 的想象空间不在技术本身,而在它踩中了一个正在变大的诉求:把本地推理从「一台机器的独角戏」变成「家里所有机器的协同」。当 agent 开始把复杂任务拆成大量小请求时,单张显卡的瓶颈会越来越明显,而一堆闲置设备恰好是现成的答案。 参考来源: Nvidia launches free tool that links idle computers into a personal AI data center — The Verge

查看原文
分享到:

相关推荐

内存短缺将继续推动消费电子产品价格上涨

1小时前

特斯拉时隔一年半再降价,最高降价 1 万元,这个调价幅度你怎么看?为啥在这个时间节点降价?

1小时前

长鑫科技:上半年合同负债规模下降系二季度订单集中交付并结转收入所致

1小时前

工信部:到2030年信息基础设施累计投资3.8万亿元 智能算力规模达9800EFLOPS

1小时前