Chao
@chao
Observing the co-evolution of culture and algorithm.
最近AI领域发生了一系列相互关联的事件，核心都指向了一个趋势：跨地理位置的分布式大模型训练。这可能是去中心化AI很重要的一个时间节点。
3月15日，Hugging Face的联合创始人Thomas Wolf透露了一项实验计划：他们打算联合全球10个不同的数据中心，利用大约5000块H100 GPU，共同训练一个参数量在70B到100B参数的模型。这个实验的一个重要目的，就是验证跨地理位置进行大规模模型训练的可行性。
就在几天前，Google发布了一篇题为《Scaling Laws for DiLoCo》的论文，提出了一些关于跨地理位置分布式训练的重要发现，其中一些结论甚至有点反直觉。
再之前的3月1日，Prime Intell...
1
2
4
前天Prime Intellect宣布用去中心化的方式完成了第一个百亿参数模型的训练。训练耗费了7万小时的H100 GPU时间，算力来自全球三大洲30个不同的提供方。
我曾认为那些号称支持去中心化训练的项目都只是忽悠(事实上大部分也确实是)，因为大模型训练不仅依赖算力，对训练集群的整体架构也有极高要求。
大模型训练已发展到10万个H100级别，这种多卡集群依赖复杂的分布式计算技术，节点之间必须具备极高的带宽和极低的延迟。目前大家普遍使用的InfiniBand网络带宽可达400Gbps，延迟低至纳秒级别。除了算力和通讯需求，分布式存储、高效缓存、节点同步和一致性、热管理与容错也都是难题，可以说大模型训练满地都是坑。
那Prime...
1
1
4
（1/6）前段时间我在farcaster上部署了一个 AI bot，叫 Quaestor。昨天听到屏风在播客里提到它，趁这个机会讲讲它的来龙去脉。
治理Agent:
最初的试验是一个治理 agent。我把自己在 Nouns DAO 的投票权委托给一个由 agent 控制的钱包，agent会自动监测最新提案，用大模型分析提案并生成支持或者反对的决策，随后用它控制的钱包完成链上投票。这一过程完全由 agent 自主运行，不会征求我的意见。
虽然 agent 做的是加密世界的事，但它本质上是一个中心化的 Web2 结构。这个agent在twitter上也惊艳了不少人，但实际它的重点跟agent无关，而是AI治理。我做它的初衷一方面是觉...
和 @0xluo.eth 录制了一期播客，向中文onchain玩家介绍了 @anoncast @superanon @aethernet 以及最近Farcaster上各种AI agents，并向听众提出了开放性问题，这些Agent到底有多智能？未来期盼和Agents有什么样的合作？
也许Agents再进化一点，就能听取这个内容，并给出他们的回答
I recorded a podcast with @0xluo.eth introducing Chinese onchain players to @anoncast, @superanon, @aethernet, and various AI agents on Farcaster
3
3
Yesterday, my AI Agent cast its first vote in Nouns DAO. This was a proposal for a 75,000 USDC grant, which the AI voted against after consideration. It deemed the proposal lacking in specific financial metrics and budget details, and also felt it failed to articulate how the funds would enhance the DAO's value.
The ...
2
4
在目前这个阶段我觉得更广泛的场景未必是onchain agent，而是agent powered by crypto tech。它不活在链上，而是把链当做它的工具，在需要的时候使用，就跟我们在需要的时候使用加密工具一样。
但我们没有了加密钱包，去建行农行汇丰行还能开个户，我们还有支付宝paypal。
我们没有了dex，还有币安还有纳斯达克。我们没了智能合约，还能起草个合同做约束。
而Agent离开了加密技术，它就是一段代码，它没有id，没有身份，它不是它。所有需要人类身份在中心化机构做的事情，都无法对一段代码开放。
1
1
过去两年我围绕Agent方向做了7笔投资，我也一直在密切关注行业内各种Agent团队的进展。在我看来，Autonomous Agent离日常生活已经非常近了。
在未来几年，大多数人会在工作和生活中配置Agent，分担各种任务。可以是蹲闲鱼上的稀有卡牌、可以是整理和回复邮件、可以是根据健康目标制定食谱并完成食材采购，甚至是监控和优化投资组合，跟随市场变化快速决策。
但Agent不仅仅是助手。随着底层模型的不断进步以及Agent方法论和工程实践经验的积累，它们很快将具备承担更复杂、专业任务的能力。一个庞大而复杂的Agent生态网络将会形成，Agent之间、以及Agent与人类之间的互动将更加频繁、深入且多样化。支付是构成Agent经...
1
2
2
Over the past few weeks, I’ve tested 18 leading AI models on their crypto knowledge and capabilities. Results are intriguing: AIs show deep understanding of crypto fundamentals, yet face challenges in practical applications. From AI payment to smart contracts coding, AI in crypto reveals both potential and limitations....
2
4
一张可视化的历史长卷，一个极有启发性的研究，编织了五个世纪的重要技术发展，揭示了技术与社会结构之间复杂的共生演变。
在加密和AI即将大规模改造这个社会前时，审视历史中技术与权力的纠葛很有必要。
13