作者:Kyle Samani(Multicoin Capital合伙人) 和ChatGPT;翻译:金色财经cryptonaitive和ChatGPT
注:这篇文章的绝大部分内容,包括大部分标题,都是由 ChatGPT 撰写的。作者写的文字是斜体的。你可以在这里看到作者与 ChatGPT 的对话过程。
Crypto 和 AI 的世界一直在并行发展,每个领域都在突破技术和创新的界限。随着我们在这两个领域不断取得进展,越来越清楚的是,它们的未来是密切纠缠在一起的。在这篇文章中,我们将探索 Crypto 和 AI 十字路口的四个重要交叉点。
“显卡的 AirBnB”模型
AI 和机器学习 (ML) 工作负载的兴起对 Nvidia A100 等高性能显卡产生了巨大需求。作为回应,出现了一个类似于“显卡的 AirBnB”的新市场。这允许个人和组织出租他们未使用的 GPU 资源,以满足 AI 研究人员和开发人员的需求。
这是市场历史上真正独特的时刻。在 ChatGPT 推出之前,GPU 的供应已经供不应求。从那时起,需求可能至少增长了 10 倍,甚至可能增长了 100 倍。此外,我们知道模型随着训练规模的增加呈对数增长;这意味着对 GPU 计算的需求呈指数级增长,以提高模型质量。尽管总供应远远超过需求,但对商品的需求如此巨大地超过可用供应的时刻很少见;如果今天地球上的每一个 GPU 都可用于 AI 推理和训练,那么就不会短缺,而是会过剩!
然而,在探索“显卡的 AirBnB”的概念时,需要考虑几个主要的技术挑战:
并非所有显卡都能支持所有工作负载:显卡有各种形状、尺寸和规格。因此,某些 GPU 可能无法处理某些 AI 任务。为了使该模型取得成功,需要有一种方法将正确的 GPU 资源与适当的 AI 工作负载相匹配。随着市场的成熟,我们应该期待看到针对不同 AI 任务的显卡进一步专业化和优化。
调整训练过程以适应更高的延迟:今天的大多数基础模型都是在 GPU 集群上训练的,GPU通过极低延迟连接。在去中心化环境中,延迟会增加几个数量级,因为 GPU 可能分布在多个位置并通过公共互联网连接。为了克服这一挑战,有机会开发出新训练过程,它们具有更高延迟连接。通过重新思考我们训练 AI 模型的方式,我们可以更好地利用更大 GPU 的去中心化集群。
验证问题:无法知道不受信任的计算机是否执行了特定代码段。因此,很难相信不受信任的计算机的输出。然而,这个问题可以通过信誉系统与加密经济质押相结合来缓解,在某些情况下,还可以通过支持快速验证的新型模型来缓解。
有相当多的团队在这个领域工作,包括训练和推理。Multicoin Capital投资了Render Network, Render Network最初专注于3D渲染,并且已经开放了它的 GPU 网络来也支持AI推理。
除了 Render Network,还有一些其他公司在这个领域工作:Akash、BitTensor、Gensyn、Prodia、Together,以及其他仍处于开发中的项目。
代币激励RLHF (Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)
代币激励几乎肯定不会适用于从人类反馈中强化学习(RLHF)的所有用例。问题是,我们可以使用什么框架来考虑什么时候代币激励对 RLHF 有意义,什么时候应该使用现金支付(例如 USDC)。
随着以下情况变得更加真实,代币激励可能会改善 RLHF:
该模型变得更加狭小和垂直(与通用和横向相对,例如 ChatGPT)。 如果某人将提供 RLHF 作为他们的主要工作,并因此通过提供 RLHF 产生大部分收入,他们可能需要现金来支付租金和购买食物。当你从一般查询转向更具体的领域时,模型开发人员将需要更多训练有素的员工参与,他们更有可能获得整体商业机会的长期成功。
在 RLHF 工作本身之外提供 RLHF 的人的收入越高。 如果一个人有足够的收入或其他努力的储蓄来证明在特定领域的 RLHF 模型中投入有意义的时间的风险是合理的,那么他们只能接受锁定/非流动性代币作为补偿而不是现金。为了最大限度地提高成功的可能性,模型开发人员不应该只向提供特定领域 RLHF 的工作人员发放未锁定的代币。相反,代币应该在一段时间内授予,以激励长期决策。
代币激励 RLHF 模型可能适用的一些行业包括:
医学: 人们应该能够与法学硕士一起从事轻量级、第一反应的诊断,以及长期预防和长寿医学。
法律: 企业主和个人应该能够使用 LLM 来更有效地驾驭各种异构法律体系的复杂性。
工程和建筑:增强设计工具或仿真模型。
金融和经济:改进预测模型、风险评估和算法交易系统。
科学研究:完善用于模拟实验、预测分子相互作用和分析复杂数据集的 AI 模型。
教育和培训:为人工智能驱动的学习平台做出贡献,以提高教育内容的质量和有效性。
环境科学与可持续性:优化人工智能模型以预测环境趋势、资源分配和促进可持续实践。
有一个垂直领域的代币激励 RLHF 已经投入生产:地图。Hivemapper不仅对司机有好处,对投入时间编辑和整理地图数据的地图编辑人员也有好处。你可以使用 Hivemapper 自己尝试地图人工智能训练工具.
零知识机器学习 (zkML)
区块链不知道现实世界中发生了什么。然而,了解发生在链外的事件对他们来说是非常有益的,这样他们就可以根据现实世界状态以编程方式转移价值。
预言机解决了这个问题的一部分。但是预言机还不够。仅仅将现实世界数据中继到链上是不够的。在进入链之前,需要计算很多数据。例如,让我们考虑一个收益聚合器,它需要在不同池子之间转移存款以赚取更多收益。为了以信任最小化的方式做到这一点,聚合器需要计算所有可用池子的当前收益和风险。这很快就变成了适合 ML 的优化问题。然而,在链上计算 ML 的成本太高,因此这对 zkML 来说是一个机会。
像Modulus Labs这样的团队现在正在这个领域建设。我们希望更多的团队使用通用 ZKVM 在这个领域进行构建,例如Risc Zero和Lurk。
深度伪造时代的真实性
随着深度伪造变得越来越复杂,保持对数字媒体的真实性和信任至关重要。一种解决方案涉及利用公钥密码学,允许创作者通过使用公钥对其内容进行签名来保证其内容的真实性。
公钥本身不足以解决真实性问题。需要有一个公共记录,将公钥映射到真实世界的身份,以便进行验证和建立信任。通过将公钥与经过验证的身份相关联,可以创建一个反馈和惩罚系统,如果有人被发现滥用他们的密钥,例如在深度伪造的图像或视频上签名。
为了使这个系统有效,公钥签名与现实世界身份验证的集成将是至关重要的。支撑许多加密货币系统的区块链技术可以在创建去中心化和防篡改的身份注册方面发挥重要作用。该注册表会将公钥映射到真实世界的身份,从而更容易建立信任并追究不良行为者的责任。
至少会有两种配置:嵌入式硬件和用户控制的软件。
嵌入式硬件:我们预计智能手机和其他设备将很快集成基于硬件的本地图像、视频和其他媒介签名功能。
Solana Labs 最近推出了Saga电话,它由Solana 移动堆栈(Solana Mobile Stack,SMS)驱动。在接下来的几个月里,我希望 SMS 能够得到更新,以便每张照片都使用 SMS 进行签名种子库SDK,证明照片不是由 AI 生成的。
用户控制的软件:人们将使用Photoshop、Octane 等设计工具和 Stable Diffusion 等图像生成器来制作艺术品。我们期望这些软件提供商将集成公钥加密机制,使创作者能够证明真实性,同时也承认在制作过程中使用的工具。
结论
总之,加密货币和人工智能技术的融合为应对紧迫挑战和解锁跨多个行业的创新解决方案提供了大量机会。通过探索这些领域的交叉点,我们可以找到新的方法来优化 AI 训练中的资源分配,利用代币激励从人类反馈中进行特定领域的强化学习,并在面对深度伪造时保持数字媒体的真实性。
“显卡的 AirBnB”模型提供了去中心化和民主化访问高性能 GPU 的潜力,使更多的人和组织能够为 AI 研究和开发做出贡献。代币激励的 RLHF 可以应用于从工程和金融到教育和环境科学的各个行业,通过利用领域专家的知识改进人工智能模型。ZKML 将允许区块链根据现实世界中的复杂变化更新链上的财务状态。最后,通过将公钥密码学与现实世界的身份验证和区块链技术相结合,我们可以创建一个强大的系统来应对深度伪造带来的挑战并保持对数字媒体的信任。
随着我们不断发现加密和人工智能之间的协同作用,我们无疑会发现更多机会来推动创新、创造价值并解决当今社会面临的一些最紧迫的问题。拥抱这两个领域之间的交叉点将帮助我们突破技术的界限,塑造一个更加互联、高效和真实的未来。