原文作者:IOSG Ventures

感謝來(lái)自 Zhenyang@Upshot, Fran@Giza, Ashely@Neuronets, Matt@Valence, Dylan@Pond 的反饋。
本研究旨在探討對(duì)開(kāi)發(fā)者而言哪些人工智能領(lǐng)域最為重要,以及在 Web3 和人工智能領(lǐng)域哪些可能是爆發(fā)的下一個(gè)機(jī)遇。
在分享新的研究觀點(diǎn)之前,首先很高興我們參與了 RedPill 總計(jì) 500 萬(wàn)美元的第一輪融資,也非常激動(dòng),期待接下來(lái)能夠和 RedPill 共同成長(zhǎng)!
TL;DR
隨著 Web3 與 AI 的結(jié)合成為加密貨幣界的矚目話題,加密世界的 AI 基礎(chǔ)設(shè)施構(gòu)建興旺起來(lái),但實(shí)際利用 AI 或?yàn)?AI 構(gòu)建的應(yīng)用程序并不多,AI 基礎(chǔ)設(shè)施的同質(zhì)化問(wèn)題逐漸顯現(xiàn)。近期我們參與的 RedPill 的第一輪融資,引發(fā)了一些更深入的理解。
構(gòu)建 AI Dapp 的主要工具包括去中心化 OpenAI 訪問(wèn)、GPU 網(wǎng)絡(luò)、推理網(wǎng)絡(luò)和代理網(wǎng)絡(luò)。
之所以說(shuō) GPU 網(wǎng)絡(luò)比「比特幣挖礦時(shí)期」還要熱門,是因?yàn)椋篈I 市場(chǎng)更大,并且增長(zhǎng)快速且穩(wěn)定;AI 每天支持?jǐn)?shù)以百萬(wàn)計(jì)的應(yīng)用程序;AI 需要多樣化的 GPU 型號(hào)和服務(wù)器位置;技術(shù)比過(guò)往更成熟;面向的客戶群也更廣。
推理網(wǎng)絡(luò)和代理網(wǎng)絡(luò)有相似的基礎(chǔ)設(shè)施,但關(guān)注點(diǎn)不同。推理網(wǎng)絡(luò)主要供有經(jīng)驗(yàn)的開(kāi)發(fā)者部署自己的模型,而運(yùn)行非 LLM 模型并不一定需要 GPU。代理網(wǎng)絡(luò)則更專注于 LLM,開(kāi)發(fā)者無(wú)需自帶模型,而是更注重提示工程和如何將不同的代理聯(lián)結(jié)起來(lái)。代理網(wǎng)絡(luò)總是需要高性能的 GPU。
AI 基礎(chǔ)設(shè)施項(xiàng)目承諾巨大,仍在不斷推出新功能。
多數(shù)原生加密項(xiàng)目仍處于測(cè)試網(wǎng)階段,穩(wěn)定性差,配置復(fù)雜,功能受限,還需要時(shí)間來(lái)證明其安全性和隱私性。
假設(shè) AI Dapp 成為大趨勢(shì),還有許多未開(kāi)發(fā)的領(lǐng)域,如監(jiān)控、與 RAG 相關(guān)的基礎(chǔ)設(shè)施、Web3 原生模型、內(nèi)置加密原生 API 和數(shù)據(jù)的去中心化代理、評(píng)估網(wǎng)絡(luò)等。
垂直整合是一個(gè)顯著趨勢(shì)。基礎(chǔ)設(shè)施項(xiàng)目試圖提供一站式服務(wù),簡(jiǎn)化 AI Dapp 開(kāi)發(fā)者的工作。
未來(lái)將是混合型的。部分推理在前端進(jìn)行,而部分在鏈上計(jì)算,這樣做可以考慮到成本和可驗(yàn)證性因素。
Source: IOSG
引言
Web3 與 AI 的結(jié)合是當(dāng)前加密領(lǐng)域中最受矚目的話題之一。才華橫溢的開(kāi)發(fā)者正在為加密世界構(gòu)建 AI 基礎(chǔ)設(shè)施,致力于將智能帶入智能合約。構(gòu)建 AI dApp 是極其復(fù)雜的任務(wù),開(kāi)發(fā)者需要處理的范圍包括數(shù)據(jù)、模型、計(jì)算力、操作、部署和與區(qū)塊鏈的整合。針對(duì)這些需求,Web3 創(chuàng)始人已經(jīng)開(kāi)發(fā)出許多初步的解決方案,如 GPU 網(wǎng)絡(luò)、社區(qū)數(shù)據(jù)標(biāo)注、社區(qū)訓(xùn)練的模型、可驗(yàn)證的 AI 推理與訓(xùn)練以及代理商店。
而在這興旺的基礎(chǔ)設(shè)施背景下,實(shí)際利用 AI 或?yàn)?AI 構(gòu)建的應(yīng)用程序并不多。開(kāi)發(fā)者在查找 AI dApp 開(kāi)發(fā)教程時(shí),發(fā)現(xiàn)這些與原生加密 AI 基礎(chǔ)設(shè)施相關(guān)的教程并不多,大多數(shù)教程僅涉及在前端調(diào)用 OpenAI API。
Source: IOSG Ventures
當(dāng)前的應(yīng)用未能充分發(fā)揮區(qū)塊鏈的去中心化和可驗(yàn)證功能,但這種狀況很快將會(huì)改變。現(xiàn)在,大多數(shù)專注于加密領(lǐng)域的人工智能基礎(chǔ)設(shè)施已經(jīng)啟動(dòng)了測(cè)試網(wǎng)絡(luò),并計(jì)劃在未來(lái) 6 個(gè)月內(nèi)正式運(yùn)行。
本研究將詳細(xì)介紹加密領(lǐng)域人工智能基礎(chǔ)設(shè)施中可用的主要工具。讓我們準(zhǔn)備迎接加密世界的 GPT-3.5 時(shí)刻吧!
1. RedPill:為 OpenAI 提供去中心化授權(quán)
前文所提到的我們參投的 RedPill 是一個(gè)很好的引入點(diǎn)。
OpenAI 擁有幾種世界級(jí)強(qiáng)大的模型,如 GPT-4-vision、GPT-4-turbo 和 GPT-4 o,是構(gòu)建先進(jìn)人工智能 Dapp 的優(yōu)選。
開(kāi)發(fā)者可以通過(guò)預(yù)言機(jī)或前端接口調(diào)用 OpenAI API 以將其集成到 dApp 中。
RedPill 將不同開(kāi)發(fā)者的 OpenAI API 整合在一個(gè)接口下,為全球用戶提供快速、經(jīng)濟(jì)且可驗(yàn)證的人工智能服務(wù),從而實(shí)現(xiàn)了對(duì)頂尖人工智能模型資源的民主化。RedPill 的路由算法會(huì)將開(kāi)發(fā)者的請(qǐng)求定向到單一貢獻(xiàn)者處。API 請(qǐng)求將通過(guò)其分發(fā)網(wǎng)絡(luò)執(zhí)行,從而繞過(guò)任何來(lái)自 OpenAI 的可能限制,解決了加密開(kāi)發(fā)者面臨的一些常見(jiàn)問(wèn)題,如:
限制 TPM(每分鐘代幣):新賬戶對(duì)代幣的使用有限,無(wú)法滿足熱門且依賴 AI 的 dApp 的需求。
訪問(wèn)限制:一些模型對(duì)新賬戶或某些國(guó)家的訪問(wèn)設(shè)置了限制。
通過(guò)使用相同的請(qǐng)求代碼但更換主機(jī)名,開(kāi)發(fā)者能以低廉的成本、高擴(kuò)展性和無(wú)限制的方式訪問(wèn) OpenAI 模型。
2. GPU 網(wǎng)絡(luò)
除了使用 OpenAI 的 API,許多開(kāi)發(fā)人員還會(huì)選擇自行在家中托管模型。他們可以依托去中心化 GPU 網(wǎng)絡(luò),如 io.net、Aethir、Akash 等流行的網(wǎng)絡(luò),自行建立 GPU 集群并部署及運(yùn)行各種強(qiáng)大的內(nèi)部或開(kāi)源模型。
這樣的去中心化 GPU 網(wǎng)絡(luò),能夠借助個(gè)人或小型數(shù)據(jù)中心的計(jì)算力,提供靈活的配置、更多的服務(wù)器位置選擇以及更低的成本,讓開(kāi)發(fā)人員可以在有限的預(yù)算內(nèi)輕松進(jìn)行 AI 相關(guān)的試驗(yàn)。然而,由于去中心化的性質(zhì),此類 GPU 網(wǎng)絡(luò)在功能性、可用性和數(shù)據(jù)隱私方面還存在一定的局限。
過(guò)去幾個(gè)月,GPU 的需求火爆,超過(guò)了之前的比特幣挖礦熱潮。此現(xiàn)象的原因包括:
目標(biāo)客戶增多,GPU 網(wǎng)絡(luò)現(xiàn)在服務(wù)于 AI 開(kāi)發(fā)者,他們的數(shù)量不僅龐大而且更為忠實(shí),不會(huì)受到加密貨幣價(jià)格波動(dòng)的影響。
相比挖礦專用設(shè)備,去中心化 GPU 提供了更多的型號(hào)和規(guī)格,更能滿趡 iez 要求。尤其是大型模型處理需要更高的 VRAM,而小型任務(wù)則有更適合的 GPU 可選。同時(shí),去中心化 GPU 能夠近距離服務(wù)終端用戶,降低延遲。
技術(shù)日趨成熟,GPU 網(wǎng)絡(luò)依賴高速區(qū)塊鏈如 Solana 結(jié)算、Docker 虛擬化技術(shù)和 Ray 計(jì)算集群等。
在投資回報(bào)方面,AI 市場(chǎng)正在擴(kuò)張,新應(yīng)用和模型的開(kāi)發(fā)機(jī)會(huì)多,H 100 模型的預(yù)期回報(bào)率為 60-70% ,而比特幣挖礦則更為復(fù)雜,贏家通吃,產(chǎn)量有限。
比特幣挖礦企業(yè)如 Iris Energy、Core Scientific 和 Bitdeer 也開(kāi)始支持 GPU 網(wǎng)絡(luò),提供 AI 服務(wù),并積極購(gòu)買專為 AI 設(shè)計(jì)的 GPU,如 H 100 。
推薦:對(duì)于不太重視 SLA 的 Web2 開(kāi)發(fā)者,io.net 提供了簡(jiǎn)潔易用的體驗(yàn),是個(gè)性價(jià)比很高的選擇。
3. 推理網(wǎng)絡(luò)
這是加密原生 AI 基礎(chǔ)設(shè)施的核心。它將在未來(lái)支持?jǐn)?shù)十億次 AI 推理操作。許多 AI layer 1 或 layer 2 為開(kāi)發(fā)者提供了在鏈上原生調(diào)用 AI 推理的能力。市場(chǎng)領(lǐng)導(dǎo)者包括 Ritual、Valence 和 Fetch.ai。
這些網(wǎng)絡(luò)在以下方面存在差異:
性能(延遲、計(jì)算時(shí)間)
支持的模型
可驗(yàn)證性
價(jià)格(鏈上消耗成本、推理成本)
開(kāi)發(fā)體驗(yàn)
3.1 目標(biāo)
理想的情況是,開(kāi)發(fā)者可以在任何地方,通過(guò)任何形式的證明,輕松地訪問(wèn)自定義的 AI 推理服務(wù),整合過(guò)程中幾乎沒(méi)有任何阻礙。
推理網(wǎng)絡(luò)提供了開(kāi)發(fā)者所需的全部基礎(chǔ)支持,包括按需生成和驗(yàn)證證明、進(jìn)行推理計(jì)算、推理數(shù)據(jù)的中繼和驗(yàn)證、提供 Web2 和 Web3 的接口、一鍵式模型部署、系統(tǒng)監(jiān)測(cè)、跨鏈操作、同步集成及定時(shí)執(zhí)行等功能。
Source: IOSG Ventures
借助這些功能,開(kāi)發(fā)者可以將推理服務(wù)無(wú)縫集成到他們現(xiàn)有的智能合約中。例如,在構(gòu)建 DeFi 交易機(jī)器人時(shí),這些機(jī)器人會(huì)利用機(jī)器學(xué)習(xí)模型尋找特定交易對(duì)的買賣時(shí)機(jī),并在基礎(chǔ)交易平臺(tái)上執(zhí)行相應(yīng)的交易策略。
在完全理想的狀態(tài)下,所有的基礎(chǔ)結(jié)構(gòu)都是云托管的。開(kāi)發(fā)者只需將他們的交易策略模型以通用格式如 torch 上傳,推理網(wǎng)絡(luò)就會(huì)存儲(chǔ)并為 Web2 和 Web3 查詢提供模型。
所有模型部署步驟完成后,開(kāi)發(fā)者可以直接通過(guò) Web3 API 或智能合約調(diào)用模型推理。推理網(wǎng)絡(luò)將持續(xù)執(zhí)行這些交易策略,并將結(jié)果反饋給基礎(chǔ)智能合約。如果開(kāi)發(fā)者管理的社區(qū)資金量很大,還需要提供推理結(jié)果的驗(yàn)證。一旦收到推理結(jié)果,智能合約就會(huì)根據(jù)這些結(jié)果進(jìn)行交易。
Source: IOSG Ventures
3.1.1 異步與同步
從理論上講,異步執(zhí)行的推理操作可以帶來(lái)更好的性能表現(xiàn);然而,這種方式在開(kāi)發(fā)體驗(yàn)上可能讓人感到不便。
在采用異步方式時(shí),開(kāi)發(fā)者需要先將任務(wù)提交到推理網(wǎng)絡(luò)的智在合約中。當(dāng)推理任務(wù)完成后,推理網(wǎng)絡(luò)的智能合約會(huì)將結(jié)果返回。在這種編程模式下,邏輯被分為推理調(diào)用和推理結(jié)果處理兩個(gè)部分。
Source: IOSG Ventures
如果開(kāi)發(fā)者有嵌套的推理調(diào)用和大量的控制邏輯,情況會(huì)變得更糟。
Source: IOSG Ventures
異步編程模式使得它難以與現(xiàn)有的智能合約集成。這需要開(kāi)發(fā)者編寫大量額外的代碼,并進(jìn)行錯(cuò)誤處理和管理依賴關(guān)系。
相對(duì)地,同步編程對(duì)于開(kāi)發(fā)者來(lái)說(shuō)更加直觀,但它在響應(yīng)時(shí)間和區(qū)塊鏈設(shè)計(jì)上引入了問(wèn)題。例如,如果輸入數(shù)據(jù)是區(qū)塊時(shí)間或者價(jià)格這種快速變動(dòng)的數(shù)據(jù),那么在推理完成后數(shù)據(jù)已不再新鮮,這可能會(huì)導(dǎo)致在特定情況下智能合約的執(zhí)行需要回滾。想象一下,你用一個(gè)過(guò)時(shí)的價(jià)格來(lái)做交易。
Source: IOSG Ventures
大部分 AI 基礎(chǔ)架構(gòu)采用異步處理,但 Valence 正在嘗試解決這些問(wèn)題。
3.2 現(xiàn)實(shí)情況
實(shí)際上,許多新的推理網(wǎng)絡(luò)還在測(cè)試階段,如 Ritual 網(wǎng)絡(luò)。根據(jù)他們的公開(kāi)文件,這些網(wǎng)絡(luò)目前的功能較為有限(諸如驗(yàn)證、證明等功能還未上線)。他們目前沒(méi)有提供一個(gè)云基礎(chǔ)設(shè)施以支持鏈上 AI 計(jì)算,而是提供了一個(gè)框架,用于自我托管 AI 計(jì)算并將結(jié)果傳遞至鏈上。
這是一個(gè)運(yùn)行 AIGC NFT 的體系結(jié)構(gòu)。擴(kuò)散模型生成 NFT 并上傳至 Arweave。推理網(wǎng)絡(luò)會(huì)用這個(gè) Arweave 地址在鏈上鑄造該 NFT。
Source: IOSG Ventures
這個(gè)過(guò)程非常復(fù)雜,開(kāi)發(fā)者需要自己部署和維護(hù)大多數(shù)基礎(chǔ)設(shè)施,如配有定制服務(wù)邏輯的 Ritual 節(jié)點(diǎn)、Stable Diffusion 節(jié)點(diǎn)及 NFT 智能合約。
推薦:目前的推理網(wǎng)絡(luò)在整合和部署自定義模型方面相當(dāng)復(fù)雜,且在這一階段大多數(shù)網(wǎng)絡(luò)還不支持驗(yàn)證功能。將 AI 技術(shù)應(yīng)用到前端會(huì)為開(kāi)發(fā)者提供一個(gè)相對(duì)簡(jiǎn)單的選擇。如果你非常需要驗(yàn)證功能,ZKML 提供商 Giza 是個(gè)不錯(cuò)的選擇。
4. 代理網(wǎng)絡(luò)
代理網(wǎng)絡(luò)讓用戶能輕松自定義代理。這樣的網(wǎng)絡(luò)由能自主執(zhí)行任務(wù)、相互交云以及與區(qū)塊鏈網(wǎng)絡(luò)交互的實(shí)體或智能合約組成,這一切無(wú)需人工直接干預(yù)。它主要針對(duì) LLM 技術(shù)。例如,它可以提供一個(gè)深入了解以太坊的 GPT 聊天機(jī)器人。這種聊天機(jī)器人目前的工具較為有限,開(kāi)發(fā)者還不能在此基礎(chǔ)上開(kāi)發(fā)復(fù)雜的應(yīng)用。
Source: IOSG Ventures
但是將來(lái),代理網(wǎng)絡(luò)將提供更多的工具給代理使用,不僅僅是知識(shí),還包括調(diào)用外部 API、執(zhí)行特定任務(wù)的能力等。開(kāi)發(fā)者將能夠?qū)⒍鄠€(gè)代理連接起來(lái)構(gòu)建工作流。例如,編寫 Solidity 智能合約會(huì)涉及多個(gè)專門的代理,包括協(xié)議設(shè)計(jì)代理、Solidity 開(kāi)發(fā)代理、代碼安全審查代理以及 Solidity 部署代理。
Source: IOSG Ventures
我們通過(guò)使用提示和場(chǎng)景來(lái)協(xié)調(diào)這些代理的合作。
一些代理網(wǎng)絡(luò)的例子包括 Flock.ai、Myshell、Theoriq。
推薦:當(dāng)今大部分代理的功能都相對(duì)有限。對(duì)于特定用例,Web2 代理能夠更好的服務(wù),并且擁有成熟的編排工具,例如 Langchain、Llamaindex。
5. 代理網(wǎng)絡(luò)與推理網(wǎng)絡(luò)的差異
代理網(wǎng)絡(luò)更側(cè)重于 LLM,提供了如 Langchain 這樣的工具來(lái)整合多個(gè)代理。通常情況下,開(kāi)發(fā)者無(wú)需親自開(kāi)發(fā)機(jī)器學(xué)習(xí)模型,代理網(wǎng)絡(luò)已經(jīng)將模型開(kāi)發(fā)和部署的過(guò)程簡(jiǎn)化。他們只需要鏈接必要的代理和工具即可。大多數(shù)情況下,最終用戶將直接使用這些代理。
推理網(wǎng)絡(luò)則是代理網(wǎng)絡(luò)的基礎(chǔ)設(shè)施支撐。它提供給開(kāi)發(fā)者較低層次的接入權(quán)限。正常情況下,終端用戶不直接使用推理網(wǎng)絡(luò)。開(kāi)發(fā)者需要部署自己的模型,這不僅限于 LLM,并且他們可以通過(guò)鏈下或鏈上接入點(diǎn)使用它們。
代理網(wǎng)絡(luò)和推理網(wǎng)絡(luò)并非完全獨(dú)立的產(chǎn)品。我們已經(jīng)開(kāi)始看到一些豎向整合的產(chǎn)品。他們因?yàn)檫@兩種功能依賴相似的基礎(chǔ)設(shè)施,所以同時(shí)提供代理和推理能力。
6. 新的機(jī)會(huì)之地
除了模型推理、訓(xùn)練和代理網(wǎng)絡(luò)外,web3 領(lǐng)域還有很多值得探索的新領(lǐng)域:
數(shù)據(jù)集:如何將區(qū)塊鏈數(shù)據(jù)轉(zhuǎn)變?yōu)闄C(jī)器學(xué)習(xí)可用的數(shù)據(jù)集?機(jī)器學(xué)習(xí)開(kāi)發(fā)者需要的是更為具體和專題化的數(shù)據(jù)。例如,Giza 提供了一些高品質(zhì)的、關(guān)于 DeFi 的數(shù)據(jù)集,專門用于機(jī)器學(xué)習(xí)訓(xùn)練。理想的數(shù)據(jù)應(yīng)不僅僅是簡(jiǎn)單的表格數(shù)據(jù),還應(yīng)該包括能夠描述區(qū)塊鏈?zhǔn)澜缃换サ膱D形數(shù)據(jù)。目前,我們?cè)谶@方面還有不足。目前有些項(xiàng)目正通過(guò)獎(jiǎng)勵(lì)個(gè)人創(chuàng)建新數(shù)據(jù)集來(lái)解決這一問(wèn)題,比如 Bagel 和 Sahara,它們承諾保護(hù)個(gè)人數(shù)據(jù)的隱私。
模型存儲(chǔ):一些模型體積龐大,如何存儲(chǔ)、分發(fā)及版本控制這些模型是關(guān)鍵,這關(guān)系到鏈上機(jī)器學(xué)習(xí)的性能和成本。在這一領(lǐng)域,F(xiàn)ilecoin, AR 和 0 g 等先鋒性項(xiàng)目已經(jīng)取得了進(jìn)展。
模型訓(xùn)練:分布式且可驗(yàn)的模型訓(xùn)練是個(gè)難題。Gensyn, Bittensor, Flock 和 Allora 等已有顯著進(jìn)展。
監(jiān)控:由于模型推理在鏈上與鏈下都有發(fā)生,我們需要新的基礎(chǔ)設(shè)施來(lái)幫助 web3 開(kāi)發(fā)者追蹤模型的使用狀況,及時(shí)發(fā)現(xiàn)可能存在的問(wèn)題和偏差。有了合適的監(jiān)控工具,web3 的機(jī)器學(xué)習(xí)開(kāi)發(fā)者可以及時(shí)調(diào)整,不斷優(yōu)化模型精確度。
RAG 基礎(chǔ)設(shè)施:分布式 RAG 需要全新的基礎(chǔ)設(shè)施環(huán)境,對(duì)存儲(chǔ)、嵌入計(jì)算和向量數(shù)據(jù)庫(kù)有較高的需求,同時(shí)要確保數(shù)據(jù)的隱私安全。這與目前的 Web3 AI 基礎(chǔ)設(shè)施大不相同,后者大多依賴第三方來(lái)完成 RAG,例如 Firstbatch 和 Bagel。
專為 Web3 定制的模型:并不是所有模型都適合 Web3 情景。大多數(shù)情況下,需要對(duì)模型進(jìn)行重新訓(xùn)練,以適應(yīng)價(jià)格預(yù)測(cè)、推薦等具體應(yīng)用。隨著 AI 基礎(chǔ)設(shè)施的繁榮發(fā)展,未來(lái)我們期望有更多 web3 本地模型來(lái)服務(wù)于 AI 應(yīng)用。比如 Pond 正在開(kāi)發(fā)區(qū)塊鏈 GNN,用于價(jià)格預(yù)測(cè)、推薦、欺詐偵測(cè)和反洗錢等多種場(chǎng)景。
評(píng)估網(wǎng)絡(luò):在缺乏人類反饋的情況下評(píng)估代理是不容易的。隨著代理創(chuàng)建工具的普及,市場(chǎng)上將會(huì)出現(xiàn)無(wú)數(shù)的代理。這就需要有一個(gè)系統(tǒng)來(lái)展示這些代理的能力,并幫助用戶判斷在特定情況下哪個(gè)代理的表現(xiàn)最佳。例如,Neuronets 是這個(gè)領(lǐng)域的一個(gè)參與者。
共識(shí)機(jī)制:對(duì)于 AI 任務(wù),PoS 不一定是最佳選擇。計(jì)算復(fù)雜性、驗(yàn)證的困難和確定性的缺失是 PoS 面臨的主要挑戰(zhàn)。Bittensor 創(chuàng)造了一種新的智慧型共識(shí)機(jī)制,獎(jiǎng)勵(lì)網(wǎng)絡(luò)中為機(jī)器學(xué)習(xí)模型和輸出做出貢獻(xiàn)的節(jié)點(diǎn)。
7. 未來(lái)展望
我們目前觀察到了垂直整合的發(fā)展趨勢(shì)。通過(guò)構(gòu)建一個(gè)基礎(chǔ)的計(jì)算層,網(wǎng)絡(luò)能夠?yàn)槎喾N機(jī)器學(xué)習(xí)任務(wù)提供支持,包括訓(xùn)練、推理及代理網(wǎng)絡(luò)服務(wù)。這種模式意在為 Web3 的機(jī)器學(xué)習(xí)開(kāi)發(fā)者們提供全方位的一站式解決方案。
目前,鏈上推理盡管成本高昂且速度較慢,但它提供了出色的可驗(yàn)證性及與后端系統(tǒng)(例如智能合約)的無(wú)縫集成。我認(rèn)為未來(lái)將走向混合應(yīng)用的道路。一部分推理處理將在前端或鏈下進(jìn)行,而那些關(guān)鍵的、決策性的推理則會(huì)在鏈上完成。這種模式已經(jīng)在移動(dòng)設(shè)備上得到了應(yīng)用。通過(guò)利用移動(dòng)設(shè)備的本質(zhì)特點(diǎn),它能夠在本地快速運(yùn)行小型模型,并將更復(fù)雜的任務(wù)遷移到云端,利用較大的 LLM 處理。
鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除,多謝。



