那曲檬骨新材料有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

IPFS分布式存儲到底有什么神奇之處?

浪潮存儲 ? 來源:浪潮存儲 ? 作者:浪潮存儲 ? 2021-01-13 14:36 ? 次閱讀

IPFS和Filecoin最近越來越火,有人說,IPFS是互聯網世界的未來,還有人說,IPFS分布式存儲或成為未來趨勢,IPFS到底有什么神奇之處?今天小編姐姐帶來IPFS愛好者必讀手冊,帶大家一探究竟,開始!

啥是IPFS?

IPFS是一個面向全球的、點對點的分布式版本文件系統,也可以看成是一種去中心化的超媒體分發協議。

啥是Filecoin?

Filecoin是一個由區塊鏈和原生代幣構成的去中心化存儲網絡,Filecoin是IPFS的唯一代幣,是運行在IPFS上面的激勵層,用以確保IPFS文件系統所存儲的數據安全可靠。

IPFS必讀手冊 IPFS的存儲需求和挑戰

IPFS作為分布式存儲的新興場景,與傳統的分布式存儲場景有著較大的區別,主要分為性能、可靠性、容量、供應、價格、易維護性這幾個方面的需求。

性 能 在性能上主要分為三部分挑戰。 1、sealing大文件大帶寬的封裝寫入 2、windowpost針對所有sector的隨機讀抽查 3、winingpost出塊權,針對贏filecoin的sector進行檢驗

在sector sealing階段,因IPFS龐大的數據封裝寫入,有大帶寬的寫入需求,每個文件大小為32G,業內優化做的比較好,且與浪潮合作的廠商,如加密矩陣、星河華訊等,能實現單worker每日封裝2TB-6TB,而每個存儲集群可接入幾十上百個worker,故整體對存儲集群的大文件順序寫入有極高的要求。 在windowpost階段,需要在一天的48個窗口內,對所有的partition進行隨機抽查,并且在規定的時間內提交完成,對存儲讀取的要求,通常需要在3-4分鐘內完成。集群總容量3.5PB以內,每個partition有2349個sector需要進行隨機檢查,而隨著集群規模的繼續增大,每個partition所含有的sector也會進行增長,每增加3.5PB容量,單partition會增加2349個sector,而對要求提交的時間卻仍然為3-4分鐘,故大規模礦池存儲集群下,windowpost的隨機讀壓力對存儲也是有極高的挑戰。 在winningpost階段,針對出塊的sector,需要進行隨機的抽查,要求在3S左右完成對隨機小塊數據的讀取,通常為單線程處理,對存儲小IO隨機讀取的時延有非常高的挑戰要求。

可 靠 性 在可靠性方面,為了防止sector因節點/硬盤/機柜等硬件故障而丟失,高可靠的存儲是區塊鏈服務供應商保證收益的重中之重,一方面是為了保證現有算力的維持,另一方面避免因丟失sector而帶來的抵押幣損失。 隨著IPFS行業的發展,主流區塊鏈服務供應商已經逐步從原始的組裝機+JBOD的方案轉向專業的企業級分布式存儲,通過糾刪碼、快速重構、高可靠硬件等技術,實現大規模sector封裝的零丟失,零懲罰。故障出現后,為保證算力封裝的效率和POST檢查的通過,不僅要求數據不丟失,同時在集群降級情況下,不影響業務的正常使用,并在短時間內能恢復。

容 量 在容量方面,截止2021年1月6日,單賬戶最大封裝的容量已達到72PB,預計未來在IPFS場景下百PB級集群將會越來越多,這要求存儲在容量上支持百PB級,甚至EB級規模,因此橫向擴展、在線擴容方面,同樣對存儲提出了極高的要求和挑戰。

供 應 在供應方面,主要包含兩大塊。 1、設備的生產供應 2、維保/實施等服務的供應 首先,因資金的時間成本,數據量寫入量大,最終用戶的時間要求等因素,IPFS區塊鏈服務供應商通常要求存儲的供應商能夠在接到訂單的1-2周內完成發貨和實施。因IPFS場景通常每次訂單的規模少則幾十個,多則上百個節點,對應單次訂單所需要的大容量硬盤數量是以千計的,在供應和生產上也是非常考驗存儲廠商的基本功。 其次,因機房的分布情況不同,同一家可能在中國各地有對應的設備,一旦出現故障,需要有全國范圍內的服務支持體系去協助排查和解決問題。

價 格 在價格方面,為保證足夠高的投資回報率,IPFS服務供應商對存儲每TB價格提出了極高的要求,這要求存儲廠商在滿足基本性能的情況下,針對IPFS場景的IO模型進行調優,并盡可能降低硬件配置,實現最優性價比的方案。

易 維 護 性 在易維護性方面,因數據量和設備量巨大,涉及到多套存儲集群的統一管理和運維,要求存儲集群能夠提供智能化的運維管理工具,降低運維壓力和成本。

IPFS必讀手冊 浪潮IPFS解決方案優勢

極 致 性 能 浪潮針對IPFS場景獨特的大文件寫入,小塊隨機讀的IO模型進行了深入的優化,在大帶寬持續寫入,并在降級重構時,實現了3分鐘內完成windowpost讀取,3S內完成winingpost讀取的成果,平均單個IO時延響應在35ms以下。 首先,通過針對Ubuntu 18.04和20.04操作系統進行優化,縮短標準協議的IO路徑,并降低因用戶態和內核態轉換所帶來的上下文切換開銷,相比于通常傳統的掛載延時降低50%,帶寬提升80%,大幅降低時空證明讀取時間,并提高sealing寫入速度。 其次,通過讀寫優先級優化,避免在大帶寬寫入時,對時空證明的時延影響,保證時空證明的順利進行,降低抵押幣損失風險。 再次,基于NVMe SSD直接裸設備管理機制,在縮短IO路徑的同時提高了數據組織管理效率,實現數據與元數據的徹底分離,解決了日志疊加日志的設計,降低寫放大。并優化底層的流控機制,降低IOPS、時延抖動。寫性能翻倍,時延降低50%。 最后,通過分布式重構以及數據恢復QOS技術,保證在重構時sealing和時空證明不受影響,并快速恢復集群至正常狀態。

極 致 性 價 比 浪潮針對IPFS IO模型獨特優化和設計后,形成了差異化領先的IPFS存儲解決方案,為客戶提供更具性價比的方案,在保證性能滿足的情況下,綜合成本每TB下降10%-20%。 一方面,借助極致的性能技術,極限優化配置,降低不必要的CPU、內存、SSD、導軌等開銷,提升單位容量的性價比。

浪潮分布式存儲AS13000G5-M60高密節點(4U60) 另一方面,通過業內獨有的4U60高密分布式存儲節點,相比于傳統的4U36機型,單盤平均功耗下降13%,空間利用率提升66%,并提供13類部件的熱維護,顯著提高運維效率,降低成本。

極 致 可 靠 浪潮分布式存儲在底層硬件上采用通用的X86服務器,但在firmware上進行了獨特的加固處理,優化異常情況的處理,降低異常處理風險。同時,在生產上,通過獨特的篩盤機制,從成千上萬塊硬盤中,篩選出最符合要求的硬盤,用于分布式存儲的部件,大幅降低機械硬盤的故障率。 除此之外,在軟件上,通過糾刪碼、RAS架構、慢盤檢測等技術,大幅提升系統可靠性,已累計部署超1000套,經受過市場的檢驗,并在金融、能源、通信等核心領域廣泛應用。在IPFS業內也與如冰河實驗室、星宮數據等廠商有合作,可滿足IPFS場景下的存儲需求,方案成熟穩定。

極 致 服 務 浪潮依托于中國第一,世界前三的服務產量規模,能為客戶提供全球主要國家地區的服務和維保。同時,依托于全球化的供應鏈、智能工廠體系,滿足客戶在短期內大批量的采購需求,實現資金的高效運轉。 同時,浪潮支持遠程的POC測試環境,針對產品的實際表現若存在疑慮,可申請免費的遠程測試資源,快速完成驗證,避免設備借物帶來的運輸、時間上的開銷。

極 易 管 理 免費贈送Inview智能管理平臺,實現多套存儲集群的統一監控管理,支持歷史性能統計、磁盤故障預測、性能趨勢預測、容量趨勢預測等功能,并能提供北向API接口被集成。大幅提升客戶的易用性,并降低運維成本。

浪潮InView智能管理平臺

未來,隨著5GAI、大數據、區塊鏈等新技術的加速普及和商用,數據的產生量、產生方式、處理方式將不斷發生巨大變化,分布式存儲的發展革新必將成為新數據時代下新存儲解決之道。

正是由于在新存儲產業領域、新行業應用場景的深厚積累和不斷探索,浪潮存儲收獲了第三方機構的高度認可,多次入選Gartner魔力象限和用戶評測報告。浪潮存儲將繼續敞開胸懷,探索新興場景下的分布式存儲技術,以新存儲之道釋放數據要素價值,在數據存儲領域助力各行業領域業務創新,驅動智慧化轉型升級。

原文標題:【科技放大鏡】IPFS 愛好者必讀手冊!

文章出處:【微信公眾號:浪潮存儲】歡迎添加關注!文章轉載請注明出處。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 封裝
    +關注

    關注

    127

    文章

    7992

    瀏覽量

    143400
  • IP
    IP
    +關注

    關注

    5

    文章

    1718

    瀏覽量

    149960
  • 浪潮
    +關注

    關注

    1

    文章

    468

    瀏覽量

    23945

原文標題:【科技放大鏡】IPFS 愛好者必讀手冊!

文章出處:【微信號:inspurstorage,微信公眾號:浪潮存儲】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    分布式云化數據庫哪些類型

    分布式云化數據庫哪些類型?分布式云化數據庫主要類型包括:關系型分布式數據庫、非關系型分布式數據庫、新SQL
    的頭像 發表于 01-15 09:43 ?111次閱讀

    WDS分布式存儲系統軟件助力電信工程海量數據存儲項目

    WDS分布式存儲系統軟件助力電信工程海量數據存儲項目
    的頭像 發表于 11-11 09:59 ?245次閱讀
    WDS<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>系統軟件助力電信工程海量數據<b class='flag-5'>存儲</b>項目

    RTOS與Linux到底有什么區別

    很多做嵌入開發的小伙伴都存在這樣的疑惑:RTOS與Linux到底有什么區別?
    的頭像 發表于 10-29 09:53 ?585次閱讀

    某證券公司智能云投資交易云集群高性能分布式存儲應用

    某證券公司智能云投資交易云集群高性能分布式存儲應用
    的頭像 發表于 09-27 09:57 ?315次閱讀
    某證券公司智能云投資交易云集群高性能<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>應用

    分布式存儲費用高嗎?大概需要多少錢

    分布式存儲的費用是否高,取決于多個因素,包括存儲容量、性能要求、服務提供商、計費模式等。因此,無法簡單地給出一個“高”或“不高”的答案。通常分布式
    的頭像 發表于 09-24 10:41 ?321次閱讀

    基于分布式存儲系統醫療影像數據存儲解決方案

    基于分布式存儲系統醫療影像數據存儲解決方案
    的頭像 發表于 09-14 09:53 ?380次閱讀
    基于<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>系統醫療影像數據<b class='flag-5'>存儲</b>解決方案

    基于分布式對象存儲WDS的信托非結構化數據整合平臺

    基于分布式對象存儲WDS的信托非結構化數據整合平臺
    的頭像 發表于 08-28 09:56 ?409次閱讀
    基于<b class='flag-5'>分布式</b>對象<b class='flag-5'>存儲</b>WDS的信托非結構化數據整合平臺

    醫療PACS影像數據的極速分布式存儲解決方案

    醫療PACS影像數據的極速分布式存儲解決方案
    的頭像 發表于 08-23 10:13 ?407次閱讀
    醫療PACS影像數據的極速<b class='flag-5'>分布式</b>塊<b class='flag-5'>存儲</b>解決方案

    基于分布式存儲WDS的金融信創云承載數據庫類關鍵應用

    基于分布式存儲WDS的金融信創云承載數據庫類關鍵應用
    的頭像 發表于 08-16 09:42 ?323次閱讀
    基于<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>WDS的金融信創云承載數據庫類關鍵應用

    基于WDS的保險公司極速分布式存儲建設高速混合云方案

    基于WDS的保險公司極速分布式存儲建設高速混合云方案
    的頭像 發表于 07-08 09:52 ?364次閱讀
    基于WDS的保險公司極速<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>建設高速混合云方案

    黑龍江電力高性能WDS分布式存儲系統解決方案

    黑龍江電力高性能WDS分布式存儲系統解決方案
    的頭像 發表于 07-01 09:54 ?430次閱讀
    黑龍江電力高性能WDS<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>系統解決方案

    面向企業關鍵業務場景的分布式存儲軟件ExponTech WDS

    面向企業關鍵業務場景的分布式存儲軟件ExponTech WDS
    的頭像 發表于 06-05 09:41 ?378次閱讀
    面向企業關鍵業務場景的<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>軟件ExponTech WDS

    分布式光伏發電哪些優點?分布式光伏發電哪些應用形式?

    分布式光伏發電是一種在用戶附近或用電現場配置的小型光伏發電系統,它具有許多顯著的優點和多樣的應用形式。
    的頭像 發表于 04-29 17:44 ?4726次閱讀

    分布式能源是什么意思?分布式能源什么優勢?

    分布式能源指的是在用戶端或靠近用戶端的小型能源供應系統,它能夠直接滿足用戶的多種能源需求,如電力、熱能和冷能。
    的頭像 發表于 04-29 17:26 ?2493次閱讀

    分布式存儲與計算:大數據時代的解決方案

    分布式存儲和計算技術應運而生,并迅速成為處理大數據的首選方案。本文將深入探討分布式存儲和計算的概念、優勢及其在各個領域的應用情況。 1.分布式
    的頭像 發表于 03-07 14:42 ?862次閱讀
    大发888赌场娱乐网规则| 博之道百家乐官网的玩法技巧和规则 | 百博亚洲| 玩百家乐出千方法| 百家乐官网网上真钱麻将| 骰子百家乐的玩法技巧和规则| 洪洞县| 金彩百家乐的玩法技巧和规则 | 百家乐有几种打法| 百家乐官网中P代表| 威尼斯人娱乐网站怎么样| 百家乐官网咋样赢钱| 营口市| 网上百家乐是不是真的| 金木棉百家乐官网的玩法技巧和规则 | 女神百家乐官网的玩法技巧和规则| 至尊娱乐| 百家乐中的小路怎样| 百家乐官网斗地主下载| 盈丰娱乐| 康莱德百家乐的玩法技巧和规则| 百家乐官网筹码套装包邮| 百家乐官网视频无法显示| 德州扑克怎么玩的| 百家乐官网娱乐网官网网| 真钱百家乐| 威尼斯人娱乐 老品牌| 金沙百家乐现金网| 百家乐官网事电影| 六合彩聊天室| 百家乐连锁| 百家乐官网网址官网| 真人百家乐官网作假视频| 网上娱乐城排名| 红树林百家乐的玩法技巧和规则| 网上百家乐官网赌城| 百家乐官网筹码素材| 大发888 赌场娱乐网规则| 百家乐10个人| 百家乐官网发牌靴8| 澳门百家乐官网看路博客|