天天色一色-天天色影院-天天色资料-天天色综-免看一级一片一在线看-免看黄

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音

全球分布式云大會是分布式云技術和商業交流的旗艦級平臺,2023全球分布式云大會·北京站將于6月28日-29日正式召開,次大會來自騰訊云、火山引擎、阿里云、華為云、百度智能云、螞蟻集團等云計算數字科技服務商,以及中國電信、中國移動、中國聯通三大運營商等數技術專家,從分布式云行業前瞻性發展趨勢,底層云計算基礎設施突破性關鍵技術,分享高尖精技術和實踐案例,共同打造云計算領域的饕餮技術盛宴。

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

在06月28日下午的分布式存儲論壇上,騰訊云存儲產品負責人崔劍發表題為《云原生分布式存儲的架構創新及商業價值》的精彩演講。

騰訊云原生存儲全矩陣

騰訊云存儲團隊經過十多年打磨與演練,基于騰訊集團的存儲引擎,在底層層面構建了較為完善的存儲可靠性、一致性、可用性、可擴展性等能力,騰訊集團的存儲所有內部外業務全部基于騰訊的引擎向上構建。

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

基于騰訊存儲底座可向上拓展更多產品能力與解決方案。產品能力分為多層,最底層是騰訊存儲對外的核心引擎,公有存儲引為騰訊云存儲公有云提供核心的對外產品化能力,騰訊數據萬象CI提供騰訊云對外的智能存儲數據處理能力,是騰訊云存儲第二大引擎。第三大引擎是TStor,是騰訊云存儲對一些政府、金融、高校等私有屬性行業所提供的私有化部署交付能力核心引擎。

基于CI、COS、TStor三大引擎,騰訊云存儲向上拓展多種產品及解決方案,首先是數據湖、混合存儲、視圖計算、企業網盤、備份服務等產品級解決方案,這些解決方案會以PaaS或者SaaS的形態與客戶行業走得更近,能讓客戶的開箱即用的使用存儲服務。

基于騰訊存儲產品能力再向上拓展,騰訊云存儲與騰訊云若干行業共同深入至用戶場景中,整合包括大數據、AI、混合云等場景,涉及運營商、金融、政府、高校互聯網等行業,為各行各業客戶貼合其特有的使用場景提供針對性解決方案,這就是騰訊云原生存儲整體布局。

公有云對象存儲COS——提供穩定、海量、彈性的云原生存儲底座

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

公有云上的云原生存儲解決方案需要依托于公有云上的對象存儲作為云原生的底座,公有云的對象存儲經過多年也發生較大的變化與創新。公有云對象存儲比較經典的場景存儲分發、歸檔備份、大數據等等,站在用戶的視角基于幾個環節展開對這個產品的使用。

首先是數據上傳,首先需要先產生數據并上傳,基于對象存儲的產生和上傳,騰訊云存儲包裝大量相關操作路徑與解決方案,如UGC的上傳、本地IDC離線數據存量上傳,騰訊云存儲分別提供類似于CDM的離線遷移設備,MSP在線跨云數據橫向遷移平臺等,讓用戶解決數據上傳的問題。

數據上傳后則進入數據存儲環節,相當于甲方公司運維或研發層人員管理數據。首先需要做好可用性保障、選型以及做好存儲產品性價比定義。騰訊云存儲在多級存儲部分是提供了業內種類最多的存儲類別之一,基于客戶業務方對自身數據冷熱定義將數據在更好的時間點流轉到更合適的分組類型中,同時也會做好跨地域的融載。

第三個環節是數據的處理與挖掘。處理環節也分為多種不同的細分場景,如完成一個UGC全球分發平臺或基礎,原始的數據上傳后是無法直接使用,需經多級多環節處理,比如要將數據進行審核、質量加工、裁剪、尺寸、水印等,數據萬象產品就提供全面的數據處理能力。

還有便是偏離線處理,比如需要完成離線大數據分析系統后接BI,可能需要將其用戶的行為打點日志進行MPP做分析,這就依賴于騰訊云存儲數據湖的解決方案,上層大數據的算力提供更好的存儲數據湖的支持,將騰訊云存儲高帶寬低延時的性能釋放。

完成數據處理后的最后環節是數據發布,要將可用的數據交予數據使用者手中,數據使用者或是遍布在全國全球的網民,或是企業內部的數據開發工程師。在這個環節,可使用數據萬象實時處理能力搭配下游的部分外圍系統,如數據萬象圖片壓縮 + CDN做全球分發,最終將數據以最小的成本發布出去,這是一個比較經典的公有云對象存儲使用的模型。騰訊云存儲在這部分完成多年的打磨,旨在提供穩定、海量、彈性的云原生存儲底座。

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

騰訊對象存儲COS目前有標準、低頻、歸檔、從熱到冷。不久后騰訊云存儲將新上一檔存儲——冷存儲,介于低頻和歸檔之間。冷存儲還是一個在線存取,用戶在GET的時候不需要進行離線的分鐘級或者小時級的等待,立刻就能取回數據,匹配多種在線系統實時取回的訴求,同時其成本又比標本和低頻下降了很多百分點。

同時還要在此提及深度歸檔,這是騰訊存儲最冷的一級。深度歸檔在云上創新性地使用了部分非HDD的磁盤介質的新型介質,比如磁帶藍光等,通過新型介質的上云實現云存儲極冷存儲的更低成本下降,其成本相較于基于磁盤搭建的存儲會下降50%以上。

基于這么多集的存儲會給用戶側的運維工程師帶來難題,不同冷熱的數據應該放在什么樣的存儲類型里面去,可能概念描述起來非常便于理解,熱數據放在標準,冷數據放在歸檔。但實際上定義數據的冷熱是一個難題,若非極有經驗的運維工程師可能基于對業務系統的了解,能非常清楚的將數據合理地放在對應存儲類型中,但如果數據系統較為復雜,或者運維工程師相對經驗還沒有那么豐富,這其中就會存在運維難題。

圍繞該痛點騰訊云存儲提供一系列解決方案,一是智能分層存儲,騰訊云存儲提供智能分層存儲概念,即傻瓜化的將部分底層邏輯進行包裝,用戶只需要將手中偏熱的數據直接扔至智能分層存儲類型中,系統會基于對用戶使用模型的定義和判斷繪制出用戶畫像,推測用戶后續會基于什么樣的頻次讀寫。如果系統捕捉發現這個數據較長時間沒有被訪問,系統會自動幫助用戶把數據沉降到偏冷的低頻層去,幫助用戶節省成本。

當數據降到低頻后,又突然在一段時間中產生比較多的訪問請求,系統將自動化為該數據熱度提升至高頻層,便于用戶拿到更好的延時和更好的性能表現。基于這樣的產品形態,運維工程師可大大減少工作難度。

另外一個則是智能存儲類型的分析能力,首先用戶篩選范圍,確認哪個桶哪個數據需要完成分析。確定范圍后,騰訊云存儲將在底層構建一個更大模型的判斷,然后基于用戶一條條訪問日志的原始日志進行分析,從而給出用戶更直截了當的結果,推薦用戶這個數據應該存到哪里,對于用戶來講是更好的選擇。

基于這樣的產品能力,騰訊云存儲在提供豐富存儲類型的同時,又提供較為完善的智能化推薦體系,以便于幫助用戶享受更低的成本和更加輕的運維的能力。

騰訊云是智能存儲概念最早提出者之一。用戶會產生海量數據存到對象存儲中,隨著數據積累越多,用戶每天產生存儲的消費也隨之越高,騰訊云致力于助力客戶業務降本增效,在降低成本的同時挖掘、提取數據價值。

數據萬象CI——云原生智能存儲底座,為業務智能化賦能

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

騰訊云存儲提供一套相關的智能存儲解決方案,這套產品體系叫做數據萬象(CI)。數據萬象 CI 是專注于數據處理的一站式智能平臺,針對用戶普遍的需要面對多個服務的場景,提供圖片處理、媒體處理、 內容審核、內容 AI 識別、文檔服務等全品類多媒體數據的處理能力。同時與對象存儲 COS 深度集成,提供開箱即用的數據處理及 AI 智能化處理能力,降低用戶使用成本, 提升用戶體驗,幫助用戶挖掘數據價值,是降本增效的利器。

數據萬象 CI 是國內首家提供AVIF圖片壓縮的云廠商(相比JPEG、WebP等格式縮小50%+);同時是目前處理能力最豐富的存儲+處理平臺。

數據萬象 CI 有三大特點,分別是1站式、0流量、快30%。

1站式:一套API,開箱即用,降低使用門檻;

0流量:服務間調用零外網流量,用戶成本低;

快30%:圖片處理速度比競品速度平均快30%。

基于這三大產品特點,騰訊云存儲在工程層面又提供工作流的能力,讓用戶通過拖拽式的工作流搭建,形成直接拖拽式的自然生成,系統會基于用戶的輸入進行串型或者并行的處理的能力,通過工作流的方式自動觸發,幫助用戶進一步的減輕運維的難度。此外,騰訊云存儲也同步挖掘向上解決方案。比如內容生產、手機相冊聚類、智能搜索等都可以智能存儲數據萬象CI為內核、引擎快速搭建。

騰訊云視圖計算平臺——提供端到端的云原生視頻監控存儲解決方案

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

有別于傳統視頻監控建設系統,視圖計算平臺有如下幾個特點

1. 提供多樣化的上云方式,如標準協議直連、私有協議加密上云、邊緣端網關級連等,可以解決用戶跨地域、多廠商、多協議終端設備統一納管問題,幫助用戶實現設備更快捷上云。

2. 支持數據直存客戶自有COS存儲桶和數據分層存儲,解決客戶數據上云合規要求,降低客戶成本投入

3. “接入+存儲+分析”全鏈路服務,同時提供基礎視頻SaaS+AI算法應用,讓客戶切實感受到一站式的視頻閉環體驗

這也是騰訊云云原生的存儲團隊打磨帶來的一些特殊價值,同時產品與對象存儲COS、智能存儲CI打通,提供高性價比的視圖智能化管理能力;正在與泛互聯網、零售、制造業、運營商等產業生態打通,提供更多場景化方案。

數據湖存儲GooseFS——云原生數據湖存儲新形態,多級加速體系助力業務釋放效能

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

數據湖分為計算和存儲,在數據湖存儲這個方向還缺少相對比較統一的標準。

GooseFS面向數據湖多種業務場景,根據Dataset大小、性能需求,GooseFS提供包括MEM、NVME SSD等多種緩存加速方案。GooseFS提供TB級吞吐、百萬級IOPS;全量數據持久化在COS上,提供海量低成本存儲,支持數據全生命周期管理;利用計算節點本地剩余內存和磁盤碎片資源整合成高性能緩存;大數據(搜索類)、AI訓練、模型訓練、自動駕駛四大生態,對存儲有高帶寬,低延遲,小io讀取性能要求。

騰訊云企業網盤——提升企業辦公效率,助力數據創造業務價值

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

云原生的企業網盤系統是SaaS化的產品形態,開箱即用,用戶以客戶端訪問或者瀏覽器登陸的方式進行文件與人之間進行交互,但B端網盤與C端網盤的區別較大。C端網盤主要解決個人的照片、視頻、電話本的一些備份或者長期存儲的訴求,而企業網盤解決的是企業員工、老板、客戶之間進行素材的存儲和分發的需求。

騰訊云企業網盤與騰訊會議、騰訊電子簽、騰訊云桌面等產品打通,共同形成騰訊云企業辦公場景的全家桶,同時結合數據萬象中OCR、以圖搜圖、標簽搜索及聚類等能力提供AI智能化辦公體驗,通過文檔協同編輯、數據高效分發共享、一鍵化企業知識庫等能力構建智能化辦公體系、提升企業辦公效率。

騰訊云企業網盤滿足基礎文件操作,包括提供各類云端文件操作能力、對齊Windows本地操作體驗;同時提供協同辦公能力,支持多人協同編輯、數據高效多分發共享等功能、提升協同效率;此外還支持移動辦公,支持各類移動終端隨時隨地訪問;還可靈活部署,支持公有云、私有云等多種部署模式。

云原生存儲使用場景——構建在云原生存儲上的AIGC訓練及推理平臺

AIGC是近期較為火爆的話題,隨著2023年年底北美的Chat GPT新起與成熟,大模型浪潮也蔓延至國內。AIGC是典型的Data lake + AI 應用場景,數據需要統一存儲,并同時對接多個處理平臺,數據自由在多個平臺之間流動。

其中,訓練場景存儲有數據湖統一存儲、數據在業務間自由流動及高吞吐低時延等三大訴求;而推理場景中有內容審核與內容智理兩大核心訴求。

其中內容審核是相當重要的工作,騰訊云存儲圍繞推理環節推理產物的合規性方面做了很多的文章。在用戶推理環節中,用戶提出一個問題,然后這個問題與大腦產出推理產物后,產物一定要先去送到云上數據審核引擎中,經過多個緯度執行度的判別,認為該產物是合理的,且沒有什么問題的素材后,才能最終反饋給用戶。

騰訊云存儲的優勢在于:1.便捷的接入,提供一體化的存儲內容安全方案,增量數據的一鍵開啟審核,極低的開發成本;2.精準的模型,針對AIGC場景審核策略的專項調優與底層模型的定制開發;3.更高的性能,根據存儲數據智能地調度處理集群,近存儲側的處理能力提供更優的數據傳輸時延與更低的成本。

基于云原生技術搭建的自動駕駛采集、訓練、仿真平臺

騰訊云崔劍:云原生分布式存儲的架構創新及商業價值 | GDCC 最強音-DVBCN

近兩年來,國內在自動駕駛的領域發展較快,尤其在AI領域里,這也是中國相比國外更有一些局部優勢的細分賽道。基于這個場景,騰訊云與諸多車廠或自動駕駛解決方案的承包商有較多合作,提供全站式的房屋,這個服務存儲在這之中扮演很重要的角色。騰訊云提供自動駕駛數據采集、存儲、標注、計算、算法訓練、仿真和評測及基于數據回傳的算法迭代等全流程服務。

相關文章
騰訊云入選2023 Gartner分布式云報告 【附下載】
騰訊云入選2023 Gartner分布式云報告 【…
騰訊云程文杰:全球數字化深度發展? Tencent Cloud EdgeOne乘風而上
騰訊云程文杰:全球數字化深度發展? Ten…
騰訊云黃平中:TDSQL助力政企核心系統國產化 | GDCC 最強音
騰訊云黃平中:TDSQL助力政企核心系統國…
騰訊云湯文軍:云原生分布式云 一朵云解決 IDC客戶上云困境
騰訊云湯文軍:云原生分布式云 一朵云解…
騰訊云智能媒體AI中臺3.0全新升級!助力媒資高效管理、內容生產
騰訊云智能媒體AI中臺3.0全新升級!助力…
「騰訊云音視頻」劉兆瑞:4K/8K超高清時代,媒體處理技術如何加速媒體數字化升級
「騰訊云音視頻」劉兆瑞:4K/8K超高清時…
我還沒有學會寫個人說明!
主站蜘蛛池模板: 精品一区二区三区在线成人 | 久久er精品视频 | 国产成人啪精品视频免费软件 | 毛片1级 | 成人综合在线观看 | 国产高清美女一级a毛片久久 | 午夜黄色网| 国产日产欧产精品精品推荐在线 | 日韩美女免费视频 | 成人性毛片 | 久久se精品一区精品二区 | 99re7在线精品免费视频 | 国产精品日韩一区二区三区 | 九九精品视频在线播放8 | 久久久国产精品免费看 | 欧美日韩亚洲综合久久久 | 三级网址免费 | 国产成人久久精品推最新 | 久久受www免费人成看片 | 美女黄色一级片 | 在线观看国产一区 | 极品欧美 | 97一级毛片全部免费播放 | 草草国产成人免费视频 | 成年人黄页 | 亚洲欧美日韩成人一区在线 | 日韩欧美一区二区三区免费观看 | 男人和女人在床做黄的网站 | 亚洲爱爱天堂 | 伊人久久青草青青综合 | 国产区更新| 亚洲加勒比久久88色综合1 | www.av在线.com | 一区二区中文字幕亚洲精品 | 亚洲二区在线观看 | 亚洲影院在线 | 亚洲精品视频在线 | 中文字幕在线观看国产 | 国产三级成人 | 午夜国产片 | 成人精品一区二区三区 |