CDN加速10倍後，快速下注邊計算

優品搶賺（Make money buy）致力於解決全球青年就業、小商戶生存、跨國供應鏈的困境，有效的連結賣家與買家。透過5G新零售跨境拼搶模式，實現使用者、商家、消費者三方受益，打造新時代的共贏電商。

fastlyartur Bergman成立於2011年，是一家行業領先的計算公司。Fastly從成熟的CDN市場出發，採用新的技術設計和開放模式，迅速贏得業界網際網路公司的青睞。Fastly將於2019年5月上市，一年半內市值將增長5倍。如果fastly被定義為CDN製造商，它將失去大局。目前，邊緣計算還沒有得到大規模的應用。Fastly致力於這一領域，成為依靠核心技術的頂尖科技公司。2021年將是其邊緣計算產品線走向市場的重要一年。

一、從黑盒子的CDN市場破局

從歷史上看，CDN發生在20世紀90年代末和21世紀初，當時網際網路使用和網站經歷了爆炸性增長。最初的網站託管體系結構要求所有web內容，包括動態檔案（在請求算）和靜態檔案（建立一次很少更改），都應該從代表網站本身的資料中心伺服器提供。隨著使用者數量的增加和地域的分散，頁面載入時間成為網站提供商關注的焦點，網站運營商開始沉迷於最佳化頁面載入時間。在這種背景下，許多獨立的公司紛紛湧現，藉機提供內容交付服務，催生了CDN產業。主要供應商為海外公司，如阿里巴巴、limelight、AWS cloudfront、國內市場的LAN Xun、Netshop和Dao。

到2010年，除了提供影片、檔案、直播等交付服務外，CDN提供商開始為網站提供安全防護，特別是DDoS防護和web應用防火牆。但此後，CDN的技術和產品發展都有所放緩，進入了成熟的商業化階段。供應商的產品似乎正在趨同，網站運營商可以根據pop的數量和價格來區分CDN提供商。

為什麼fastly要突破成熟的CDN產業？CDN服務的主要目的是快取大量的靜態檔案並將其傳送給最近的Internet使用者。除了確定上傳和重新整理內容的集中式管理API之外，CDN還具有決定分發哪些內容的邏輯，並且站點運營商提供了多種可程式設計性。在fastly之前，Wikia的創始人兼首席技術官ArturBergman在2010年左右使用CDN功能時感到沮喪。他抱怨說，CDN配置的任何調整都需要技術支援，而且需要很長時間才能做出。現有的解決方案缺乏可程式設計性。有著很強的動手能力和技術背景，Artur認為他已經建立了一個新的解決方案，他可以做到這一點。Fastly成立於2011年3月。該團隊研究了以下假設：在全球範圍內，許多小型pop分佈在不同的地理位置，為使用者提供最佳的總體交付時間。比如行業巨頭akamain就有21。6萬個流行點，這不一定是優勢，但在一定程度上是障礙。因為每個小型pop快取的內部容量是有限的。大量的使用者請求需要傳送回原始伺服器，這使得這些請求的訪問時間增加了10倍以上。例如，如果將快取未命中百分比增加10%，則總體平均訪問時間可能會增加50%以上。

Fastly意識到使用儲存空間大的pop節點可以縮短平均交付時間。聯合創始人西蒙在2016年的文章中對便利店和超市進行了類比：便利店離人們的家很近，出售的商品數量有限。開車到超級市場還需要幾英里，而且他們可以一口氣把貨物拿走。便利店代表了傳統的CDN方法，有許多本地POP，而超市代表了一小部分。較大的pop使用fastly方法。Fastly的基本架構設計側重於最大化其區域pop的快取命中率，而不是啟動越來越多的地理pop。Fastly選擇SSD來儲存快取的資料。固態磁碟比標準磁碟更貴，並且可以提供比ram快150倍的檢索時間。這種設計有助於縮短fastly的平均響應時間，因為它加快了pop中的資料檢索（簡化超市的類比，如您的有貨品放在前門）。當時，fastly每臺伺服器有384gb ram和6tb SSD空間（由12個500 GB的驅動器組成），每臺CPU有25 MB L3快取。一個典型的流行音樂包含32個這樣的機器。fastly的pop伺服器編寫一個定製的儲存引擎來繞過檔案系統，壓縮SSD的最終效能下降並用更多的資料填充它們，這一點很中壓。他們使用多種演算法，公共資料保留在384 GB的ram中，使其速度更快。對於某些資產，例如“like”和“share”按鈕，它們從不更改，每秒被請求數百萬次，它們可以直接從處理器L3快取提供服務。

後來，對於現有的CDN黑匣子問題，傳統提供商需要技術支援人員進行配置更改。清除內容可能需要幾個小時。Fastly是基於開源專案varnish（一款實現高效能交付的開源Web加速器）大規模構建的。Artur是varnish程式碼的積極貢獻者。Fastly的品種定製擴充套件了基本功能，可用於Fastly的全球分銷網路。它為使用者提供了有用的開放介面，如內容清理、反向代理、實時效能監控和自定義快取策略定義。客戶可以建立自己的VCL指令碼並將其傳送給fastly pop以啟用/禁用它們。這為客戶提供了對其自定義快取規則部署的細粒度控制，從而打開了整個黑盒。Fastly的CDN模式不斷提高命中率，帶來10倍以上的速度提升，降低了源站返回頻寬的成本。同時，開放模式對開發者友好，服務靈活。Fastly積累的客戶代表了先進和創新的網際網路服務。這些大使用者的年平均成本非常高。這背後的事實是，這些公司正在經歷快速增長，推動支出。

2、 來自邊緣計算的顛覆性創新CDN服務的主要目的是快取大量靜態檔案並將其傳送給靠近它們的使用者。除了確定用於上載和重新整理內容的集中式後端API之外，在決定分發哪些內容時沒有可程式設計性。隨著產品週期的變化，一些驅動因素開始離開集中化的資料中心。1減少從本地網路入口點到中央資料中心的頻寬。物聯網的出現使得數以百萬計的裝置收集了大量的原始資料。邊緣計算用於處理、過濾和聚合資料，然後再將其傳送回中央資料中心。2使用者對響應時間的痴迷。檢視內容的身份驗證和授權就是一個很好的例子。如果使用者是內容服務（如報紙影片訂閱服務）的訂戶，則關於使用者是否訪問內容的決定在本地快取內容的邊緣作出。此邏輯被移動到邊緣伺服器以減少到中心伺服器的重新傳輸時間。對於在本地裝置上執行的移動應用程式、遊戲、地圖和其他應用程式，這些驅動程式對延遲特別敏感。三。區域標籤的個性化。根據使用者的觀看習慣向用戶展示個性化廣告。影片直播就是一個很好的例子，定向影片廣告獲得了很高的千分之一的顯示成本。這些用例為將計算功能分配給終端使用者提供了巨大的機會。隨著物聯網裝置產生的資料量的增加，新一輪響應應用（遊戲、地圖、AR等）的延遲時間容忍度降低。內容和應用程式開發人員越來越需要邊緣計算來為使用者提供完美的產品體驗。

提高應用程式效能的下一個機會是將伺服器端邏輯移動到分散式pop中執行。這樣，要獲得CDN的好處就複雜得多。它需要建立一個完整的開發環境和分散式執行時，以允許在所有pop中編寫、部署和執行程式碼。為了使模型具有可伸縮性，執行時環境必須是分散式的、共享的和受保護的。無伺服器管理體系結構滿足了這些需求，它為開發人員的程式碼響應執行請求提供了一個獨立的執行時環境。這些因素催生了邊緣計算的新趨勢，有效地為應用程式程式碼處理（computing）向小型資料中心（edges）的全球分散式網路傳輸提供了一種機制。業務實體開始提供邊緣計算解決方案，使開發團隊能夠利用這一點，包括超級擴充套件器和遺留CDN提供商。Fastly是一傢俱有競爭力和高投資的龍頭公司。

Fastly在2020年第一季度的投資者大會上介紹了edge computing的潛在市場總量。Fastly的賭注是在其分散式pop中執行的應用程式邏輯。它具有貼近使用者、響應速度快、安全性高等優點。隨著這一趨勢的發展，越來越多的資料處理工作將從集中式資料中心轉移到分散式計算平臺。

一、從黑盒子的CDN市場破局

關於邊緣計算，有一家公司是cloudflare。從技術角度來看，fastly和cloudflare在其無伺服器邊緣計算解決方案中採用了兩種不同的方法。Cloudflare選擇在chromium V8引擎上構建其解決方案。這使他們能夠利用谷歌Chrome團隊所做的工作，在2018年將edge計算產品迅速推向市場。這是對當時amazonlambda等雲供應商提供的無伺服器解決方案的重大改進。Cloudflare的worker冷啟動時間減少100倍，進入毫秒級。記憶體使用率降低了10倍，有效地利用了硬體資源。Fastly決定不再以來現有的無伺服器計算技術，例如可重用容器V8引擎，決定致力於webassembly，構建自己的lucet編譯器和執行時，並最佳化效能、安全性和緊湊性。自2017年以來，fastly一直在幕後進行這項工作，提供計算@邊產品線提供了堅實的基礎，平臺現在執行多個客戶的生產程式碼。lucetwebassembly被編譯為一個快速高效的二進位制檔案執行，它透過記憶體分配來增強安全性，而不會從以前的請求中產生任何殘留。Lucet包括一個經過嚴格最佳化、簡化的執行時環境，fastly團隊將大部分開發時間花在這個環境上。結果表明，該發動機具有良好的效能。快速冷啟動時間完全以微秒為單位，正式為35微秒。V8的速度快了100倍，啟動需要3——5毫秒（3，000到5，000微秒）。類似地，lucet包含執行編譯的彙編程式碼所需的程式碼模組，這需要數千位元組的記憶體。這是V8使用的3MB的千分之一。

WebAssembly SF演講，2019年11月，Invitae工程師

與傳統的無伺服器解決方案相比，fastly的lucet和cloudflare的工作人員具有顯著的效能優勢。這使得它們可以用於同步工作負載，在這些負載中，傳統的無伺服器解決方案被降級為離線作業。Fastly的冷啟動時間縮短到35微秒，使用了數千位元組的記憶體，具備了硬核技術，理想的請求/響應伺服器端週期需要不到20毫秒。Fastly的伺服器啟動時間為其他處理工作留出了足夠的空間。這裡最大的優點是，這種無伺服器模型應用於同步用例。大多數其他的無伺服器模式被歸類為處理模式，人們不必等待響應。Fastly的邊緣計算解決方案透過將無伺服器模型應用於同步處理，實現了一個新的用例集。無伺服器模式需要較少的硬體支援，因為伺服器不會空閒等待新請求。這提高了快速資金分配的效率，使同步請求的服務轉換成為可能，大大擴充套件了無伺服器的應用場景，適合於實時web和移動應用。以下是無伺服器基準測試的測試資料，沒有fastly，其服務提供商的反饋值和結論。

前沿技術創新不等於市場滲透和企業競爭優勢。快速地計算@邊到2020年，它將進入私有測試階段，有60個客戶參與beta測試，以提供使用實際用例的反饋。它將於2021年投放市場，並可能成為重要的收入留存來源。2020年，fastly收購了signal Sciences，其安全能力被整合到安全@邊緣統一的新產品目前正在進行中。這將改善整個邊緣產品線系統。至於未來有多少能力會被邊緣化。Fastly不是一個簡單的CDN。邊緣計算公司將與商業有很大的耦合。我們可以透過高DNR（收入留存）看到這一趨勢。由於集中的業務處理被分散到邊緣處理，它可能會變相地侵蝕AWS空間。

三、Fastly的硬核技術才剛剛開始

過去的VCL配置語言現在得到了推廣計算@邊Fastly的目標受眾主要是開發人員，他們希望幫助工程團隊構建和交付快速高效的軟體應用程式。”我們帶來的核心是允許開發人員進行創新，Compute@Edge是重要的下一步。”cloudflare的目標受眾主要是希望保護公司網路和企業應用程式安全的CIO/CISO。Cloudflare的領導地位集中在如何替換本地防火牆和VPN的硬體供應商。，他們的新cloudflare for Team產品專注於銷售，用cloudflare的全球網路取代本地防火牆解決方案，以過濾和保護企業使用者到公共網際網路的出站流量請求。Fastly的企業使用者定義是每年10萬美元，而cloudflare對企業客戶的定義則不同。Cloudflare衡量當季客戶支出，乘以4。無論如何，fastly的企業客戶增長在2020年將會放緩。這就解釋了為什麼fastly的總客戶數與cloudflare的總客戶數並不接近，因為fastly的小企業推動這些平臺合作伙伴。像Shopify，Wix和adobemagento，GitHub的開發者。透過向這些聚合器推薦較小的實體，fastly可以擴充套件與這些大型合作伙伴的業務，而無需維護銷售/服務功能來支援較小的客戶。Fastly專注於大公司。有優點也有缺點。這樣做的好處是我們可以透過為更少的客戶提供服務來提高客戶服務的效率和平臺利用率。劣勢顯而易見，公司收入集中度過高，具有一定的虧損風險。對於大客戶，fastly沉澱了一套成熟的玩法。fastly的領導層描述了大多數新客戶是如何從少量使用開始驗證效能和調整操作的。從第一年到第二年，他們的開支增加了三倍，每年增加40%。

如何面對tiktok危機？Fastly最大的客戶（tiktok）在2020年前六個月佔Fastly收入的12%。假設2020年的收入為3億美元，這意味著tiktok的收入為3600萬美元，而且很可能繼續增長。當時，美國政府考慮在9月15日之後全面禁止tiktok在美國的銷售，這被認為是收入的巨大風險。Tiktok擔心美國政府將禁止包括CDN在內的任何美國技術提供商合作。Tiktok可能會在8月底和9月初迅速停止使用CDN，在許多提供商之間傳播CDN流量，以減輕其運營的直接風險。整個情況凸顯了fastly在企業層面的客戶高度集中，這與優步IPO後twilio面臨的問題是一樣的。現在已經到了前十大客戶貢獻收入14%的地步，風險降低了，這意味著新企業使用者的收入貢獻繼續增長。Tiktok可以快速退出fastly的服務。其主要驅動力是外部原因，而不是服務質量和價格。關於tiktok快速執行交換的能力，並不意味著fastly是一種流水線技術。面對禁令的風險壓力，必須有轉換執行。任何PAAS能力都是不可替代的。然而，對於傳統cdn，交換的成本非常低。目前，我的教育行業將連線許多CDN，這是一個配置設定。

三、Fastly的硬核技術才剛剛開始

2020年，Fastly宣佈創始人兼執行長Artur Bergman將過渡為首席架構師。使他能夠專注於自己在技術和客戶開發方面。

用Artur的話來說：“他將更多的注意力集中在客戶上，並與我們業務的產品和技術合作，以建立我們的邊緣雲平臺”。

自2017年5月起，Joshua取代了他，擔任Fastly總裁，他於2015年加入Fastly擔任營銷副總裁。2015年至2017年，Joshua擔任營銷，產品和銷售高階副總裁。在加入Fastly之前，Joshua於2006年與他人共同創立了一家名為Strangeloop Networks的網路應用程式加速公司，該公司最終於2013年被Radware收購 。Joshua是IronPoint Technology的創始人兼執行長，管理軟體公司。他擁有多倫多大學的管理學學位。

Artur顯然更喜歡使用技術，這一點和Snowflake的模式相似，均是技術領域頂級專家+職業管理人模式。儘管Joshua在內容交付領域建立了兩家公司，但依然需要證明自己的價值。

Fastly員工的平均年齡為38歲。團隊的工程師和leader都是領域重非常資深的人士。在Fastly的成長中，不斷的帶來新的聲音，見解和經驗。Fastly相信多元化的團隊能提供更好的結果。執行團隊幾乎男女之間平均分配，超過50％的工程負責人已將自己標識為女性，有色人種。公司超過50％的公司在舊金山以外的地方工作。Fastly正在構建全球性的產品，只有擁有一家多元化的公司才能實現這一願景。

最後，Akamai無疑是CDN市場老大， 佔比55%的市場份額，主要服務物件也是 Facebook， Adobe， Airbnb， NBA， IBM 這樣的巨頭；亞馬遜的CloudFront佔比21% 。而CloudFlare和Fastly在CDN領域的市佔率才1%左右，真的相當小。但Cloudflare和Fastly從一開始就圍繞軟體定義的網路構建其架構。並將所有網路轉移到PoP伺服器本身執行的程式碼模組中。這樣就可以非常精細地控制PoP和網路之間的流量路由，直至使用者的每個單獨請求，可以提供更好的內容交付效能。

但Akamai的產品交付節奏沒有想象的那麼快。雖然啟用無伺服器邊緣計算是Akamai認為重要的功能，但EdgeWorkers解決方案的進展似乎與一年前宣佈的狀態相同，仍處於Beta版。