AWS re:Invent 2023 - CEO Keynote ReCap

2023/12/01閱讀時間約 11 分鐘

AWS CEO Adam Selipsky 在兩個半小時的演講中，重點圍繞重構 (refactoring) 雲端基礎架構、Compute、Storage、重構企業級 Generative AI 等主題，宣布了多項新服務，幫助客戶快速實現數位轉型，提高創新速度。

從客戶需求出發，引領雲端運算創新

re:Invent 大會每年都會吸引全球各行各業的客戶和合作夥伴參與。這些客戶基於 AWS Cloud 技術，實現業務發展、快速創新，提供卓越的用戶體驗，開拓新的成長方向。

AWS Cloud 為不同規模的企業提供動力，從前沿的創業公司，到小型專業公司都在雲端找到成長點。目前超過 80% 的獨角獸公司都在使用 AWS Cloud。這些成功源自於「Working Backwards」以客戶需求為逆向創新的法寶。當年 AWS 在應對電商基礎設施管理面臨挑戰時，被迫反思 IT 系統建設，最終催生了雲端運算這一革命。

重構基礎設施

AWS 目前在全球擁有 32 個區域，每個區域包含 3 個或更多的可用區(AZ)。這些可用區在實體上單獨完全隔離，實現光纖網路、電力、用水等資源的全冗餘。當某個區域或可用區出現斷電或使用高峰，其他可用區可以不受影響，可繼續獨立運作。

重構存儲

新推出：高效能、低延遲的物件儲存服務 Amazon S3 Express One Zone

正式發布了高效能、低延遲的物件儲存服務 Amazon S3 Express One Zone，可用於存取效能要求最高的資料儲存。該服務旨在為延遲敏感的應用提供個位數毫秒延遲的高效能，以支援每分鐘數百萬請求、每秒數十萬次的資料存取。Amazon S3 Express One Zone 的資料存取速度比Amazon S3 標準版快10倍，請求成本降低50%，運算成本降低60%。

重構計算

AWS 也洞察到，客戶對提升雲端上算力與提升性價比的需求不斷攀升。而雲端則需要從處理器晶片開始對算力進行全面創新。 2018 年 AWS 發表第一代 Graviton 處理器晶片晶片，成為全球首家開發處理器的雲端廠商。如今 AWS 在全球超過 5 萬名客戶在使用 Graviton 處理器，其中包含多家全球TOP100大客戶。例如SAP，在使用Graviton服務後，其成本降低了35%，分析速度更快，同時碳排放量減少了45%。

新推出：全新一代Graviton 處理器 Amazon Graviton4

全新一代Graviton 處理器，相較於Graviton3，它的核心多出 50%，記憶體頻寬提升75%，Graviton4 晶片速度相較 Graviton3 提升30%，對於資料庫和 Java 應用等關鍵工作負載方面實現了更顯著的效能提升，分別提升了40% 和 45%。

新推出：基於Graviton4 的 R8g Instances for EC2

R8g 是第一個基於Graviton4 的 Instances，目前可提供預覽。R8g 作為記憶體優化型Type，能夠更好地支援大規模資料庫、即時大數據分析等應用，可提供最佳的價格效能，能減少能源消耗。未來，AWS Cloud 將有更多的 Graviton4 的 Type 陸續發布。

重構生成式AI

AWS 一直在不斷地重構與創新，致力於為客戶構建基礎設施，助力客戶釋放創新潛力。多年來，AWS Cloud 在 AI 領域持續進行創新，在 AWS 龐大的零售和業務運營中廣泛應用 AI，積累了豐富的實戰經驗。現今，AWS Cloud 已成為客戶利用生成式AI 重塑業務的重要策略伙伴，提供專業的指導與建議。在生成式 AI 的重構過程中，AWS 以更優異的性價比，提供了更廣泛、更深入的功能，同時保證了必要的安全性和隱私性。

生成式AI，它包含同等重要的三個層級，AWS 持續加強這三個層面的能力 : 最底層是訓練和推理的基礎設施，中間層是滿足各種微調模型需求的工具服務，上層是構建生成式AI 應用的平台。

在生成式 AI 的基礎設施層面，AWS 致力於優化相關解決方案，如提升EC2 GPU Type的效能，同時降低訓練和運行大型語言模型所需的計算成本。在這塊領域 AWS 與NVIDIA 擁有超過十年的合作歷史，使其成為第一家能提供 NVIDIA 最新 GH100 Grace Hopper 數據中心級 GPU 的雲端服務供應商。這款全新超級晶片專為加速大型語言模型的訓練和推理而設計，也就是生成式AI應用的核心組成部分。

新發布：AWS 成為首家推出 NVIDIA GH200 NVL32 執行個體的雲端廠商

NVIDIA 創始人兼 CEO 黃仁勳宣布，AWS 成為首家推出搭載 NVIDIA GH200 NVL32 的執行個體雲端服務供應商。這款執行個體整合了32 個 GH200 超級晶片，通過高達900GB/s 的 NVLink 網路互聯，形成一個擁有高達 20TB 共享記憶體的執行個體。它將可大幅加速訓練擁有上萬億參數的大規模 AI 模型的過程。

新推出：全新一代Amazon Trainium2 晶片

基於第一代 Trainium 晶片的卓越表現，AWS 正式發布了全新一代Trainium2 晶片。新款 Trainium2 在搭載數以百億計參數的大型基礎模型訓練方面進行了優化，其性能較上一代提升 4 倍，達到 65 EFlops 的計算能力，可以按需彈性提供所需的計算支援。知名生成式 AI 企業 Anthropic 計畫採用 Trainium2 晶片來建立自己的模型。

在進行創新的時候，我們會在各種不同的 Foundation Model 還有API 之間互動，Amazon Bedrock 能夠提供各式各樣模型，例如AI21 labs、Anthropic、Cohere、Meta，還有Amazon Titan 模型。此外AWS Cloud 也是首個整合Meta Llama 2 模型的雲端廠商。

新發布：AWS 與 Anthropic 深化合作關係

AWS 強調在快速發展的人工智慧領域，提供客戶充分的選擇自主權至關重要。為實現這一目標，AWS 不斷拓展與領先的創新公司的合作，如跟 AI 初創企業 Anthropic。通過新建立的合作夥伴關係，Anthropic將運用 AWS 的自主研發 ASIC 晶片Trainium，來訓練他們下一代複雜的Claude語言模型。同時 AWS 的客戶還將獨享提前體驗該模型的定制和微調等高級功能的專屬使用權。

全新功能：Amazon Bedrock

在生成式AI的應用層面， Amazon Bedrock 為客戶提供了一個簡單、快速且安全的API介面，可以存取各類基礎語言模型。自推出兩個月以來，已經吸引了超過 10000 名跨行業的活躍客戶使用，快速構建和擴展自己的生成式AI應用。 Adam也宣布了Amazon Bedrock 的多項新功能，包括模型微調、基於檢索增強生成(RAG) 以及建立在 Amazon Titan 超大模型基礎上的預訓練 API 等。

新推出： Agents for Amazon Bedrock

借助全新正式發布的 Agents for Amazon Bedrock，客戶可以透過簡單的幾個步驟建立和部署完全託管式的 Agent，透過動態呼叫 API 來執行複雜的業務任務。Amazon Bedrock 可以根據使用者提供的自然語言指令完成任務所需的API 架構。

負責任的AI

新推出：Guardrails for Amazon Bedrock 預覽版

AWS 致力於以負責任的方式開發AI。它可根據各應用的個性化需求，按照 AI 政策自定制相應的安全防護措施。 Guardrails 可跨基礎模型應用，為所有生成式AI應用提供一致的安全級別防護，阻止生成非篩選內容，過濾有害資訊等。確保生成式AI的安全和負責任，是 AWS 的核心使命。

新推出：企業生成式 AI 助理 Amazon Q

面向企業的智慧應用助理 Amazon Q，它融合了AWS Cloud 17 年來在雲端服務領域積累的豐富知識和經驗，將徹底改變開發者和 IT 技術人員在雲端構建、部署和維運應用的方式。客戶可以透過 AWS 的管理控制台、文件頁面、IDE 開發環境、Slack 或第三方對話平台等多種管道訪問 Amazon Q。此外 Amazon QuickSight 和Amazon Connect 等服務也將引進基於 Amazon Q 的全新生成式AI助理。這只是Amazon Q廣泛應用的一個開始。

通過上述系列發布，AWS 已初步構建起涵蓋生成式 AI 全流程應用的服務體系。

Zero-ETL 時代已來 - 生成式 AI 解鎖資料價值新篇章

釋放 AI 潛力的關鍵在於利用自身獨特的業務數據進行模型的客製化調教。 Amazon Bedrock、Amazon CodeWhisperer 和 Amazon Q 等服務通過專有數據的微調，使模型在特定業務場景中的應用變得零障礙。

新推出：4 項 Zero-ETL 新的整合功能

邁入生成式 AI 新時代，為更好挖掘數據價值，AWS 宣布推出 4 項新增 Zero-ETL 集成功能，使客戶能夠快速便捷地連接和分析數據，無需構建和管理複雜的提取、轉換、載入(ETL)資料流程，Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon RDS for MySQL 與 Amazon Redshift 資料倉儲實現聚合，以及 Amazon DynamoDB與 Amazon OpenSearch 服務的 Zero-ETL 整合。

客戶現在可以透過 Amazon OpenSearch 服務即時地對 Amazon DynamoDB資料執行全文和向量搜尋，從而獲得跨應用的整體洞察，在提升運營效率的同時降低成本，並產生更優質的資料驅動決策。

新推出：由生成式 AI 驅動的 Amazon DataZone AI recommendations

通過生成式 AI 驅動 Amazon DataZone 智慧推薦功能，旨在大幅減少組織理解業務場景所需的資料時間。此功能由 Amazon Bedrock 模型支援，可為資料資產及其模式自動產生詳細說明，並推薦分析場景。透過一鍵操作即可快速產生充滿業務洞察的資料報告。

仰觀蒼穹雲無界限

CEO 在大會上展示了 Project Kuiper ，這是一項全新的私人低軌衛星網路連線服務。該服務透過把衛星集合在一起，形成全球的高速衛星網路服務。Kuiper 團隊已經把第一顆衛星發送到了軌道上。未來將允許客戶將資料從遠端位置直接把資料傳入到 AWS Cloud，而無需再依賴 Internet。