Accucrazy logo

Google I/O 大會發布 PaLM 2 模型生態圈,小至壁虎,大至獨角獸!

Google I/O 大會發布 PaLM 2 模型生態圈,小至壁虎,大至獨角獸!

 

 

 

一、Google 發布全新 AI 模型 PaLM 2

PaLM 2-4

在近期的 I/O 開發者大會上,Google 全面揭示了其最新的語言模型 PaLM 2(Parallel Learning Machines 2)。PaLM 2 基於 Pathways 架構,是 Google 目前最先進的大模型,是 PaLM 的升級版,並在 TPU v4 上使用 JAX 進行構建。具有超過 100 種語言的訓練資料,使得它在語言理解、生成和翻譯上的能力更強,並且更加擅長常識推理、數學邏輯分析。

 

 

二、PaLM 2 支援多種語言、場景

PaLM 2 支援 100 多種不同語言和 20 多種編程語言,包括 JavaScriptPythonProlog、Verilog、Fortran 等。

此外,PaLM 2 還具有多模態能力,可以理解並生成不僅包括文本,還包括圖像、語音等多種形式的資料,使其在不同場景中都能發揮作用,影片中為衍生版之一 Sec-PaLM 專注於安全性,透過強化學習和模擬攻擊來提高模型的安全性。

 

PaLM 2 -5

大會中, Google 更展示了 Med-PaLM 2 版本,據稱 Med-PaLM 2 在解讀 X 光片和分析病人傷勢方面已達到人類醫生的水平,強調醫學知識的理解和生成。

 

 

三、PaLM 2 提供多種尺寸應用於不同設備

PaLM 2 不僅強大,且應用設計層面寬廣,一共推出了四種不同尺寸的模型,以適應不同的設備和需求。模型的大小由「壁虎」到「獨角獸」,其中「壁虎」版本是非常羽量級的,能在行動設備上快速運行,包括離線狀態;每秒可處理 20 個 token。

 

PaLM -1

DeepMind 副總裁表示,模型不總是越大越好,這也是為什麼 Google 決定提供一系列不同規模的模型,讓微調 PaLM 2 更加方便,能支援更多的產品和應用。

 

 

四、打造以 PaLM 2 為核心的 AI 生態圈

PaLM 2 -6

Google 表示未來將 PaLM 2 應用在旗下近 25 款服務產品中,在 Google Assistant 中,提供了更加人性化的交互體驗,用戶可以與它進行更自然的對話;在 Google Photos 中,能夠自動為用戶的照片生成描述和標籤,幫助用戶更方便地管理照片;而在 YouTube 上,可以為影片生成自動字幕,並將字幕翻譯成多種語言,讓全球觀眾都能理解影片內容⋯⋯等。

 

 

五、語言兄弟 LaMDA & PaLM 2

PaLM 2 -7

Google 在語言模型歷史上,不僅僅推出了 PaLM 2 而已,更早在 2021 年曾推出了 LaMDA,這是一種專為對話應用設計的語言模型。LaMDA 與 PaLM 2 有許多相似之處,例如:它們都可以進行自由流動的對話,且可以談論幾乎任何主題(無道德限制)。然而,兩者之間也存在一些差異。

 

LaMDA 是一種對話型語言模型,其訓練數據來自於對話,因此它對對話的理解可能更為深入。另一方面,PaLM 2 則專注於提供更具語境感和創造性的對話,並且支援多語言、多場景。無論是 LaMDA 還是 PaLM 2,都是 Google 在自然語言處理領域的重要突破,標誌著 AI 技術的進一步發展!

 

 

 

參考資訊:本文部分資訊由 AI 整理為參考所撰寫之報導。


GPT-4 與 Pinecone 共同孕育的 AI 小寶貝: BabyAGI ,陪伴您成長的得力助手!|Accucrazy 肖準行銷

Jarvis 的現實化身:AutoGPT,市場調查與競爭分析的全方位數位諸葛亮!|Accucrazy 肖準行銷

從 AI 到 AIGC :一場革命性的科技進化論,正活生生在我們眼前上演!|Accucrazy 肖準行銷

RLHF :從人類的反饋中學習,引領大型語言模型走向新境界!|Accucrazy 肖準行銷

開啟記憶之鑰:1 分鐘教你掌握 RNN 與 LSTM 數據預測的秘密!|Accucrazy 肖準行銷


想瞭解更多科技行銷相關消息嗎?快追蹤我們吧!


Hello , 我是Jemmy , 一位對未知領域的好奇寶寶。

面對每天接踵而來的新科技,我們能做的除了【恐懼】,更需要去【暸解】。

接下來每個月將透過我個人的角度,分析科技及行銷圈大小事,

帶著大家更深入的方式探討未來科技發展。

more insights