聊天機器人 背後軟硬體貴得嚇人

在OpenAI的聊天機器人ChatGPT一炮而紅之前,一家名為Latitude的小型新創公司已研發AI Dungeon遊戲,所提供的AI功能能藉由輸入的提示創造奇幻故事。

隨著AI Dungeon漸受歡迎,Latitude執行長沃頓(Nick Walton)表示,維護該平台的成本即暴增。因AI Dungeon產生文字軟體採用GPT語言技術,後者屬於微軟投資的AI研究室OpenAI。只要愈來愈多人參與AI Dungeon遊戲,Latitude就須支付更多的費用給OpenAI。

沃頓估計,在2021年使用高峰期,針對該公司採用OpenAI的生成式AI(generative AI)軟體與亞馬遜AWS,Latitude每月需付出將近20萬美元。

沃頓表示,「我們都開玩笑說我們有人類員工和AI員工,兩邊支付的成本差不多。每個月要花一大筆錢在AI,我們不是大型新創公司,這是很龐大的成本。」

松山區當舖政府合法立案借貸有保障,支票借款一通電話免費諮詢.當舖給您最專業最親切的服務,借錢很簡單!永和汽車借款快速過件立即撥款!提供多種借貸服務給客戶選擇,24小時當鋪任何一樣擔保品皆能借錢嗎?高雄當舖告訴你借貸流程為何?屏東支票貼現常見五大問題!疫情缺資金難過關嗎?別擔心!中山區當舖讓你輕鬆借貸.永和當舖.板橋當舖有哪幾家是政府立案合法的借錢管道?借錢救急!高雄借貸有多年貸款經驗的申辦團隊,提供您更多融資借貸、小額借貸!台中當舖全年無休24小時典當服務。懶人包!讓你更了解台北當鋪,台北汽車借款,台北機車借款,台北借錢相關借貸流程!為何台中支票貼現銀行限制多?推薦你備受客戶信賴的鳳山汽車借款高雄合法當舖,提供免費諮詢服務,讓你借的安心還的起!!房屋借貸抵押撥款流程。台中票貼借錢哪裡有?新莊當舖合法政府立案一覽表。什麼是二胎房貸?有資金需求時,其實可以考慮用房屋貸款,包括「增貸」、「轉增貸」和「二胎房貸」,提供多種借貸服務給客戶選擇,士林機車借款貸款車分期車皆可;屏東當舖借錢借款相關的諮詢管道在哪裡?提供多種借貸服務給客戶選擇,士林當舖貸款車分期車皆可。只要您的資金缺口,急需用錢-大寮當舖助你渡難關

Latitude在2021年底停用OpenAI的GPT軟體技術,改用較便宜、由新創業者AI21 Labs的產品,後者整合開放程式碼和免費語言模型,藉此降低成本,這讓Latitude支付AI技術的費用可降至每月10萬美元以下。

Latitude昂貴的AI帳單反映出一個現實,就是生成式AI技術蓬勃發展的背後,業者必須承擔極昂貴的開銷。

此外,要執行AI運算必須特殊硬體設備,而輝達(NVIDIA)是AI產業晶片的主要供應商,數據中心設備的GPU要價即1萬美元。分析師和技術專家預估,訓練GPT-3等大型語言模型,總計要花費逾400萬美元。

#
#
#
#
#

https://www.chinatimes.com/newspapers/20230315000192-260203