訂閱
糾錯(cuò)
加入自媒體

強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

前言:

ChatGPT一次運(yùn)算的成本高達(dá)450萬(wàn)美元,OpenAI公司凈虧損高達(dá)5.45億美元,如若不是背后大股東微軟源源不斷的輸血支撐,OpenAI的ChatGPT早黃了。

作者 | 方文三

圖片來(lái)源 |  網(wǎng) 絡(luò)

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

新春佳節(jié)后,巨頭們宣布類ChatGPT進(jìn)展

2月,微軟宣布推出由ChatGPT支持的最新版本人工智能搜索引擎必應(yīng)和Edge瀏覽器。

微軟股價(jià)大漲4.2%,市值飆升800億美元。

幾乎同時(shí),谷歌也將整合新的人工智能到搜索引擎中。

宣布人工智能對(duì)話式機(jī)器人Bard正在內(nèi)測(cè),并在未來(lái)幾周內(nèi)向大眾提供服務(wù)。

百度將于3月在中國(guó)推出類似ChatGPT的人工智能聊天機(jī)器人[文心一言]。

百度港股漲幅快速擴(kuò)大,截至收盤(pán)大漲15.33%。

騰訊、阿里、華為也紛紛宣布正在申請(qǐng)人工智能人機(jī)對(duì)話專利。

360也于近期在互動(dòng)平臺(tái)上表示,計(jì)劃盡快推出類ChatGPT技術(shù)的demo版產(chǎn)品。

ChatGPT的出現(xiàn)提升了自然語(yǔ)言處理能力的上限,打開(kāi)了人工智能技術(shù)商業(yè)化落地且成為消費(fèi)端爆款的大門(mén),因此具有劃時(shí)代的意義。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

差異化戰(zhàn)略,股價(jià)兩重天

2022年12月底,谷歌深感來(lái)自ChatGPT的壓力,迅速抽調(diào)員工開(kāi)展ChatGPT競(jìng)品產(chǎn)品的研究。

谷歌已向AI初創(chuàng)公司Anthropic投資了近4億美元,Anthropic正在進(jìn)行ChatGPT競(jìng)爭(zhēng)產(chǎn)品的測(cè)試,這家公司成立于2021年,創(chuàng)始團(tuán)隊(duì)正是來(lái)自于ChatGPT的開(kāi)發(fā)商O(píng)penAI。

谷歌宣布將推出名為Bard的AI聊天機(jī)器人,這款產(chǎn)品是基于對(duì)話應(yīng)用語(yǔ)言模型(LaMDA)的實(shí)驗(yàn)性AI程序,目前已經(jīng)開(kāi)展測(cè)試,并在幾周內(nèi)向公眾開(kāi)放。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

微軟更是迅速響應(yīng),加快了相關(guān)應(yīng)用的研發(fā)。

近日,微軟宣布將ChatGPT整合至全線產(chǎn)品中,并擴(kuò)大與ChatGPT所有者OpenAI的深度合作。

推出由ChatGPT支持的,融入GPT-3.5語(yǔ)言技術(shù)的最新版本人工智能搜索引擎Bing(必應(yīng))和Edge瀏覽器。

微軟推出了集成ChatGPT技術(shù)的新版搜索引擎New Bing和瀏覽器Edge,這也成為微軟在搜索引擎領(lǐng)域?qū)构雀璧闹匾淦鳌?/p>

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

像谷歌和Meta這樣的大公司肯定會(huì)有一定優(yōu)勢(shì),因?yàn)樗麄儞碛腥肆、技術(shù)和財(cái)力資源。

因此,這些公司在市場(chǎng)上有足夠的空間,這將是一場(chǎng)新的比賽,尤其是在深度和正確性方面。

相較之下,微軟和亞馬遜選擇的應(yīng)對(duì)策略是與OpenAI結(jié)盟,試圖借其東風(fēng)。

Bard作為對(duì)抗ChatGPT而推出的關(guān)鍵對(duì)標(biāo)產(chǎn)品,可謂是備受關(guān)注。

按照谷歌的宣傳,Bard是一項(xiàng)實(shí)驗(yàn)性對(duì)話式AI服務(wù),由LaMDA提供支持,并運(yùn)用到了谷歌的大型語(yǔ)言模型和網(wǎng)絡(luò)信息構(gòu)建。

可萬(wàn)萬(wàn)沒(méi)想到,趕了個(gè)晚集的谷歌卻在自己的發(fā)布會(huì)上翻車(chē)了。

發(fā)布會(huì)中展現(xiàn)的錯(cuò)誤答案后,谷歌股價(jià)大跌7.68%,一夜之間市值縮水約7202億元,是截止到目前AI犯過(guò)的最貴的錯(cuò)誤。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

出圈背后有AIGC的功勞

AIGC的核心變革,發(fā)生在內(nèi)容層,位于數(shù)據(jù)層之上。

AIGC在繪畫(huà)和會(huì)話等方面突破的重要性,在人工智能領(lǐng)域相當(dāng)于2016年,阿爾法狗戰(zhàn)勝人類圍棋冠軍的價(jià)值。

ChatGPT最大的意義是讓人們看到了一個(gè)更加智能高效時(shí)代的輪廓。

ChatGP本身也是AI技術(shù)迭代到一定階段后的產(chǎn)物。

服務(wù)器+網(wǎng)絡(luò)開(kāi)啟了人人上網(wǎng)的時(shí)代,而算力+算法將開(kāi)啟人人上算的時(shí)代。

AI將以場(chǎng)景、應(yīng)用、內(nèi)容來(lái)創(chuàng)造用戶的新需求。

AIGC技術(shù)主要涉及兩個(gè)方面,自然語(yǔ)言處理(NLP)和AIGC生成算法,AIGC投資方向主要包括軟硬件與數(shù)據(jù)集。

以ChatGPT為代表的大型語(yǔ)言模型(LLM)將會(huì)成為未來(lái)巨頭爭(zhēng)奪的重點(diǎn)。

ChatGPT展示了巨大的應(yīng)用潛力,完全不局限于創(chuàng)作文本或者圖像。

距離AIGC真正落地以及實(shí)際應(yīng)用還有很遠(yuǎn)的路。

目前ChatGPT更像一個(gè)[玩具],還不是生產(chǎn)力工具。

西部證券則預(yù)測(cè),AIGC或在2023年迎來(lái)發(fā)展大年,來(lái)到兩年前自動(dòng)駕駛的應(yīng)用突破拐點(diǎn)。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

實(shí)現(xiàn)ChatGPT的最大亮點(diǎn)也是最大難點(diǎn)

ChatGPT需要把大模型盡量變成小模型或者稀疏模型,且大模型的訓(xùn)練和使用成本都很高。

除了模型之外的另一個(gè)難點(diǎn)在于如何實(shí)現(xiàn)ChatGPT后半段的人工過(guò)程變成自動(dòng)訓(xùn)練。

ChatGPT是在大模型的基礎(chǔ)上,加入了很多人類反饋。這需要大量的人工,而這部分工作目前是至關(guān)重要的。

截至目前,OpenAI已經(jīng)總計(jì)獲得超過(guò)110億美元的融資,微軟、谷歌風(fēng)投、馬斯克等均曾出手投資,而且其目前并未盈利。

如此巨額的投入恐怕今天的互聯(lián)網(wǎng)巨頭也只能望而卻步。

但從另一個(gè)角度來(lái)說(shuō),這也給了創(chuàng)業(yè)型團(tuán)隊(duì)機(jī)會(huì)。通過(guò)不斷深入挖掘某項(xiàng)技術(shù),瞄準(zhǔn)特定的細(xì)分賽道能夠切到一塊蛋糕。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

高算力帶火芯片行業(yè)

ChatGPT的注冊(cè)用戶便已經(jīng)過(guò)億,海量的用戶訪問(wèn)曾多次導(dǎo)致ChatGPT官網(wǎng)因?yàn)樵L問(wèn)數(shù)太多而宕機(jī)。

這意味著,OpenAI要想保證用戶體驗(yàn),它就必須得加大算力的投入。

而這就需要大量芯片的支持了,這無(wú)疑直接給本已快陷入沉寂的芯片市場(chǎng)注入了一劑猛藥。

ChatGPT的總算力消耗約為3640PF-days,ChatGPT已導(dǎo)入了至少1萬(wàn)顆英偉達(dá)高端GPU。

而花旗集團(tuán)預(yù)估,ChatGPT將可能促使英偉達(dá)相關(guān)產(chǎn)品在12個(gè)月內(nèi)銷售額達(dá)到30億至110億美元。

ChatGPT的大火將促使算力需求大大增加,350瓦推理芯片會(huì)成為常態(tài),技術(shù)上會(huì)推動(dòng)大模型壓縮到達(dá)一個(gè)新高潮,同時(shí)企業(yè)和個(gè)人的服務(wù)有許多可以基于類似技術(shù)構(gòu)建。

高性能計(jì)算芯片是一切AI的底層基礎(chǔ),目前AI芯片主要有通用GPU算力芯片和ASIC專用芯片兩大類型。

或許在ChatGPT的幫助下,芯片行業(yè)將迎來(lái)新一輪的市場(chǎng)紅利期。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

ChatGPT帶來(lái)AI技術(shù)范式革新

相比其他大模型,ChatGPT在AI的技術(shù)路線和訓(xùn)練方式上的變革,帶來(lái)了業(yè)界意料之外的突破。

①ChatGPT有一個(gè)非常強(qiáng)大的技術(shù)底座,也就是InstructGPT模型。

此前,GPT與BERT模型路線一直在競(jìng)爭(zhēng),2018年時(shí)BERT模型先贏了,但GPT模型參數(shù)和數(shù)據(jù)規(guī)模越做越大。

最終結(jié)合人工反饋增強(qiáng)學(xué)習(xí)(RLHF),在ChatGPT上取得了重大突破,效果上反超了BERT模型路線。

②ChatGPT引入了強(qiáng)化學(xué)習(xí)機(jī)制,在新版本上引入了人工標(biāo)注的數(shù)據(jù),通過(guò)人類的反饋,有針對(duì)性地進(jìn)行優(yōu)化。

其中的難度在于,建立怎樣的強(qiáng)化學(xué)習(xí)機(jī)制。過(guò)去業(yè)界也嘗試了強(qiáng)化學(xué)習(xí)機(jī)制,但很多都不太成功,ChatGPT在這件事上取得了突破。

③ChatGPT在數(shù)據(jù)質(zhì)量和多樣性上非常講究。

ChatGPT強(qiáng)化學(xué)習(xí)的數(shù)據(jù)量并不大,但對(duì)數(shù)據(jù)多樣性、標(biāo)注體系都有精巧的設(shè)計(jì),讓數(shù)據(jù)發(fā)揮出了強(qiáng)大的作用。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

成本導(dǎo)致國(guó)內(nèi)與國(guó)外路線不同

ChatGPT的重點(diǎn)在于創(chuàng)造,通過(guò)大量的語(yǔ)料訓(xùn)練和強(qiáng)大的糾錯(cuò)能力,對(duì)素材進(jìn)行消化、整理和再輸出,這和過(guò)去國(guó)內(nèi)關(guān)注的云計(jì)算或視覺(jué)技術(shù)是完全不同的思考方式。

而導(dǎo)致上述分別的原因也很直接,那就是成本。

ChatGPT背后有著海量的資料庫(kù)和龐大的算力做支撐,變現(xiàn)方式目前來(lái)看卻只有向企業(yè)提供服務(wù),替代部分人工作業(yè)這一種。

對(duì)于產(chǎn)品化而言,即使再將成本下降10倍,這個(gè)商業(yè)模式也是無(wú)法成立的,因?yàn)檫@個(gè)成本與人類相比沒(méi)有優(yōu)勢(shì)。

背后的支撐是人工智能大模型

當(dāng)前的人工智能大多是針對(duì)特定的場(chǎng)景應(yīng)用進(jìn)行訓(xùn)練,生成的模型難以遷移到其他應(yīng)用, 屬于[小模型]的范疇。

整個(gè)過(guò)程不僅需要大量的手工調(diào)參,還需要給機(jī)器喂養(yǎng)海量的標(biāo)注數(shù)據(jù),這拉低了人工智能的研發(fā)效率,且成本較高。

[大模型]通常是在無(wú)標(biāo)注的大數(shù)據(jù)集上,采用自監(jiān)督學(xué)習(xí)的方法進(jìn)行訓(xùn)練。

在其他場(chǎng)景的應(yīng)用中,開(kāi)發(fā)者只需要對(duì)模型進(jìn)行微調(diào),就可以滿足新應(yīng)用場(chǎng)景的需要。

這意味著,對(duì)大模型的改進(jìn)可以讓所有的下游小模型受益,大幅提升人工智能的適用場(chǎng)景和研發(fā)效率。

因此大模型成為業(yè)界重點(diǎn)投入的方向,Open AI、谷歌、臉書(shū)、微軟, 國(guó)內(nèi)的百度、阿里、騰訊、華為和智源研究院等紛紛推出超大模型。

特別是OpenAI GPT 3大模型在翻譯、問(wèn)答、內(nèi)容生成等領(lǐng)域的不俗表現(xiàn),讓業(yè)界看到了達(dá)成通用人工智能的希望。

當(dāng)前ChatGPT的版本為GPT 3.5,是在GPT3之上的調(diào)優(yōu),能力進(jìn)一步增強(qiáng)。

業(yè)界普遍預(yù)測(cè),GPT4將在今年推出,并具備更強(qiáng)大的通用能力。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

ChatGPT的產(chǎn)業(yè)未來(lái)與投資機(jī)會(huì)

①ChatGPT模型的出現(xiàn)對(duì)于文字/語(yǔ)音模態(tài)的 AIGC 應(yīng)用具有重要意義,會(huì)對(duì)AI產(chǎn)業(yè)上下游產(chǎn)生重大影響。

從下游相關(guān)受益應(yīng)用來(lái)看,包括但不限于無(wú)代碼編程、小說(shuō)生成、對(duì)話類搜索引擎、語(yǔ)音陪伴、語(yǔ)音工作助手、對(duì)話虛擬人、人工智能客服、機(jī)器翻譯、芯片設(shè)計(jì)等。

從上游增加需求來(lái)看,包括算力芯片、數(shù)據(jù)標(biāo)注、自然語(yǔ)言處理(NLP)等。

②隨著算法技術(shù)和算力技術(shù)的不斷進(jìn)步,ChatGPT也會(huì)進(jìn)一步走向更先進(jìn)功能更強(qiáng)的版本,在越來(lái)越多的領(lǐng)域進(jìn)行應(yīng)用,為人類生成更多更美好的對(duì)話和內(nèi)容。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

核心技術(shù)之一是Transformer

Transformer技術(shù)是近幾年人工智能技術(shù)最大的亮點(diǎn)之一。

谷歌于2017年提出的一種采用注意力機(jī)制的深度學(xué)習(xí)模型,可以按輸入數(shù)據(jù)各部分重要性的不同,而分配不同的權(quán)重。

Transformer的精度和性能上都要優(yōu)于之前流行的CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))等模型。

大幅提升了模型訓(xùn)練的效果,讓人工智能得以在更大模型、更多數(shù)據(jù)、更強(qiáng)算力的基礎(chǔ)上進(jìn)一步增強(qiáng)能力。

目前人工智能已經(jīng)找到解決方案的問(wèn)題,也只是可計(jì)算問(wèn)題的一小部分。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

如果說(shuō)傳統(tǒng)的機(jī)器學(xué)習(xí)或人工智能是在水下一米的深處探索,那么深度學(xué)習(xí)的出現(xiàn)將人們帶到了一百米的深水區(qū);

而在Transformer、GPT等架構(gòu)后,從業(yè)者們直接能抵達(dá)深度超過(guò)萬(wàn)米的馬里亞納海溝。

過(guò)去5年中,大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型受到業(yè)內(nèi)越來(lái)越多的重視。

今天,全世界的人工智能研究有很多方向,也產(chǎn)生了大量的成果。

但是嚴(yán)格來(lái)說(shuō),所有這些最令人驚艷的結(jié)果, 90%以上是基于Transformer迭代來(lái)的這些大模型技術(shù)得到的。

目前幾乎所有的AI任務(wù)和項(xiàng)目,都會(huì)和大語(yǔ)言模型技術(shù)有關(guān)聯(lián),它已經(jīng)代表了AI界最主流的科研和技術(shù)迭代方向。

未來(lái),ChatGPT與更多的AI、云計(jì)算等信息技術(shù)的集成創(chuàng)新,將創(chuàng)造改變生產(chǎn)力曲線的工具,成為經(jīng)濟(jì)發(fā)展新動(dòng)力。

AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

結(jié)尾:

ChatGPT勾起人們對(duì)步入強(qiáng)人工智能時(shí)代的聯(lián)想,即人工智能具有自己的意向性來(lái)設(shè)定目標(biāo)。

雖然強(qiáng)人工智能本身還存在諸多爭(zhēng)論,但是分析人士普遍認(rèn)可,人工智能的發(fā)展大年與信息時(shí)代新階段將至。

       原文標(biāo)題 : AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT

聲明: 本文由入駐維科號(hào)的作者撰寫(xiě),觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)