8月30日下午，網(wǎng)上傳出消息稱，通過(guò)《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《生成式人工智能管理?xiàng)l例》)備案的百度、字節(jié)、商湯、中科院紫東太初、百川智能、智譜華章等8家企業(yè)/機(jī)構(gòu)大模型排名第一。

博主“李飛”爆料微博

經(jīng)過(guò)一夜的發(fā)醇，8月31日，多家廠商在此消息中對(duì)外公布了全面開放服務(wù)的消息。

關(guān)于算法備案流程，在2022年2月28日中央網(wǎng)絡(luò)安全與信息化委員會(huì)辦公室(以下簡(jiǎn)稱“中央網(wǎng)絡(luò)信息辦公室”)發(fā)布的《關(guān)于互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)上線的通知》中，對(duì)此進(jìn)行了說(shuō)明:互聯(lián)網(wǎng)信息服務(wù)算法備案只是為備案主體提供的算法推薦服務(wù)和服務(wù)中使用的算法推薦技術(shù)備案，信息由備案主體自行填寫。備案并不意味著對(duì)相關(guān)主體、算法、商品、服務(wù)等的認(rèn)可。任何組織或個(gè)人都不應(yīng)將備案結(jié)果用于宣傳和其他商業(yè)行為。

現(xiàn)在這8家公司在宣傳上并沒有強(qiáng)調(diào)“備案”，只是宣傳產(chǎn)品和對(duì)公眾開放的措施。 “事實(shí)上，這次備案就是發(fā)放牌照的前奏。參與某大型備案工作的張華(化名)告訴虎嗅，雖然備案并不意味著獲得“許可證”，但這八個(gè)公司無(wú)一例外地暗示著他們非常接近許可證。

為什么新的AI規(guī)定閃電落地？

不到一年前，2022年11月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理?xiàng)l例》在相關(guān)部門上一次推出了人工智能管理規(guī)范。該條例征求意見稿于2022年1月發(fā)布，2023年1月正式實(shí)施，阿里、騰訊、字節(jié)、美團(tuán)等首批備案公司于6月20日發(fā)布。

與上一條規(guī)定相比，這次生成式AI新規(guī)并不令人不快。

自2023年4月起，生成式AI管理?xiàng)l例開始征集意見，短短3個(gè)月，就完成了暫行規(guī)定的制定。第一批備案公司于8月15日正式啟動(dòng)，此后半個(gè)月已公布。

閃電發(fā)布，閃電落地，AI大型市場(chǎng)日新月異，隨著技術(shù)的發(fā)展，規(guī)則的制定也必須實(shí)時(shí)更新。

“最近，我們幾乎每周與監(jiān)管部門溝通三次，并不斷向北京市相關(guān)部門報(bào)告材料?！绷硪晃粎⒓哟舜蝹浒腹ぷ鞯臈蠲?化名)告訴虎嗅，監(jiān)管機(jī)構(gòu)從4月份生成式AI管理?xiàng)l例征集意見開始，頻繁與大型技術(shù)供應(yīng)商開會(huì)討論技術(shù)和管理細(xì)節(jié)，并在內(nèi)部迭代了幾輪管理?xiàng)l例。

規(guī)則迭代過(guò)程中，監(jiān)督工作也是平行進(jìn)行的。

楊明告訴虎嗅，2021年底發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理?xiàng)l例》中，楊明告訴虎嗅，2021年底發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理?xiàng)l例》要求，法定時(shí)限為30個(gè)工作日，用于算法備案。然而，在實(shí)際操作過(guò)程中，公司通常會(huì)不斷補(bǔ)充新材料，完成時(shí)間可能為2-3個(gè)月。在中國(guó)的百模對(duì)決中，這項(xiàng)工作更加困難。

新規(guī)快速落地的動(dòng)力，一方面來(lái)自于高層對(duì)生成式AI等前沿技術(shù)的重視，另一方面來(lái)自于巨大的市場(chǎng)前景。

“在消費(fèi)模式和勞動(dòng)密集型工作場(chǎng)景中，大型工具面向公眾用戶，缺乏監(jiān)管會(huì)給技術(shù)供應(yīng)商帶來(lái)很大的麻煩?！霸谀硵?shù)字技術(shù)供應(yīng)商6月份召開的大型應(yīng)用產(chǎn)品發(fā)布會(huì)上，該企業(yè)項(xiàng)目負(fù)責(zé)人曾告訴虎嗅，他們被這家AI技術(shù)供應(yīng)商嚴(yán)格保密，如果透露使用了誰(shuí)的大型模型，將被視為違約。而且對(duì)于為什么要對(duì)案件保密，這位負(fù)責(zé)人分析，很大一部分原因是為了規(guī)避監(jiān)管風(fēng)險(xiǎn)。

“生成式AI的安全隱患在世界各地都有共識(shí)，但它畢竟是一種商業(yè)產(chǎn)品，其背后的市場(chǎng)潛力巨大，沒有一個(gè)市場(chǎng)會(huì)因?yàn)橐瓘U食而盲目堵漏?！苯咏O(jiān)管部門的馮清(化名)表示，對(duì)于生成式AI來(lái)說(shuō)，符合商業(yè)化和社會(huì)化需求的監(jiān)管可能是當(dāng)前的焦點(diǎn)。

觀韜中茂律師事務(wù)所合伙人王渝偉認(rèn)為，從生成式AI管理?xiàng)l例出臺(tái)后，政策將從問題導(dǎo)向向目標(biāo)導(dǎo)向發(fā)展。從規(guī)定的條款來(lái)看，新規(guī)則是重“疏”而不是重“堵”。

備案后還有多長(zhǎng)的路要走？

楊明告訴虎嗅，目前生成式AI的責(zé)任主體仍然是技術(shù)供應(yīng)商，這對(duì)技術(shù)供應(yīng)商來(lái)說(shuō)是一個(gè)很大的安全挑戰(zhàn)。然而，控制大模型在技術(shù)上的輸出并不是很難。真正的困難在于如何識(shí)別客戶對(duì)模型的惡意引導(dǎo)。

實(shí)際操作中，通過(guò)前后處理，SFT、多種方法，如Prompt微調(diào)、域內(nèi)知識(shí)增強(qiáng)等，都可以減少大模型的錯(cuò)誤和幻覺。一位國(guó)內(nèi)大型R&D經(jīng)理周鑫(化名)表示，國(guó)內(nèi)基于開源模型發(fā)布的一些對(duì)話產(chǎn)品曾經(jīng)發(fā)生過(guò):在回答“你是誰(shuí)”這個(gè)簡(jiǎn)單的問題時(shí)，LLaMA被誤認(rèn)為是國(guó)產(chǎn)模型，因?yàn)殚_發(fā)者處理了“你是誰(shuí)”的問題。

但是，這些技術(shù)手段并不能保證100%的不良信息被過(guò)濾掉，因?yàn)橛行┛蛻舯硎竞磺濉?strong>此前對(duì)ChatGPT的檢測(cè)中，曾有網(wǎng)友將影視劇本創(chuàng)作作為一個(gè)陷阱，誘導(dǎo)AI描述危險(xiǎn)爆炸物的制作方法。

楊明說(shuō)：“我們?cè)谀Ｐ蜕献隽撕芏鄿y(cè)試，很多問題可能不會(huì)引發(fā)敏感詞，但是輸出內(nèi)容可能不合規(guī)。在不同的語(yǔ)境中，漢語(yǔ)中有許多單詞和句子表達(dá)完全不同的意思，這也很容易導(dǎo)致內(nèi)容“跑偏”。

雖然控制嚴(yán)格，但在研發(fā)和商業(yè)化方面，擁有“合法身份”的大模型無(wú)疑會(huì)更快。第一，在R&D方面，隨著公眾用戶的涌入，大型模型可以從真實(shí)用戶那里獲得更多的數(shù)據(jù)反饋，可以極大地支持模型的優(yōu)化迭代。

就商業(yè)化而言，二級(jí)市場(chǎng)對(duì)通過(guò)備案的AI公司表示“熱烈歡迎”。8月31日收盤后，百度股價(jià)上漲2.12%，商湯股價(jià)上漲3.31%，科大訊飛股價(jià)下跌1.14%，科大訊飛股價(jià)未在備案名單中提及。

但是，一些業(yè)內(nèi)人士對(duì)此并不樂觀。許多AI大型R&D人員告訴虎嗅，獲得大模型商業(yè)化許可證的主要力量-B端、恐怕G端用戶的刺激不會(huì)很大。，由于這些應(yīng)用程序原本在強(qiáng)監(jiān)管下，產(chǎn)生內(nèi)容所能產(chǎn)生的社會(huì)影響是有限和可控的。

C端客戶應(yīng)該通過(guò)備案真正受益。“最大的受益者應(yīng)該是像百度這樣的C端產(chǎn)品比較成熟的企業(yè)。”張華表示，國(guó)內(nèi)C端用戶對(duì)AI模型非常好奇，但從來(lái)沒有特別好的使用方法。開放公眾注冊(cè)將大大降低生成AI的應(yīng)用門檻。

“但是大型模型的運(yùn)營(yíng)成本太高了，國(guó)內(nèi)的大型模型也可能像ChatGPT一樣，開放初期免費(fèi)，后續(xù)逐步收費(fèi)。”然而，張華認(rèn)為，盡管許多人對(duì)AI大模型感興趣，但是最后為AI付費(fèi)，付費(fèi)的人恐怕不會(huì)是使用AI的人。

7月30日，彭博社發(fā)布了一項(xiàng)關(guān)于股票投資者的調(diào)查Markets。 Live 根據(jù)Pulse，約77%的被調(diào)動(dòng)投資者計(jì)劃在未來(lái)六個(gè)月內(nèi)增加或保持對(duì)科技股的投資，只有不到10%的投資者認(rèn)為科技行業(yè)面臨嚴(yán)重的泡沫困境。然而，只有一半的投資者對(duì)AI技術(shù)持開放態(tài)度，這些投資者對(duì)科技產(chǎn)業(yè)的發(fā)展持樂觀態(tài)度。

50.2%的受訪者表示，他們還沒有準(zhǔn)備為購(gòu)買AI工具付費(fèi)，大多數(shù)投資公司也沒有計(jì)劃將AI大規(guī)模應(yīng)用于交易或投資。

即使是SaaS概念較強(qiáng)的美國(guó)市場(chǎng)的專業(yè)投資者，對(duì)AI工具的支付意愿也不是很強(qiáng)烈，國(guó)內(nèi)普通用戶的支付意愿也很明顯。

在最新一季度的財(cái)務(wù)報(bào)告中，百度和谷歌兩大搜索巨頭強(qiáng)調(diào)了AI對(duì)廣告業(yè)務(wù)的促進(jìn)作用。從這個(gè)角度來(lái)看，AI時(shí)代的商業(yè)模式很可能和互聯(lián)網(wǎng)時(shí)代一樣。那些因特網(wǎng)公司的廣告商仍然很有可能為ToC市場(chǎng)買單。

下一波備案可能是誰(shuí)？

除了中國(guó)科學(xué)院自動(dòng)化研究所的紫東太初，這是一個(gè)多模式模型，這次提出的備案產(chǎn)品大多是文學(xué)內(nèi)容。然而，在6月20日發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理?xiàng)l例》備案算法清單中，百度的文學(xué)圖商品文學(xué)心臟已經(jīng)完成備案。

在安全性方面，雖然文生圖片通過(guò)圖片識(shí)別和prompt進(jìn)行調(diào)整，但在技術(shù)上很容易限制不安全內(nèi)容的生成，但在旗幟和地圖的生成等一些細(xì)節(jié)上仍然存在風(fēng)險(xiǎn)。

楊明覺得，在選擇備案公司的過(guò)程中，可能會(huì)考慮到公司成分的平衡。具有商業(yè)化企業(yè)、大學(xué)背景的企業(yè)、中科院等研究機(jī)構(gòu)。另外，還要考察大型商品的能力。

在這個(gè)備案模型中，沒有備受關(guān)注的通義千問、訊飛星火和360智能大腦。在新華社研究院發(fā)布的《人工智能大模型體驗(yàn)報(bào)告2.0》中，以上三款車型均位居國(guó)內(nèi)主流大模型評(píng)價(jià)榜首，僅次于文心一言、商湯協(xié)商、智譜ChatGLM。

“在我看來(lái)，第一批備案模型，首先是考察能力和安全性，另一方面也可能考慮工業(yè)化因素。中國(guó)科學(xué)院自動(dòng)化研究所主任劉昊表示，紫東太初的研發(fā)主要是基于自建的全棧產(chǎn)業(yè)化基礎(chǔ)軟件系統(tǒng)，在實(shí)踐過(guò)程中，使用的算率大多是基于華為升騰GPU的910和910b。

截至發(fā)稿時(shí)，登錄網(wǎng)信辦官方“因特網(wǎng)信息服務(wù)算法備案系統(tǒng)”，仍然只能查到6月20日發(fā)布的信息， “根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理?xiàng)l例》，國(guó)內(nèi)深層生成服務(wù)算法備案信息公開發(fā)布”。根據(jù)上述消息，根據(jù)《生成人工智能服務(wù)管理暫行辦法》發(fā)布的備案算法名單仍然無(wú)法在系統(tǒng)中找到。

因特網(wǎng)信息服務(wù)算法備案系統(tǒng)

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com