8月30日下午，網(wǎng)上傳出消息稱，通過《生成式人工智能服務管理暫行辦法》(以下簡稱《生成式人工智能管理條例》)備案的百度、字節(jié)、商湯、中科院紫東太初、百川智能、智譜華章等8家企業(yè)/機構大模型排名第一。

博主“李飛”爆料微博

經(jīng)過一夜的發(fā)醇，8月31日，多家廠商在此消息中對外公布了全面開放服務的消息。

關于算法備案流程，在2022年2月28日中央網(wǎng)絡安全與信息化委員會辦公室(以下簡稱“中央網(wǎng)絡信息辦公室”)發(fā)布的《關于互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)上線的通知》中，對此進行了說明:互聯(lián)網(wǎng)信息服務算法備案只是為備案主體提供的算法推薦服務和服務中使用的算法推薦技術備案，信息由備案主體自行填寫。備案并不意味著對相關主體、算法、商品、服務等的認可。任何組織或個人都不應將備案結果用于宣傳和其他商業(yè)行為。

現(xiàn)在這8家公司在宣傳上并沒有強調“備案”，只是宣傳產(chǎn)品和對公眾開放的措施。 “事實上，這次備案就是發(fā)放牌照的前奏。參與某大型備案工作的張華(化名)告訴虎嗅，雖然備案并不意味著獲得“許可證”，但這八個公司無一例外地暗示著他們非常接近許可證。

為什么新的AI規(guī)定閃電落地？

不到一年前，2022年11月發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理條例》在相關部門上一次推出了人工智能管理規(guī)范。該條例征求意見稿于2022年1月發(fā)布，2023年1月正式實施，阿里、騰訊、字節(jié)、美團等首批備案公司于6月20日發(fā)布。

與上一條規(guī)定相比，這次生成式AI新規(guī)并不令人不快。

自2023年4月起，生成式AI管理條例開始征集意見，短短3個月，就完成了暫行規(guī)定的制定。第一批備案公司于8月15日正式啟動，此后半個月已公布。

閃電發(fā)布，閃電落地，AI大型市場日新月異，隨著技術的發(fā)展，規(guī)則的制定也必須實時更新。

“最近，我們幾乎每周與監(jiān)管部門溝通三次，并不斷向北京市相關部門報告材料?！绷硪晃粎⒓哟舜蝹浒腹ぷ鞯臈蠲?化名)告訴虎嗅，監(jiān)管機構從4月份生成式AI管理條例征集意見開始，頻繁與大型技術供應商開會討論技術和管理細節(jié)，并在內部迭代了幾輪管理條例。

規(guī)則迭代過程中，監(jiān)督工作也是平行進行的。

楊明告訴虎嗅，2021年底發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理條例》中，楊明告訴虎嗅，2021年底發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理條例》要求，法定時限為30個工作日，用于算法備案。然而，在實際操作過程中，公司通常會不斷補充新材料，完成時間可能為2-3個月。在中國的百模對決中，這項工作更加困難。

新規(guī)快速落地的動力，一方面來自于高層對生成式AI等前沿技術的重視，另一方面來自于巨大的市場前景。

“在消費模式和勞動密集型工作場景中，大型工具面向公眾用戶，缺乏監(jiān)管會給技術供應商帶來很大的麻煩。“在某數(shù)字技術供應商6月份召開的大型應用產(chǎn)品發(fā)布會上，該企業(yè)項目負責人曾告訴虎嗅，他們被這家AI技術供應商嚴格保密，如果透露使用了誰的大型模型，將被視為違約。而且對于為什么要對案件保密，這位負責人分析，很大一部分原因是為了規(guī)避監(jiān)管風險。

“生成式AI的安全隱患在世界各地都有共識，但它畢竟是一種商業(yè)產(chǎn)品，其背后的市場潛力巨大，沒有一個市場會因為噎廢食而盲目堵漏?！苯咏O(jiān)管部門的馮清(化名)表示，對于生成式AI來說，符合商業(yè)化和社會化需求的監(jiān)管可能是當前的焦點。

觀韜中茂律師事務所合伙人王渝偉認為，從生成式AI管理條例出臺后，政策將從問題導向向目標導向發(fā)展。從規(guī)定的條款來看，新規(guī)則是重“疏”而不是重“堵”。

備案后還有多長的路要走？

楊明告訴虎嗅，目前生成式AI的責任主體仍然是技術供應商，這對技術供應商來說是一個很大的安全挑戰(zhàn)。然而，控制大模型在技術上的輸出并不是很難。真正的困難在于如何識別客戶對模型的惡意引導。

實際操作中，通過前后處理，SFT、多種方法，如Prompt微調、域內知識增強等，都可以減少大模型的錯誤和幻覺。一位國內大型R&D經(jīng)理周鑫(化名)表示，國內基于開源模型發(fā)布的一些對話產(chǎn)品曾經(jīng)發(fā)生過:在回答“你是誰”這個簡單的問題時，LLaMA被誤認為是國產(chǎn)模型，因為開發(fā)者處理了“你是誰”的問題。

但是，這些技術手段并不能保證100%的不良信息被過濾掉，因為有些客戶表示含糊不清。此前對ChatGPT的檢測中，曾有網(wǎng)友將影視劇本創(chuàng)作作為一個陷阱，誘導AI描述危險爆炸物的制作方法。

楊明說：“我們在模型上做了很多測試，很多問題可能不會引發(fā)敏感詞，但是輸出內容可能不合規(guī)。在不同的語境中，漢語中有許多單詞和句子表達完全不同的意思，這也很容易導致內容“跑偏”。

雖然控制嚴格，但在研發(fā)和商業(yè)化方面，擁有“合法身份”的大模型無疑會更快。第一，在R&D方面，隨著公眾用戶的涌入，大型模型可以從真實用戶那里獲得更多的數(shù)據(jù)反饋，可以極大地支持模型的優(yōu)化迭代。

就商業(yè)化而言，二級市場對通過備案的AI公司表示“熱烈歡迎”。8月31日收盤后，百度股價上漲2.12%，商湯股價上漲3.31%，科大訊飛股價下跌1.14%，科大訊飛股價未在備案名單中提及。

但是，一些業(yè)內人士對此并不樂觀。許多AI大型R&D人員告訴虎嗅，獲得大模型商業(yè)化許可證的主要力量-B端、恐怕G端用戶的刺激不會很大。，由于這些應用程序原本在強監(jiān)管下，產(chǎn)生內容所能產(chǎn)生的社會影響是有限和可控的。

C端客戶應該通過備案真正受益。“最大的受益者應該是像百度這樣的C端產(chǎn)品比較成熟的企業(yè)?！睆埲A表示，國內C端用戶對AI模型非常好奇，但從來沒有特別好的使用方法。開放公眾注冊將大大降低生成AI的應用門檻。

“但是大型模型的運營成本太高了，國內的大型模型也可能像ChatGPT一樣，開放初期免費，后續(xù)逐步收費。”然而，張華認為，盡管許多人對AI大模型感興趣，但是最后為AI付費，付費的人恐怕不會是使用AI的人。

7月30日，彭博社發(fā)布了一項關于股票投資者的調查Markets。 Live 根據(jù)Pulse，約77%的被調動投資者計劃在未來六個月內增加或保持對科技股的投資，只有不到10%的投資者認為科技行業(yè)面臨嚴重的泡沫困境。然而，只有一半的投資者對AI技術持開放態(tài)度，這些投資者對科技產(chǎn)業(yè)的發(fā)展持樂觀態(tài)度。

50.2%的受訪者表示，他們還沒有準備為購買AI工具付費，大多數(shù)投資公司也沒有計劃將AI大規(guī)模應用于交易或投資。

即使是SaaS概念較強的美國市場的專業(yè)投資者，對AI工具的支付意愿也不是很強烈，國內普通用戶的支付意愿也很明顯。

在最新一季度的財務報告中，百度和谷歌兩大搜索巨頭強調了AI對廣告業(yè)務的促進作用。從這個角度來看，AI時代的商業(yè)模式很可能和互聯(lián)網(wǎng)時代一樣。那些因特網(wǎng)公司的廣告商仍然很有可能為ToC市場買單。

下一波備案可能是誰？

除了中國科學院自動化研究所的紫東太初，這是一個多模式模型，這次提出的備案產(chǎn)品大多是文學內容。然而，在6月20日發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理條例》備案算法清單中，百度的文學圖商品文學心臟已經(jīng)完成備案。

在安全性方面，雖然文生圖片通過圖片識別和prompt進行調整，但在技術上很容易限制不安全內容的生成，但在旗幟和地圖的生成等一些細節(jié)上仍然存在風險。

楊明覺得，在選擇備案公司的過程中，可能會考慮到公司成分的平衡。具有商業(yè)化企業(yè)、大學背景的企業(yè)、中科院等研究機構。另外，還要考察大型商品的能力。

在這個備案模型中，沒有備受關注的通義千問、訊飛星火和360智能大腦。在新華社研究院發(fā)布的《人工智能大模型體驗報告2.0》中，以上三款車型均位居國內主流大模型評價榜首，僅次于文心一言、商湯協(xié)商、智譜ChatGLM。

“在我看來，第一批備案模型，首先是考察能力和安全性，另一方面也可能考慮工業(yè)化因素。中國科學院自動化研究所主任劉昊表示，紫東太初的研發(fā)主要是基于自建的全棧產(chǎn)業(yè)化基礎軟件系統(tǒng)，在實踐過程中，使用的算率大多是基于華為升騰GPU的910和910b。

截至發(fā)稿時，登錄網(wǎng)信辦官方“因特網(wǎng)信息服務算法備案系統(tǒng)”，仍然只能查到6月20日發(fā)布的信息， “根據(jù)《互聯(lián)網(wǎng)信息服務深度合成管理條例》，國內深層生成服務算法備案信息公開發(fā)布”。根據(jù)上述消息，根據(jù)《生成人工智能服務管理暫行辦法》發(fā)布的備案算法名單仍然無法在系統(tǒng)中找到。

因特網(wǎng)信息服務算法備案系統(tǒng)

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com