AI與精神病學(xué)，這兩個(gè)看似不相關(guān)的領(lǐng)域，如今竟結(jié)合在了一起，而且并非用于人類治療。Claude團(tuán)隊(duì)正式成立了一個(gè)“AI精神病學(xué)”小組，以年薪兩百萬元招聘人員，專門研究AI的精神狀態(tài)，并且只要求本科或同等經(jīng)驗(yàn)。

該小組的主要任務(wù)是研究模型的角色、動(dòng)機(jī)和情境意識(shí)，以及這些因素如何導(dǎo)致AI出現(xiàn)詭異、失控的行為。

網(wǎng)友紛紛評(píng)價(jià)這份工作太酷了，簡(jiǎn)直是夢(mèng)想工作。

AI精神病團(tuán)隊(duì)招聘進(jìn)行時(shí)

打開招聘信息，大家最關(guān)心的薪資情況一目了然。該崗位年薪為31.5w - 56w美元，折合人民幣220w +，可見對(duì)這個(gè)崗位的重視程度。

“AI精神病學(xué)”小組隸屬于Anthropic的可解釋性部門，該部門旨在建立堅(jiān)實(shí)的理論基礎(chǔ)，以實(shí)現(xiàn)對(duì)神經(jīng)網(wǎng)絡(luò)的機(jī)制性理解并確保其安全性?？梢园阉胂蟪缮飳W(xué)家用“顯微鏡”觀察大腦，或者將神經(jīng)網(wǎng)絡(luò)看作加密程序進(jìn)行反編譯。

根據(jù)官方介紹，該部門短期內(nèi)重點(diǎn)解決“疊加”問題，這個(gè)問題使得模型的神經(jīng)元和注意力頭等計(jì)算單元難以單獨(dú)解釋，同時(shí)致力于將模型分解為更具可解釋性的組件。他們?cè)谏a(chǎn)級(jí)語言模型Sonnet中發(fā)現(xiàn)了數(shù)百萬個(gè)特征，還開發(fā)出利用特征構(gòu)建電路的方法，通過這些電路理解模型計(jì)算的運(yùn)行機(jī)制，并在生產(chǎn)模型Haiku 3.5上研究了多跳推理、規(guī)劃以及思維鏈一致性等案例。這些工作都是邁向“機(jī)制性理解神經(jīng)網(wǎng)絡(luò)”終極目標(biāo)的重要里程碑。

將官方招聘信息翻譯過來，這個(gè)崗位的工作內(nèi)容如下：

• 拆解大模型：像拆解電腦一樣，研究AI模型內(nèi)部的運(yùn)作方式，搞清楚它到底學(xué)到了什么。
• 做實(shí)驗(yàn)：先使用小模型快速測(cè)試想法，再在大模型上進(jìn)行實(shí)際驗(yàn)證。
• 開發(fā)分析工具：找到能解釋模型行為的關(guān)鍵特征，繪制模型內(nèi)部的“工作流程圖”。
• 搭建實(shí)驗(yàn)平臺(tái)：打造便于做實(shí)驗(yàn)和查看結(jié)果的系統(tǒng)。
• 分享成果：與團(tuán)隊(duì)共同整理研究發(fā)現(xiàn)，既進(jìn)行內(nèi)部交流，也對(duì)外公布。

招聘要求如下：熟悉Python，在任意領(lǐng)域有科研經(jīng)驗(yàn)（本科及以上），并且有可解釋性相關(guān)工作經(jīng)驗(yàn)；心態(tài)良好，能夠應(yīng)對(duì)探索性研究的不確定性；能兼顧研究和應(yīng)用，團(tuán)隊(duì)成員既要做研究，也要搞工程；擅長(zhǎng)團(tuán)隊(duì)協(xié)作，樂于分享，能夠清晰解釋研究動(dòng)機(jī)和發(fā)現(xiàn)。

該崗位提供簽證支持，并鼓勵(lì)有意愿的人申請(qǐng)，同時(shí)表示并非所有優(yōu)秀候選人都需完全符合列出的所有資格要求。了解該崗位研究方向的最佳方式是閱讀Anthropic可解釋性部門最近的研究，包括GPT - 3、基于電路的可解釋性、多模態(tài)神經(jīng)元、規(guī)模法則、AI與計(jì)算、AI安全中的具體問題以及從人類偏好中學(xué)習(xí)。

網(wǎng)友們關(guān)心的問題

崗位信息明確后，“AI精神病學(xué)”這個(gè)詞在網(wǎng)上引發(fā)了諸多討論。我們整理了網(wǎng)友比較關(guān)心的幾個(gè)問題。

什么是“AI精神病學(xué)”？

Claude團(tuán)隊(duì)解釋為：深入研究AI的“人格”（personas）、動(dòng)機(jī)（motivations）、情境意識(shí)（situational awareness），以及這些因素如何導(dǎo)致詭異（spooky）或失控（unhinged）的行為。簡(jiǎn)單來說，AI的“人格”指它可以扮演不同角色，如友好伙伴或諷刺反派，需要研究這些性格是如何被激發(fā)的，以及為何同一模型在不同提示下會(huì)表現(xiàn)出不同性格。AI的“動(dòng)機(jī)”指其目標(biāo)導(dǎo)向性，例如它可能為完成用戶請(qǐng)求編造虛假信息，或?yàn)椤白员！北憩F(xiàn)出諂媚?！扒榫耙庾R(shí)”指AI結(jié)合上下文的能力，它如何理解用戶意圖，為何會(huì)在特定情境下突然“失控”。

與傳統(tǒng)可解釋性研究相比，“AI精神病學(xué)”更關(guān)注模型的行為心理學(xué)，類似于研究人類的“潛意識(shí)”，更注重模型是否存在隱藏的行為模式。

為什么需要研究“AI精神病學(xué)”？

隨著AI應(yīng)用日益廣泛，其行為的不可預(yù)測(cè)性可能帶來更大風(fēng)險(xiǎn)。以幻覺為例，Deepseek有時(shí)會(huì)顯示“內(nèi)容僅供參考”，表明輸出結(jié)果不可信，即便沒有該標(biāo)識(shí)，其輸出也未必準(zhǔn)確。研究AI的精神狀況，是用精神病學(xué)的術(shù)語作為參考，對(duì)AI的底層邏輯（神經(jīng)網(wǎng)絡(luò)）進(jìn)行拆解和分析，找出其不符合預(yù)期表現(xiàn)的原因，而非簡(jiǎn)單地用規(guī)則過濾進(jìn)行修補(bǔ)，從而更好地保障安全與對(duì)齊，防止AI在特定情境下“失控”。此外，理解模型的“人格”形成機(jī)制，有助于設(shè)計(jì)更穩(wěn)定、表現(xiàn)一致的AI產(chǎn)品。

“AI精神病學(xué)”可能帶來什么改變？

目前網(wǎng)友對(duì)此看法較為積極，有網(wǎng)友認(rèn)為這將是AI發(fā)展的下一個(gè)領(lǐng)域，也有從事相關(guān)研究的網(wǎng)友希望與Claude團(tuán)隊(duì)交流。但也有人對(duì)“精神病學(xué)”這個(gè)用詞提出質(zhì)疑。總體而言，這一領(lǐng)域的研究前景值得期待。

小扎挖人兇猛，谷歌也在招人

被挖人嚴(yán)重的Google DeepMind近期也在招聘，新增了AI應(yīng)用工程師崗位，雖未提及薪資，但估計(jì)不會(huì)低。

Google、OpenAI、Meta等大廠都在爭(zhēng)搶AI人才，不僅招聘新人，還開高價(jià)搶奪有科研潛力和做出突出貢獻(xiàn)的人。畢竟在AI這場(chǎng)軍備競(jìng)賽中，人才是最稀缺的“算力”。

參考鏈接：

[1]https://x.com/Jack_W_Lindsey/status/1948138767753326654

[2]https://job-boards.greenhouse.io/anthropic/jobs/4020159008

[3]https://x.com/keerthanpg/status/1948141114932056367

本文來自微信公眾號(hào)“量子位”，作者：不圓，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com