同樣是動(dòng)畫拖劇情,四大民工漫做法不同,海賊靠水,火影靠回憶!|今日看點(diǎn)
2023-06-24 16:19:49
(資料圖片)
資料來源:arXiv等
作者:詹士 Enzo
物聯(lián)網(wǎng)智庫(kù) 原創(chuàng)
導(dǎo)讀
史無前例的嘗試!科學(xué)家已經(jīng)開始使用ChatGPT設(shè)計(jì)芯片了。生成式人工智能正在迅速拓寬其應(yīng)用邊界,你可能以為它還只是一個(gè)聊天機(jī)器人,實(shí)際上,生成式AI已經(jīng)能“造”芯片了。近日,紐約大學(xué)坦登工程學(xué)院的研究人員通過與AI“對(duì)話”,首次實(shí)現(xiàn)了由人工智能來設(shè)計(jì)一種微處理器芯片。該團(tuán)隊(duì)用“史無前例”描述此項(xiàng)研究。據(jù)稱,這項(xiàng)成果的發(fā)布表明——生成式人工智能在硬件設(shè)計(jì)領(lǐng)域具備極高的潛在應(yīng)用價(jià)值,這不僅會(huì)對(duì)整個(gè)半導(dǎo)體芯片的研發(fā)起到加速作用,同時(shí)意味著“高不可攀”的半導(dǎo)體芯片設(shè)計(jì)門檻也會(huì)降低,甚至并非專門擁有該領(lǐng)域技術(shù)技能的人也可以參與其中。作為參與者之一,紐約大學(xué)坦登工程學(xué)院電氣與計(jì)算機(jī)工程系、紐約大學(xué)網(wǎng)絡(luò)安全中心助理教授哈蒙德?皮爾斯博士(Dr. Hammond Pearce)自己坦言,“我根本不是芯片設(shè)計(jì)專家,這是我設(shè)計(jì)的第一塊芯片,這也正是為什么我覺得它會(huì)如此令人印象深刻的原因。”目前該項(xiàng)研究已經(jīng)發(fā)布在arxiv預(yù)印本平臺(tái)上,論文題為ChipChat:對(duì)話式硬件設(shè)計(jì)的機(jī)遇與挑戰(zhàn)。在論文中,研究團(tuán)隊(duì)展示了兩名硬件工程師如何通過用英語(yǔ)與GPT-4“交流”,進(jìn)而設(shè)計(jì)出新型微處理架構(gòu)并送去制造的過程。他們到底如何完成ChipChat項(xiàng)目研究的?一起來看看。一個(gè)“好奇”翻開了生成式AI的另一面
ChipChat項(xiàng)目的啟動(dòng)或許只是源于一個(gè)“好奇”。人工智能潮涌下,多數(shù)人對(duì)于大語(yǔ)言模型(LLM)的理解仍然停留在“好玩”,但皮爾斯博士顯然并不這么認(rèn)為。ChipChat項(xiàng)目就是要探索——現(xiàn)有的生成式AI大語(yǔ)言模型在硬件設(shè)計(jì)領(lǐng)域的能力和局限性。一般來說,開發(fā)任何類型的硬件,包括芯片在內(nèi),都需要從常用語(yǔ)言的需求描述開始,然后通過需求對(duì)接,再讓專業(yè)的工程師用適合開發(fā)的語(yǔ)言對(duì)硬件進(jìn)行描述。在上述過程中,我們需要將自然語(yǔ)言描述轉(zhuǎn)換成硬件描述語(yǔ)言 (HDL),比如Verilog,這使得只有少數(shù)經(jīng)多年培訓(xùn)的工程師才能上手。ChipChat項(xiàng)目正是面向該問題探索解決途徑。為此,研究團(tuán)隊(duì)計(jì)劃先通過對(duì)話的方式讓AI生成相應(yīng)代碼,然后對(duì)代碼加以檢驗(yàn),直到確認(rèn)無誤后,他們?cè)賹⒕帉懙腣erilog交付工廠進(jìn)行生產(chǎn);基于上述思路,他們用提示詞一同測(cè)試了OpenAI旗下ChatGPT的4和3.5版,以及谷歌的Bard和HuggingChat一共4種生成式對(duì)話AI,通過對(duì)話方式提供提示詞,讓它們?cè)O(shè)計(jì)一個(gè)8位移位寄存器。這4個(gè)大語(yǔ)言模型均為近期熱門角色,其中,GPT-4發(fā)布于今年3月份,3.5版本的推出時(shí)間是在去年11月。HuggingChat是來自Huggingface平臺(tái)的開源對(duì)話模型,推出時(shí)間為今年4月。初步測(cè)試顯示,Bard和HuggingChat兩個(gè)模型在測(cè)試中對(duì)話生成設(shè)計(jì)一直未能滿足設(shè)計(jì)要求,研究團(tuán)隊(duì)嘗試5次仍未能達(dá)標(biāo)。相比下,兩個(gè)版本ChatGPT的設(shè)計(jì)初步滿足了設(shè)計(jì)規(guī)格要求。即便發(fā)生錯(cuò)誤,經(jīng)過調(diào)試,ChatGPT亦能自行調(diào)整代碼,以達(dá)到人類要求:更進(jìn)一步,研究團(tuán)隊(duì)讓兩個(gè)版本的ChatGPT面向更多需求進(jìn)行相關(guān)設(shè)計(jì),再依靠模擬反饋結(jié)果進(jìn)行調(diào)試。這其中,“NFN”為無需反饋直接完成任務(wù);“TF”指的是AI依據(jù)機(jī)器運(yùn)行結(jié)果反饋,最終調(diào)整好了結(jié)果;“SHF”及“AHF”,為簡(jiǎn)單與復(fù)雜的人類反饋指導(dǎo)下AI完成了任務(wù);倘若會(huì)話超過25條消息或需要人類上手,則視為失敗,即“FAIL”。具體如下圖。能看出GPT-4表現(xiàn)明顯好于更早版本,面對(duì)諸多基準(zhǔn)測(cè)試失敗情況很少,且對(duì)話輪數(shù)也明顯少于GPT-3.5。在前面基礎(chǔ)上,研究者們通過124次對(duì)話成功讓GPT-4設(shè)計(jì)出一個(gè)8位累加器微處理器,經(jīng)由Skywater 130nm shuttle進(jìn)行制造。團(tuán)隊(duì)聲稱,這項(xiàng)研究標(biāo)志著大語(yǔ)言模型設(shè)計(jì)的 IC 首次真正投入生產(chǎn)。但值得一提的是,即便表現(xiàn)最好的GPT-4仍然耗費(fèi)了研究者很多時(shí)間調(diào)試、不斷給提示詞,有的代碼生成了數(shù)十次。且研究者承認(rèn),目前如果沒有人類提示,AI還不能獨(dú)立進(jìn)行芯片設(shè)計(jì),但作者仍然認(rèn)為,它可以在設(shè)計(jì)通用模塊時(shí)節(jié)省工程師們的時(shí)間。此外,他們還需要進(jìn)一步測(cè)試來識(shí)別和解決 AI 用于芯片設(shè)計(jì)所涉及的安全問題。生成式AI應(yīng)用于芯片設(shè)計(jì)并非首次
介紹下本文的作者們。哈蒙德?皮爾斯博士是紐約大學(xué)坦登工程學(xué)院電氣與計(jì)算機(jī)工程系、紐約大學(xué)網(wǎng)絡(luò)安全中心的研究助理教授,主攻方向?yàn)樾畔⑽锢硐到y(tǒng)(cyber-physical systems,CPS)及其網(wǎng)絡(luò)安全,同時(shí)兼顧研究機(jī)器學(xué)習(xí)在該領(lǐng)域設(shè)計(jì)和應(yīng)用中潛在的影響。除了前述提到的皮爾斯博士,ChipChat項(xiàng)目的其他成員也均來自于紐約大學(xué)坦登工程學(xué)院,包括拉梅什·卡里教授(Ramesh Karri)、研究所副教授希達(dá)赫·加爾格(Siddharth Garg)和博士生杰森·布洛克洛夫(Jason Blocklove)。拉梅什?卡里教授是洪堡獎(jiǎng)學(xué)金的獲得者(the recipient of the Humboldt Fellowship)和美國(guó)國(guó)家科學(xué)基金會(huì)職業(yè)將獲得者(the National Science Foundation CAREER Award),在紐約大學(xué)坦登工程學(xué)院電氣和計(jì)算機(jī)工程系任教授。迄今為止,他已經(jīng)發(fā)布期刊和會(huì)議出版物超200件,包括多次在IEEE上發(fā)表署名文章。希達(dá)赫?加爾格在紐約大學(xué)坦登工程學(xué)院ECE研究所任副教授一職,其研究方向是機(jī)器學(xué)習(xí)、網(wǎng)絡(luò)安全和計(jì)算機(jī)硬件設(shè)計(jì)。2015年,Siddharth Garg獲得美國(guó)國(guó)家科學(xué)基金會(huì)職業(yè)獎(jiǎng)。同時(shí),他在計(jì)算機(jī)工程和計(jì)算機(jī)硬件領(lǐng)域的多個(gè)頂級(jí)會(huì)議的技術(shù)計(jì)劃委員會(huì)任職,并擔(dān)任IEEE和ACM多個(gè)期刊的審稿人。以上大牛們的嘗試雖然聽起來新潮,但事實(shí)上將AI應(yīng)用于包括芯片在內(nèi)的硬件設(shè)計(jì)已經(jīng)并非一個(gè)新概念。早在2021年時(shí),谷歌團(tuán)隊(duì)曾發(fā)布論文《A graph placement methodology for fast chip design》,其中就介紹了一種用于芯片版面規(guī)劃的深度強(qiáng)化學(xué)習(xí)方案。通過該方法自動(dòng)進(jìn)行芯片版面規(guī)劃,所需時(shí)間可以壓縮到6小時(shí)以內(nèi),且設(shè)計(jì)出來的芯片在關(guān)鍵指標(biāo),如功耗、性能以及芯片面積等,均可相媲美人類設(shè)計(jì)的產(chǎn)品,甚至有過之而無不及。彼時(shí),該團(tuán)隊(duì)還透露這一方法將會(huì)用在設(shè)計(jì)下一代人工智能加速器上,并且相比人類成果而言,可為每代加速器設(shè)計(jì)節(jié)省數(shù)千小時(shí)。除了谷歌之外,英偉達(dá)、三星、新思、Cadence等都在積極探索如何用深度強(qiáng)化學(xué)習(xí)設(shè)計(jì)芯片電路。在英偉達(dá)相關(guān)研究人員發(fā)布的論文《PrefixRL:Optimization of Parallel Prefix Circuits using Deep Reinforcement Learning》中提出了PrefixRL,該方法不僅證明AI可以從頭開始設(shè)計(jì)電路,而且比EDA工具設(shè)計(jì)的更小、更快。在英偉達(dá)最新的Hopper架構(gòu)中,就擁有13000個(gè)AI設(shè)計(jì)的電路的實(shí)例。值得補(bǔ)充的是,人工智能三巨頭之一的LeCun最近在連線智源大會(huì)演講中,重申了自己一如既往的觀點(diǎn):“基于自監(jiān)督的語(yǔ)言模型無法獲得關(guān)于真實(shí)世界的知識(shí)”。他繼續(xù)補(bǔ)充道:“人類有許多知識(shí)是目前無法被語(yǔ)言系統(tǒng)所觸達(dá)的”。由此可見,對(duì)話AI到底能不能參與芯片及硬件設(shè)計(jì),目前還未達(dá)成共識(shí)。參考資料:1.《Chip-Chat: Challenges and Opportunities in Conversational Hardware Design》,Jason Blocklove, Siddharth Garg, Ramesh Karri, Hammond Pearce
2.《Chip Chat: Conversations with AI models can help create microprocessing chips, NYU Tandon researchers discover》,NYU TANDON
3.《Exclusive Interview: NYU Team Taps ChatGPT to Design Processor From Scratch》,Jake Hertz
點(diǎn)擊圖片即可跳轉(zhuǎn)報(bào)告鏈接關(guān)鍵詞:
關(guān)于本站 管理團(tuán)隊(duì) 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息
Copyright © 2005-2023 創(chuàng)投網(wǎng) - www.ossf.org.cn All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號(hào)-3