專業(yè)社區(qū)關(guān)注大語言模型(LLM)如AlphaFold的發(fā)展,其預(yù)測蛋白質(zhì)結(jié)構(gòu)的能力為科研帶來革命,縮短新藥研發(fā)周期。谷歌DeepMind的Demis Hassabis憑借AlphaFold獲化學(xué)諾貝爾獎(jiǎng),展現(xiàn)AI在科學(xué)研究中的關(guān)鍵作用。AlphaFold-3的架構(gòu)創(chuàng)新和預(yù)測準(zhǔn)確性提升,使其能預(yù)測幾乎所有生命分子結(jié)構(gòu)。AI的進(jìn)步讓科研界思緒凌亂,考慮轉(zhuǎn)行搞AI。
前不久,OpenAI正式宣布獲得66億美元融資,估值達(dá)到1570億美元。由Thrive Capital、微軟、英偉達(dá)、軟銀、老虎全球基金、Altimeter Capital等聯(lián)合投資。
瑞典皇家科學(xué)院宣布2024年物理獎(jiǎng)?lì)C給了,兩位AI先驅(qū)Geoff Hinton和John Hopfield。兩位提出的Hopfield網(wǎng)絡(luò)、玻爾茲曼機(jī)器、神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、反向傳播算法、模仿人類大腦等技術(shù)概念。
美國俄克拉荷馬城警察Sgt. Matt Gilmore使用類ChatGPT產(chǎn)品Axon,將執(zhí)法記錄儀音頻轉(zhuǎn)換為文本報(bào)告,效率提升225倍。Axon利用AI提高警察工作效率,包括犯罪預(yù)防、案件處理、培訓(xùn)教育和心理健康支持。產(chǎn)品主管指出,Axon與ChatGPT技術(shù)相似,但更安全、可控。
標(biāo)普全球AI副總監(jiān)-AJ Smith便展示了與ChatGPT一起合唱披頭士的經(jīng)典歌曲《Eleanor Rigby》。整個(gè)演唱過程相當(dāng)絲滑,并且AI還會(huì)時(shí)不時(shí)的稱贊他幾句唱的很好。
OpenAI的首席技術(shù)官M(fèi)ira Murati宣布離開公司。Mira曾短暫擔(dān)任臨時(shí)CEO,對(duì)OpenAI有重要貢獻(xiàn)。她的離職意味著OpenAI原“四大天王”只剩Sam Altman。Mira表示離開是為了個(gè)人探索,她將確保平穩(wěn)過渡。Mira在OpenAI的工作包括領(lǐng)導(dǎo)ChatGPT、DALL-E等項(xiàng)目,推動(dòng)AI研究和應(yīng)用。
OpenAI首席執(zhí)行官Sam Altman討論了AI如何增強(qiáng)人類能力,預(yù)測未來將有超級(jí)智能。他強(qiáng)調(diào)深度學(xué)習(xí)作為AI技術(shù)的核心,以及算力、能源、數(shù)據(jù)和人類意志對(duì)開啟智能時(shí)代的重要性。Altman認(rèn)為,智能時(shí)代將帶來繁榮,解決氣候問題和太空殖民,但也需注意AI的潛在負(fù)面影響。
OpenAI還新增了自定義指令、語音記憶存儲(chǔ)、5種新聲音、語速以及新增了50多種語音(最初是40種),同時(shí)支持中文模式。
在行業(yè)競爭優(yōu)勢方面, 37% 的早期生成式AI使用者認(rèn)為,自己在市場和競爭對(duì)手中遙遙領(lǐng)先,而計(jì)劃者中這一比例僅為 11%。這表明早期使用者通過積極應(yīng)用生成式 AI,已經(jīng)取得了一定的競爭優(yōu)勢,并且相信這種優(yōu)勢將繼續(xù)擴(kuò)大。
目前,多數(shù)大模型的性能受限于其預(yù)訓(xùn)練階段所獲取的數(shù)據(jù)集,以及推理過程中的算力資源。研究人員發(fā)現(xiàn),可以通過更多的推理時(shí)間、自適應(yīng)(就是草莓的特殊延遲推理)來提升模型的性能,這種技術(shù)稱為——測試時(shí)計(jì)算(Test-time computation)。
OpenAI能拿到的資金上限是115億美元。本次投資者包括微軟、蘋果、英偉達(dá)、Thrive Capital等全球知名企業(yè),其估值比上一輪融資提升了1倍左右。
Siri已經(jīng)集成了OpenAI的ChatGPT(GPT-4o)功能,使其理解、生成、執(zhí)行能力更強(qiáng),例如,你在計(jì)劃一次旅行時(shí),想要了解目的地的景點(diǎn)推薦、美食特色、文化等,Siri 可以通過 ChatGPT 獲取豐富的信息更好的幫助你。
為了解決訓(xùn)練數(shù)據(jù)短缺和質(zhì)量差的難題,微軟研究院發(fā)布了一個(gè)專門用于生成高質(zhì)量合成數(shù)據(jù)的的AI Agent——Agent Instruct。
商湯科技等機(jī)構(gòu)聯(lián)合開源了百億級(jí)圖文交錯(cuò)數(shù)據(jù)集OmniCorpus,規(guī)模是現(xiàn)有數(shù)據(jù)集的15倍,包含86億張圖像和16,960億個(gè)文本標(biāo)記。OmniCorpus數(shù)據(jù)集在多語言、多類型數(shù)據(jù)抓取上進(jìn)行了優(yōu)化,提高了內(nèi)容提取的質(zhì)量和完整性。通過人工反饋和自動(dòng)過濾規(guī)則,確保了數(shù)據(jù)集的高質(zhì)量。在VQA和Image Captioning等測試中,基于OmniCorpus預(yù)訓(xùn)練的模型表現(xiàn)出色,對(duì)訓(xùn)練多模態(tài)大模型有重要幫助。
OpenAI正在進(jìn)行數(shù)十億美元融資,估值超過1000億美元,由Thrive Capital領(lǐng)投,微軟參與。資金將支持AI算力和日常運(yùn)營。自發(fā)布ChatGPT以來,OpenAI估值飆升,但財(cái)務(wù)狀況緊張,因?yàn)殚_發(fā)多個(gè)大模型如GPT-4和Sora等,導(dǎo)致巨大的算力和資源消耗。面對(duì)激烈的市場競爭,OpenAI急需資金支持以維持運(yùn)營和開發(fā)新產(chǎn)品。
文生圖片開源領(lǐng)域就殺出了一匹大黑馬—FLUX.1。性能大幅度超過了DALL·E-3、Midjourney V6閉源模型,開源SD3系列的Ultra、Medium、Turbo和SDXL被全線秒殺。
aiOla在Whisper的架構(gòu)之上進(jìn)行了修改采用了“多頭注意力”機(jī)制的并行計(jì)算方法,允許模型在每個(gè)推理步驟中預(yù)測多個(gè)token,同時(shí)不會(huì)損失性能和識(shí)別準(zhǔn)確率。
這個(gè)模型一般的GPU肯定是跑不起來,如此大的參數(shù)在部署方面?zhèn)人開發(fā)者也負(fù)擔(dān)不起(如果你有一些H100也沒問題),估計(jì)是給企業(yè)、政務(wù)公共部門用的。對(duì)于Meta即將發(fā)布的模型,就有網(wǎng)友潑冷水。相比OpenAI最新的GPT-4o mini版本,Llama 3.1-70B推理成本提升了3倍,但編碼的性能卻要差很多。
Numina一路披荊斬棘、過關(guān)斬將,在50道超難的數(shù)學(xué)競賽題中,其AI模型回答對(duì)了29道比第二名多出7道順利拿下第一名。