每經(jīng)編輯 杜宇
當(dāng)?shù)貢r(shí)間12月20日周五,在為期12個(gè)工作日的線上新品發(fā)布活動(dòng)最后一日,OpenAI宣布了“壓軸大作”:o1的下一代模型o3,而且一開(kāi)始就要推出兩個(gè)版本,一個(gè)正式的o3,還有一個(gè)相對(duì)較小的精簡(jiǎn)版o3-mini。
OpenAI的CEO Sam Altman在直播中提到,OpenAI本次12日的活動(dòng)第一天官宣了上線正式版o1、所謂滿血o1?;顒?dòng)最后一天又有o3亮相,首尾都由介紹推理模型呼應(yīng),也算是一種精心設(shè)計(jì)。
邏輯上說(shuō),o1的下一代應(yīng)該命名為o2,至于為什么新模型叫o3,之前報(bào)道稱,OpenAI是為了避免和名為O2的英國(guó)電信服務(wù)商沖突。Altman也確認(rèn)了這點(diǎn),說(shuō)出于對(duì)O2的尊敬,并沒(méi)有起同樣的名字。
直播中,Altman稱o3是“一個(gè)非常、非常聰明的模型”。OpenAi的評(píng)估結(jié)果也顯示,無(wú)論在軟件工程、編寫(xiě)代碼,還是競(jìng)賽數(shù)學(xué)、掌握人類博士級(jí)別的自然科學(xué)知識(shí)能力方面,o3都明顯高出o1一籌。同時(shí)測(cè)試顯示,o3在OpenAI實(shí)現(xiàn)通用人工智能(AGI)這一奮斗目標(biāo)上取得了突破,最高的測(cè)試成績(jī)達(dá)到了類人水平。
今年9月,OpenAI發(fā)布o(jì)1的預(yù)覽版o1 preview時(shí)稱,o1是第一個(gè)具備真正通用推理能力的大模型,它的核心能力推理在測(cè)試化學(xué)、物理和生物學(xué)專業(yè)知識(shí)的基準(zhǔn)GPQA-diamond上得到了充分體現(xiàn)。據(jù)OpenAI評(píng)估,o1在該測(cè)試中全面超過(guò)了人類博士專家,準(zhǔn)確率達(dá)到78.3%,而人類專家的得分為69.7%。
在12月20日的直播中,OpenAI展示了o3的測(cè)評(píng)表現(xiàn):
根據(jù)OpenAI8月推出的SWE-bench Verified代碼生成評(píng)估基準(zhǔn),在軟件工程的能力測(cè)評(píng)中,o3的準(zhǔn)確度得分71.7,即準(zhǔn)確率71.7%,遠(yuǎn)超得分48.9的o1和得分41.3的o1 preview。也就是說(shuō),o3的準(zhǔn)確率比o1正式版高將近47%,比o1預(yù)覽版高將近74%。
在競(jìng)爭(zhēng)性編程網(wǎng)站Codeforces的競(jìng)爭(zhēng)性代碼測(cè)評(píng)中,o3取得2727的Elo評(píng)分,o1評(píng)分1891,o1 preview評(píng)分1258。這個(gè)測(cè)評(píng)結(jié)果顯示,競(jìng)爭(zhēng)性代碼方面,o3的評(píng)分比o1正式版高44%,是o1預(yù)覽版的兩倍多。
經(jīng)過(guò)2024年AIME數(shù)學(xué)競(jìng)賽的題目測(cè)試,o3的準(zhǔn)確度得分為96.7、即準(zhǔn)確率96.7%,大幅度超過(guò)了o1預(yù)覽版的56.7和o1的83.3%,僅錯(cuò)了一道題,相當(dāng)于一名頂級(jí)數(shù)學(xué)家的水平。從競(jìng)賽數(shù)學(xué)的角度看,o3的準(zhǔn)確率比o1正式版高15%,比o1預(yù)覽版高近71%。
以人類博士專家的測(cè)試考驗(yàn),在測(cè)試化學(xué)、物理和生物學(xué)專業(yè)知識(shí)的基準(zhǔn)GPQA-diamond上,o3的準(zhǔn)確度得分為87.7,即準(zhǔn)確率87.7%,o1和o1 preview分別得分78.0和78.3。o3的準(zhǔn)確率比o1高將近13%,比o1預(yù)覽版高12%。
OpenAI周五還展示了,o3的推理能力已經(jīng)更加接近實(shí)現(xiàn)AGI。
以100%為最高分的ARC-AGI評(píng)估結(jié)果顯示,o1的得分在25%到32%,而o3的最低成績(jī)?yōu)?5.7%,最高成績(jī)?yōu)?7.5%。從這個(gè)結(jié)果看,o3的最佳成績(jī)超過(guò)了標(biāo)志著達(dá)到人類水平的門檻85%。
創(chuàng)始ARC-AGI標(biāo)準(zhǔn)的前谷歌高級(jí)工程師、AI研究員Fran?ois Chollet表示,OpenAI這些推理模型在AGI測(cè)試中取得進(jìn)步是“穩(wěn)健的”。
Chollet周五在社交媒體X發(fā)帖,公布了同OpenAI合作進(jìn)行的ARC-AGI測(cè)試結(jié)果,稱“我們相信這代表了讓AI適應(yīng)新任務(wù)的重大突破?!?/p>
與o3模型相比,o3Mini模型在性能與成本平衡方面表現(xiàn)出色,能夠以較低的成本提供高效的服務(wù)。
在編碼評(píng)估方面,o3Mini模型展現(xiàn)出了出色的性能提升。在CodeForces的評(píng)估中,隨著思考時(shí)間的增加,o3Mini模型的表現(xiàn)不斷提升,逐漸超越了o1Mini模型。
在中位思考時(shí)間下,o3Mini模型的性能甚至優(yōu)于o1模型,能夠以大約一個(gè)數(shù)量級(jí)的更低成本提供相當(dāng)甚至更好的代碼性能。這意味著開(kāi)發(fā)人員可以在不增加過(guò)多成本的情況下,獲得更高效的編程輔助,提高開(kāi)發(fā)效率,降低開(kāi)發(fā)成本。
在數(shù)學(xué)能力測(cè)試中,o3Mini模型在2024年數(shù)據(jù)集上表現(xiàn)出色。o3Mini低模型的性能與o1Mini相當(dāng),而o3Mini中位數(shù)模型則取得了比o1更好的性能。在處理諸如GPQA等困難數(shù)據(jù)集時(shí),o3Mini模型也能展現(xiàn)出一定的優(yōu)勢(shì),實(shí)現(xiàn)了接近即時(shí)響應(yīng)的效果。
此外,o3Mini模型支持函數(shù)調(diào)用、結(jié)構(gòu)化輸出、開(kāi)發(fā)者消息等一系列功能,與O1模型相當(dāng)。在實(shí)際應(yīng)用中,o3Mini模型在大多數(shù)評(píng)估中實(shí)現(xiàn)了可比或更好的性能。
在現(xiàn)場(chǎng)演示中,o3Mini模型的強(qiáng)大功能得到了直觀展示。例如,在一項(xiàng)任務(wù)中,模型被要求使用Python實(shí)現(xiàn)一個(gè)代碼生成器和執(zhí)行器。當(dāng)啟動(dòng)運(yùn)行該P(yáng)ython腳本后,模型成功啟動(dòng)了本地服務(wù)器,并生成了包含文本框的用戶界面。
用戶在文本框中輸入編碼請(qǐng)求后,模型能夠迅速將請(qǐng)求發(fā)送至API,并自動(dòng)解決任務(wù),生成代碼并保存至桌面,隨后自動(dòng)打開(kāi)終端執(zhí)行代碼。整個(gè)過(guò)程復(fù)雜且涉及大量代碼處理,但o3 Mini模型在低推理努力模式下依然表現(xiàn)出了極快的處理效率。
雖然o3的測(cè)評(píng)看上去表現(xiàn)驚艷,但OpenAI應(yīng)該不會(huì)很快面向大眾上線這款新的超級(jí)推理模型。
從12月20日開(kāi)始,OpenAI允許安全研究人員可以注冊(cè)訪問(wèn)o3 和 o3-mini的預(yù)覽。OpenAI的一名發(fā)言人稱,OpenAI計(jì)劃明年初正式發(fā)布這些新的o3模型。
每日經(jīng)濟(jì)新聞綜合公開(kāi)資料
ChatGPT新增功能“Projects”,OpenAI演示出現(xiàn)AGI文件夾,炒作新高度?
OpenAI據(jù)稱擬取消與微軟的AGI限制條款 以吸引更多投資
民生證券:Open AI發(fā)布系列新品 關(guān)注AI模型的持續(xù)迭代
O1意義被大大低估!OpenAI核心科學(xué)家重磅發(fā)聲:測(cè)試時(shí)計(jì)算將引爆AGI時(shí)代!
OpenAI王炸又一波:期待已久的超級(jí)視頻模型Sora來(lái)了
7777788888精準(zhǔn)_核心落實(shí)_最佳精選_VS219.129.169.81
2024年一肖一碼一中一特,最佳精選解釋落實(shí)_Android256.184
澳門一碼一肖一特一中管家婆,最佳精選解釋落實(shí)_ios2.97.118
還沒(méi)有評(píng)論,來(lái)說(shuō)兩句吧...