，當(dāng)下 GPT-4 模型最大的短板主要是算術(shù)能力，由于模型的邏輯推理能力尚待提升，因此即使是許多人認(rèn)為相對簡單的計算問題，GPT-4 卻無法得出正確的結(jié)果。

近日，新加坡國立大學(xué)研究者推出了 Goat 模型，稱該模型“專門用于算術(shù)問題”。研究人員表示“在對 LLaMA 模型進(jìn)行微調(diào)后，Goat 在算數(shù)上實(shí)現(xiàn)了比 GPT-4 更高的準(zhǔn)確度與更出色的性能”。

研究人員提出了一種新辦法，將任務(wù)根據(jù)算數(shù)的可學(xué)習(xí)型進(jìn)行分類，然后利用基本算術(shù)原理將不可學(xué)習(xí)的任務(wù)分解為一系列可以學(xué)習(xí)的任務(wù)后導(dǎo)入 AI 模型。

這種新方法可以令模型學(xué)習(xí)答題模式，并將過程泛化為看不見的數(shù)據(jù)，而非僅僅依靠純粹的“權(quán)重記憶計算”，因此能夠有效地提高算數(shù)性能，可以在零樣本學(xué)習(xí)中以“近乎完美的精度”為大數(shù)加法和減法生成答案。

研究人員在具備 24 GB 顯存的 GPU 上進(jìn)行訓(xùn)練，并將最終得到的模型使用 BIG-bench 算數(shù)子任務(wù)進(jìn)行測試，準(zhǔn)確率結(jié)果較為出眾，領(lǐng)先于業(yè)內(nèi)的 Bloom、GPT-NeoX、OPT 等模型。其中零樣本的 Goat-7B 的準(zhǔn)確率甚至一度超過了少樣本學(xué)習(xí)后的 PaLM-540 模型，在大數(shù)計算方面遠(yuǎn)超 GPT-4。

IT之家的小伙伴們可以在這里找到論文的鏈接。