傑愛得資訊 jumpAD
0800-000-964

受《快思慢想》啟發,Google新技術使Bard數學能力上升30%

取自:iThome
您好,我們是傑愛得資訊,歡迎來到我們的媒體聯播網

受《快思慢想》啟發,Google新技術使Bard數學能力上升30%


文/李建興 | 2023-06-08發表

大型語言模型擁有強大的語言處理能力,但是在數學與推理能力仍有很大的進步空間,因此大型語言模型開發商現在的研究目標之一,便是提升模型的邏輯和推理能力。Google的新研究便是使用一種稱為隱式程式碼執行(Implicit Code Execution)的技術,來強化語言模型的數學運算能力。

大型語言模型在收到提示詞後,便會預測接下來可能出現的單詞生成回應,語言模型在語言和創造性任務能力很好,但是在推理和數學領域能力卻很弱,研究人員提到,要讓大型語言模型能夠處理進階推理和邏輯問題,不能只仰賴原本大型語言模型的輸出。

Google新方法的靈感,來自諾貝爾經濟學獎得主丹尼爾康納曼的知名著作《快思慢想》,書中將人類思維分成系統一與系統二兩個模式,系統一處理直覺且情緒化的思考,系統二則是具邏輯的理性思考。

下方繼續閱讀
曝光6,789/日 成本100/月
下文請點廣告解鎖
下文請點廣告解鎖
投放Google多媒體聯播網廣告(點此)arrow_downward,包含轉換代碼安裝

※ 如果看到投資類型廣告,請再三評估風險!

繼續閱讀keyboard_double_arrow_down
研究人員表示,原本大型語言模型的輸出,接近人類系統一的思考,可以快速生成文字,但沒有經過深入思考,因此常會生成一些意料之外的輸出。系統一的思考沒有辦法解決數學問題,數學問題更需要公式化,遵循正確步驟推理和計算,所以需要仰賴系統二的思考。

而新添加的隱式程式碼執行則是扮演系統二思考的角色,讓Bard能夠同時擁有系統一和系統二的思考能力。Bard現在會辨識可能需要邏輯思考的指令詞,並在後臺執行計算程式碼,以產生更精確的輸出。根據Google內部的測試,在加入隱式程式碼執行技術後,Bard在計算和數學的回答準確性提高30%。

因此Bard現在可以計算出像是15683615的質因數、儲蓄成長率或是反轉英文單字字母排序等問題,但研究人員提到,Bard還有很多改進的空間,像是Bard現在可能不會產生程式碼解決問題,也可能產生錯誤的程式碼,或是不會在回應中包含已執行的程式碼。

OpenAI最近也發表了一篇新的研究論文,目的是要提升大型語言模型的推理能力,使其能夠更好地解決數學領域的問題。OpenAI使用一種稱為過程監督的訓練方法,透過獎勵過程中每個正確步驟的推理,驅使模型人工遵循人類的思考模式,產生更可靠的結果。OpenAI的新方法在MATH測試集中試驗,顯示過程監督能使模型解決接近80%的測試集問題。
點此投放Google多媒體聯播網廣告
※ 如果看到投資類型廣告,請再三評估風險!
post_add 資料來源:iThome
本文相關:
智能管家
智能喇叭
智能音箱
Assistant
Google語音助理
Google助理
Google 助理
智慧家庭
AI語音助理
語音助理
AI服飾助理
LaMDA
Bard
Open AI
ChatGPT
機器學習
Gemini
AI
AI
Vertex
LLM
Transformer
LaMDA
人工智
語言模型
ML
深度學習
gpt
GPT
Google Assistant
智能
智慧
谷歌音箱
谷歌助理
LM

傑愛得資訊領先業界

國際認證獎項報導
我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊
─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

bookmark_star 查看資歷
傑愛得資訊 顧問諮詢報價
公司/姓名
頭銜/稱謂
e-mail
LINE id
公司資本額
大約預算
聯繫語言
網路行銷
Google Ads
最高成效廣告
智慧廣告
探索廣告
APP 宣傳廣告
交給顧問評估規畫
Yahoo Ads
交給顧問評估規畫
Microsoft Ads
關鍵字廣告(原Yahoo 關鍵字)
網路系統
雲服務專案
諮詢/備註
※本公司與全城通律法律顧問合作,以上服務皆遵守法律規範。
jumpAD 吉傳媒 PFP Next Erene Design 懿坊飾品 三分糖手作中品牌故事
🤫 悄悄說: