世界最強開源AI?Reflection 強勢碾壓GPT-4o!

TechDL
11粉絲
2 次觀看·2024年9月6日
今天我們測試了號稱世界最強的開源大語言模型——Reflection。它基於LLaMA 3.1-70B訓練,不僅性能碾壓LLaMA 3.1的405B版本,還在很多評測中超過了GPT-4!這個模型真的有這麼強嗎?我們一起來看看它的實際表現!
大家好今天呢
出了一個
號稱世界最強的開源大語言模型
也就是呢這個70B的reflection大模型
這個模型呢
它是經與llama3.1 70B訓練出來的
但是呢它的性能呢
不僅可以超過405B的llama3.1
甚至呢在很多評測上超過了GPT-4o
那真的有這麼厲害嗎
那咱們這個視頻呢就來體驗一下
看看他的表現
在ollama上呢已經有這個模型了
我們可以通過這個pull命令呢
把它下載下來
它的大小呢是39個g
如果你無法運行的話呢
建議你升級一下這個ollama
我們用ollama run reflection來啓動一下
首先我問一下你好
然後你可以看到
他首先呢輸出了一個thinking
也就是呢他在回答之前呢先進行思考
他這的思考呢
是我看到了一箇中文問候語
對的應該回復一個友好的問候
然後呢他的output當中呢就輸出了你好
這個output中呢纔是他的回答
然後呢我又問了一個今天是星期幾
他是這麼思考的
我需要知道當前日期
才能確定呢今天是星期幾
那由於我是一個AI模型
我不具有實時獲取當前日期的能力
但是呢我可以提供一個通用的回答
然後呢他就回答說今天是星期幾呢
可以查看你的日曆或者手機
來查明今天是星期幾
它這個模型呢不僅具有thinking的功能
還擁有呢反思的功能
這個反思呢
就是反思
這個thinking當中的一些出現的問題
我們來看一下
下面這個例子
下面這個例子當中呢
我讓他解釋一下什麼是ollama
我們看一下他是如何進行思考的
我正在搜索我的數據庫和知識圖譜呢
來了解這個ollama這個詞彙
似乎呢這個詞不是一個常見的單詞
我需要更多的信息來確定其含義
下面呢他馬上就輸出了一個
reflection的一個標記
這裏面寫的呢是等一下
我可能需要更多的上下文案
來理解這個詞彙
可以請你提供更多
關於ollama的信息或背景嗎
你看他上面思考的時候呢
他說他需要更多的信息來確定含義
但是在反思的時候呢
他希望讓我來提供
關於這個ollama的信息和背景
從這就可以看出來
他比上面thinking當中的就更進一步了
他最後的回答呢是抱歉
我不太清楚ollama是什麼意思
如果你能提供更多的信息和背景
我將盡力給你解釋其含義
看起來他這個模型的這種反應方式呢
也是基於思維練的一種方式
來訓練出來的
當用戶提問一個問題的時候呢
他首先呢會進行一個思考
如果在思考當中
他覺得有問題的話呢
他還會直接進行一個反思
反思完之後呢
纔會基於上面的思考與反思呢
來回答用戶的問題
也就說呢
這個模型在訓練的時候
就使用了這個思維鏈的一些數據
進行模型訓練的
所以用戶呢
就可以直接得到一個比較好的回答
我試了幾個問題
看起來還是挺不錯的
感興趣的小夥伴呢可以去試
試了好的
以上就是今天的分享
感謝收看
我們下期視頻再見
