【嵌入式放牛班】CMSIS-DSP
30 次觀看·2024年9月28日
【嵌入式系統放牛班】CMSIS-DSP
0:00 CMSIS-03
0:45 算術及邏輯運算
1:13 傳統ALU的設計
3:15 數位訊號處理的特殊性
4:10 DSP的類比考量
8:14 ARM原廠函式庫
11:27 程式範例
14:17 CMSIS-DSP說明文件
午茶時間來充電
一起來品味科技下午茶
哇哈哈
歡迎來到千祿寺放牛班
我是蔣源肯尼
這檔放牛班的主題是
西巖祭祀第三講
請朋友們放鬆心情入座
內容大綱就在你眼前
請先過目
我們馬上要開始囉
YO HO HO
算術及邏輯運算
隨著半導體的發展
移植到電腦、文字
就此開啟了人類第三次工業革命的大門
如果以computer這個英文字來說
compute是計算的意思
所以computer與其翻譯成電腦
不如翻譯成計算機或計算器
更為貼切
我們以CPU為例
它就是computer的核心
它的內部架構
如各位現在所見
最核心的部分
是一個叫做ALU的運算單元
ALU是算術
例如加減乘除
以及邏輯
例如not all and inclusive
這樣子的核心
作為它的最主要的處理
所以我們稱它叫處理器
如果我們將目光放在算術上面
其實在電腦推出之前
中國就有一個非常好的算術的工具
它是不需要喫電的
這個就是算盤
但是因為計算機的推出
所以算盤就越來越少人用它了
有用過算盤的應該會知道一件事情
算盤的寬度是可以自由調整的
你可以是很窄也可以是很寬
原因就是因為
算盤在設計上
它是可以進位的
當你加到不夠的時候
就會往前進一個
往左邊
而這個做法
跟目前CPU的ALU做法是類似的
因為在ALU的計算上
如果它的寬度不足的話
它就會產生一個進位
不同的是
CPU是二進制
而算盤是十進制
因為有這個進位的關係
所以即使你的CPU只有8位元的寬度
都可以進行32位元
甚至64位元的加減
關於這個部分有興趣的
可以看放牛班的另外一講
有詳細的說明
關於這個進位
其實是很不錯的設計
可是它也會造成一些侷限
還有另外一個侷限是
ALU它只能夠整筆運算
我們稱這個叫SISD
就是Single Instruction Single Data
這樣子的設計
其實沒有什麼錯誤
只不過對當時來說
是非常不錯的想法
但是後來我們發現
這樣子其實大大的侷限
它在計算上面的發揮
至於它會造成什麼問題
我們會在下一段繼續說明
數位訊號處理的特殊性
隨著CPU的問世
帶來科技的重大進展
但因應計算
以及target的需求不同
有陸續有GPU
專門處理圖形
還有最近的NPU
專門處理神經網路的處理器出現
以及我們今天要談的DSP
對於這四顆處理器來說
好像只有DSP
它特別強調它是數位的
因為它是Digital Signal Processor
事實上這四顆處理器都是數位的
而DSP強調它是數位
反而是因為
它是專門針對類比
而製作的一個處理器
相比於其他
其實NPU跟GPU
它的處理特性
跟DSP是更為接近的
但我們今天先將目光放在DSP身上
DSP主要要處理的
就是我們周遭的類比訊號
而這些訊號為了要進入01的世界
所以先經過ADC的轉換
才能進到DSP
接著我們進行相關的處理
不管是放大
或做任何的相關的後續處理
如果要還原的話
可以透過DAC來進行
以訊號來說
當我們將一個訊號
放大到它的極限之後
它就會產生一個cut off
如各位在畫面上看到
它是沒有辦法再上去
DSP針對這樣的狀況
提供一個特別的
飽和計算
這個跟剛剛ALU會產生靜位
是截然不同的
你如果有靜位的話
那麼這個訊號可能會
忽然間又變得很小
或忽然間變得很大
所以DSP的這個飽和計算
其實就是因應
我們這個訊號
在放大跟縮小的時候
它在實際還原的時候
會對應的狀況
接著我們再回到訊號本身
在類比世界還有一個特點
就是它很多的資料
其實是一起出現的
例如說以聲音資料來說
通常左右聲道會一併處理
主要就是因為我們人類
有兩個耳朵
所以左右聲道應該是
看成同一筆資料來處理的
如果以影像為例
RGB訊號也應該視為同一個點
例如說你抓到了某一個pixel
這個光點
RGB應該是同一個
如果以傳統的CPU來說
它會把它分成
個別的資料來處理
這樣其實是有點問題的
因為它並不是分開的資料
所以針對這個部分
DSP就將原本SISD的指令碼
擴展成SIMD
它可以一次將多個資料
一起處理
這樣子就更還原
這個資料本身的特性
而且可以加速它的performance
除此之外
各位在觀察右下角
我們在處理這些訊號的時候
如果要使用浮點的話
是會比較花時間
可是如果我們
以這個飽和計算來看的話
它並不是無限放大的
像浮點的話
它有右極限
無限大或無限小
但對於多數的虛位訊號來說
如果你用CPU來處理是可以
但是對類比這些訊號來說的話
其實是沒有必要
所以DSP針對這個部分
就提供了像Qformat
這樣子的計算
以固點來取代浮點
而這個處理方法
其實也很容易理解
因為各位可以觀察這個訊號
我們在放大縮小的時候
它的上界可能是VCC
下界可能是負VCC
你就可以把它看成
往上是正一
往下是負一
所以我們是在
正負一的這個空間進行計算
所以利用這個Qformat
它就可以用定點數的方式
來達到快速的計算
除了剛剛提的這些之外
在我們處理類似的訊號的時候
我們偶爾需要
把它做一些特殊的轉換
例如說我們把
左邊這個時域的訊號
轉成右邊這個頻域的訊號
我們稱這個叫
快速負力量轉換
而這樣的轉換
在DSP都有針對它
做更快速的最佳化
以我們剛剛提的這三個例子
SIMD飽和計算或Qformat
其實只是
DSP眾多功能的
其中一部分而已
主要來說
DSP在處理我們
周遭的這些訊號的話
它會比CPU強上許多
至於我們如何來應用DSP
處理類似這樣的資料的話
請各位繼續看下一段的說明
DSP原廠韓式庫
放牛班曾經提過Cortex-M4
它就是一顆DSP
關於這個部分
如果你有興趣的話
可以參考我們先前的課程
以目前ARM所推出的
Cortex-M系列來說
它有很多的
以M4或M7為例
它是有帶DSP的
不過這個DSP
它是並沒有浮點計算
如果你的產品是M3的話
那很抱歉
它是沒有DSP擴散的
它只有標準的
Integer的韓式
當然如果你用最新的
Cortex-M55的話
它是有Helium的擴充
那麼它的DSP是非常強勁的
面對這麼多不同的型號
它有不同的DSP支援
對於有經驗的工程師來說
可能就會先花一點時間想想
如果我真的要開發相關的應用
那麼我在DSP的方面
我該用什麼方式來做
是用自己包的一個Midway
還是什麼方式
總之先想清楚
是比較正確的
可是如果你沒有時間去想它
或你也不想去處理的話
那麼我告訴你
這個部分
ARM已經幫我們提前做好了準備
而這個部分就是
CM-SYS的DSP部分
它的做法是
除了提供Header File之外
連Source Code都有提供
我們在前幾講有提到
不管是CM-SYS Code或是Driver
它只有Header File
可是DSP的部分
是有含Source Code的喔
為什麼要這樣子做呢
因為就像剛剛看到
它目前的各個指令碼架構
有帶DSP跟沒帶DSP
差別很大
如果我提供Source Code的話
就可以解決這個問題
那麼實際上怎麼呼叫呢
各位可以參考我整理的這個表
它將所有的DSP
可以提供的類似的功能
整理成函數
而這些函數分成15大類
那各位可以從圖上看到
它能夠提供的是哪一個部分
那至於我在撰寫程式的時候
你只要直接呼叫這些函數就好
你不用在意說
你現在用的是Codex-M0
或者是你用的是Codex-M55
不用擔心
總之它目前可以幫你
直接對應到
最適合你平臺的狀況
那你可能問說
這是怎麼做的
其實它怎麼做的也很簡單
因為對C的開發來說
我們最常用的就是
用Preprocessor這樣的技巧
而這個Preprocessor
在它的文件裡面都有提到
例如說各位可以看一下
我這邊整理出來的一小部分
你的環境如果有定義
這些特殊的Macro的話
那麼它就可以找到
最適合你環境的方式
來進行你所需要的運算
至於更細節的部分
請我們繼續看程式範例的部分
程式範例
我們今天展示的平臺是
NXP Kinetics-K系列
Codex-M4的平臺
我們整合開發環境使用的是
MCU-Xpresso IDE加CMX5
運作方面是這樣子
我們先匯入SDK CMX的example
接著我們會帶領各位來
瀏覽CMX DSP的說明文件
接著再窺探原廠ARM行事庫的設計
最後我會展示並說明
應用程式的運作
接著就讓我們一起來看程式碼
提醒朋友們
學習沒有捷徑
你必須認真的練習
基本的練習可以幫助你融會貫通
不斷的練習能讓你更上一層樓
GO GO GO
我們切到IDE的環境
目前的example已經匯進來
這個example是可以直接編譯的
它是可以順利編譯
我們編譯一下
編譯成功了
在目前的DSP example來說
我們只需要include
它的一個統整的header file
叫做ARM底線Mesh.h
在上方有一個Mesh.h
這是標準的ISOC的header file
那以ARM Mesh.h為例
如果你點開來的話
你可以看到
它這個是由ARM自己
maintain的一個header file
那特別的是
除了header file之外
它連source code都是有帶的
我們等一下會看到
你如果往下翻的話
你可以看到它這邊列出來
它所支援的函式
而這些函式
它的source code
你可以對應左邊的畫面
這邊一個一個的函式分類
然後再往下的話
它有提到
可以控制的preprocessor的聚集
這個會根據你的環境需要
定義這些聚集之後
那麼它產生的效果就不一樣
這個等一下還會再提到
然後再往下
這邊有列出
它的整個DSP
這個component
它的分類
譬如說它有
example
include
還有source
那我們在左邊都可以對到
左邊這邊就是它的source
然後這邊有它的include
然後它的include來說的話
就是把它對應的
相關的
全部集中在一個
單一的文件檔裡面
這樣的話
你就不需要include個別
當然如果你個別include
也是沒問題的
那各位可以對應一下
這邊看到就對應左邊
然後一般來說
你的include跟private include
都要一起帶進來
這樣子它纔是完整
還有另外一個private include
它在內部會使用
這個是它的source檔的部分
就是這樣子
那談到這邊之後
接著我就切到
它的說明文件
我們來對照一下
它的內容
各位現在可以到
官網
找到同一個link
這個是
CMC 15.9的版本
它的component
分成非常多個
我們今天的重點
就是在DSP這個部分
那接著我們切到
它DSP的分頁
在這個分頁裡面
它同樣也列出來
它所support的函式
有哪些
那這些
就像各位剛剛在
左邊這邊看到
你看這邊都是有source code
所以它不是隻有API而已
還是有帶source code
就是這邊都可以對到
然後接著它底下有提到
它的preprocessor的make
我們剛剛在簡報裡面也有提到
它在文件裡面也有提到
然後再往下
這邊有提到
它的整個component
它是怎麼包裝的
我們剛剛的這個example
就是從它的example子幕
裡面抓出來的
然後source
你必須把它含在
你的專案裡面
一般來說
如果有source code的狀況
除非有特別需要
你才把它包成
一個library
否則有source code
直接含進來
這樣就可以了
這是最簡單的做法
以剛剛的這些函式為例
如果你對它非常陌生的話
沒有關係
它的文件就是要解決這個事情
你可以拉開它的reference
這reference裡面
它就有列出來
它有example
各個function的內容
以剛剛提到這些function為例
例如說
基本的
數學函式來說
你看這邊就有列出來
每個API是什麼
你可以點進去
它都有告訴你
它的操作方法
你看點進來
API是長什麼樣子
有哪些原型
底下有一個一個的說明
這個是
你如果要有一個
open的API
那麼文件是一定要
同時搭配的
這樣子
推廣起來才
纔能夠順利
接著呢
以我們剛剛的example裡面
有做一個快速複利的轉換
這個對應到的是
transformer的function
你也可以點
點過來這邊
你看這邊就有
FFT
快速複利的轉換
當然點進去
就有它相關的說明
這底下都有說明
所以
你只要搭配它的文件
然後將它的source code取得之後
就可以做對應的處理
除了函式之外
data結構也是很重要的
例如說
它有support
各位現在看到
有any32x2 32x2
這個就是
剛剛說的
平行運算
SIMD
一個指令就可以處理
這個例子是
32bit寬度
一次處理4個
這個在Neon的平臺
是其中平常的事情
Cortex-M4可以處理8x4
雖然沒辦法做到32x4
但8x4也很了不起
然後再往下
它這是浮點
16bit
這是半精度的浮點
那這個是單精度浮點
當然它也可以處理
雙精度
然後再往下
這個是Q format
我提過的
Q15
Q31
Q7等等
這個是資料型態
主要
如果是用Q型態的話
就是以定點小數
或固定小數
來處理
我們需要的計算
這樣的速度就會很快
總之
你可以透過
它這個DSP
所提供的這個文件
取得你需要的函式
是怎麼用
甚至還有example
都可以從這邊取得
那接著我們再回到
我們的程式碼
以我們這邊
匯入來的兩個example為例
第一個是基本的
數學運算
例如說
我切過來
你可以看到
它這邊有一個基本的
處理
F32的處理
這個是跟浮點有關係
那它的做法是這樣
我們的平臺
如果有資源特殊的話
它就會直接應用
例如說
我們現在處理的
ARM PL32
在目前Cortex-M4來說
它就是走這一段
那如果說
你的平臺是你ARM的話
那麼它就會處理這一段
它就針對不同的平臺
它有不同的處理方式
當然如果你是
M55
這個有support MVEF的話
它就會處理這一段
所以同一個函式
它會根據你的平臺不同
走不同的source code段
那我們現在是Cortex-M4
就走這一段
如果你有define這個
loop-unload的話
那麼它的處理會不一樣
那這個是什麼呢
那我們可以就直接切到
它的文件
它都有說明
像這個unload
這個在
它的
平臺裡面就有處理
這邊就有提到
loop-unload
是做什麼處理
如果沒有的話
那它就走這一段
總之呢
你的函式呼叫
呼叫完之後
它會根據你的平臺
平臺的狀況
然後處理
最快速的方式
然後這邊是另外一個
函式的例子
那它一樣也是這樣子分
例如說我們進來之後
如果你是
有你ARM的話
然後沒有定義這個的話
它會這麼做
那如果不是的話
這邊還有另外一個處理
那最終我們目前這個平臺
就是用最簡單的
方式來處理
就是會走這一段
所以不同的平臺
它就會有不同的處置
那像這個有提到
MVF
然後跟這個
Max Auto Vector Size
那像這個Vector Size的處置
一樣在說明文件裡面
也可以找到
這邊就有提到
其實就是
它避免用這個intrinsic
那什麼是intrinsic
在我們放流班有另外一講
有詳細的說明
你如果想知道它什麼
你可以回頭補一下課
那這邊的簡單說明就是
它放棄用intrinsic
然後讓編譯器
自己來處理它
接著我們再回到
這次的source code
其實在它的
這個header file裡面
都有說明
它目前支援的
除了Codex-M之外
還有一些Codex
譬如說A7、A9
都是可以呼叫這個函式的
那我們再回到
剛剛呼叫端
這個就是基本的
數學的處置
那有浮點或固點都可以
那接著我們還有
另外一個
匯入一個example
是FFT
快速負力業轉換
我們可以切過來
這邊它就呼叫了
這個負力業轉換的initial
那做法一樣
它在最前端這邊
會先判斷
你的平臺狀態
如果你是有support這個的話
那麼它就會走這一段
那如果有其他狀況的話
它就會走其他段
大概就是這樣子
利用這些preprocessor來決定
你最終是走
走哪一個source code
這樣子的話就會編譯出
在你當前的平臺
最有效率的程式碼
今天的說明就簡單到這邊
所以你透過
ARM所提供的
CNCDSP的函式
就可以針對你的平臺
得到最有效率
然後計算上最快速的支援
我們今天的說明
就到這邊全部結束了
希望對各位有幫助
哇 時間過得好快
咱們就此畫下句點
下一堂課再見囉
等你喔

