學(xué)習(xí)在kernel態(tài)下使用NEON對(duì)算法進(jìn)行加速的方法
本文跟著小編一起來學(xué)習(xí)在linux kernel態(tài)下如何使用NEON對(duì)算法進(jìn)行加速的技巧，內(nèi)容通過圖文實(shí)例給大家做了詳細(xì)分析，一起來看下。
ARM處理器從cortex系列開始集成NEON處理單元，該單元可以簡單理解為協(xié)處理器，專門為矩陣運(yùn)算等算法設(shè)計(jì)，特別適用于圖像、視頻、音頻處理等場(chǎng)景，應(yīng)用也很廣泛。
本文先對(duì)NEON處理單元進(jìn)行簡要介紹，然后介紹如何在內(nèi)核態(tài)下使用NEON，最后列舉實(shí)例說明。
一.NEON簡介
其實(shí)最好的資料就是官方文檔，Cortex™-A Series Programmer's Guide ，以下描述摘自該文檔
1.1 SIMD
NEON采用SIMD架構(gòu)，single instruction multy data，一條指令處理多個(gè)數(shù)據(jù)，NEON中這多個(gè)數(shù)據(jù)可以很多，而且配置靈活（8bit、16bit、32bit為單位，可多個(gè)單位數(shù)據(jù)），這是優(yōu)勢(shì)所在。
如下圖，APU需要至少四條指令完成加操作，而NEON只需要1條，考慮到ld和st，節(jié)省的指令更多。
上述特性，使NEON特別適合處理塊數(shù)據(jù)、圖像、視頻、音頻等。
1.2 NEON architecture overview
NEON也是load/store架構(gòu)，寄存器為64bit/128bit，可形成向量化數(shù)據(jù)，配合若干便于向量操作的指令。
1.2.1 commonality with VFP 1.2.2 data type
指令中的數(shù)據(jù)類型表示，例如VMLAL.S8：
1.2.3 registers
32個(gè)64bit寄存器，D0~D31；同時(shí)可組成16個(gè)128 bit寄存器，Q0~Q15。與VFP公用。
寄存器內(nèi)部的數(shù)據(jù)單位為8bit、16bit、32bit，可以根據(jù)需要靈活配置。
NEON的指令有Normal，Long，Wide，Narrow和Saturating variants等幾種后綴，是根據(jù)操作的源src和dst寄存器的類型確定的。
1.2.4 instruction set
1.3 NEON 指令分類概述
指令比較多， 詳細(xì)可參考Cortex™-A Series Programmer's Guide。可大體分為：
NEON general data processing instructions NEON shift instructions NEON logical and compare operations NEON arithmetic instructions NEON multiply instructions NEON load and store element and structure instructions B.8 NEON and VFP pseudo-instructions
簡單羅列一下各指令
無循環(huán)左移，負(fù)數(shù)左移按右移處理。
load和store指令不太好理解，說明一下。
1.4 NEON 使用方式
1.4.1 NEON使用方式
NEON有若干種使用方式：
C語言被編譯器自動(dòng)向量化，需要增加編譯選項(xiàng)，且C語言編碼時(shí)有若干注意事項(xiàng)。這種方式不確定性太大，沒啥實(shí)用價(jià)值 NEON匯編，可行，匯編稍微復(fù)雜一點(diǎn)，但是核心算法還是值得的 intrinsics，gcc和armcc等編譯器提供了若干與NEON對(duì)應(yīng)的inline函數(shù)，可直接在C語言里調(diào)用，這些函數(shù)反匯編時(shí)會(huì)直接編程響應(yīng)的NEON指令。這種方式比較實(shí)用與C語言環(huán)境，且相對(duì)簡單。本文后續(xù)使用這種方式進(jìn)行詳細(xì)說明。 1.4.2 C語言NEON數(shù)據(jù)類型
需包含arm_neon.h頭文件，該頭文件在gcc目錄里。都是向量數(shù)據(jù)。
typedef __builtin_neon_qi int8x8_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_hi int16x4_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_si int32x2_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_di int64x1_t;
typedef __builtin_neon_sf float32x2_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_poly8 poly8x8_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_poly16 poly16x4_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_uqi uint8x8_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_uhi uint16x4_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_usi uint32x2_t __attribute__ ((__vector_size__ (8)));
typedef __builtin_neon_udi uint64x1_t;
typedef __builtin_neon_qi int8x16_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_hi int16x8_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_si int32x4_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_di int64x2_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_sf float32x4_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_poly8 poly8x16_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_poly16 poly16x8_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_uqi uint8x16_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_uhi uint16x8_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_usi uint32x4_t __attribute__ ((__vector_size__ (16)));
typedef __builtin_neon_udi uint64x2_t __attribute__ ((__vector_size__ (16)));
typedef float float32_t;
typedef __builtin_neon_poly8 poly8_t;
typedef __builtin_neon_poly16 poly16_t;
typedef struct int8x8x2_t
{
int8x8_t val[2];
} int8x8x2_t;
typedef struct int8x16x2_t
{
int8x16_t val[2];
} int8x16x2_t;
typedef struct int16x4x2_t
{
int16x4_t val[2];
} int16x4x2_t;
typedef struct int16x8x2_t
{
int16x8_t val[2];
} int16x8x2_t;
typedef struct int32x2x2_t
{
int32x2_t val[2];
} int32x2x2_t;
typedef struct int32x4x2_t
{
int32x4_t val[2];
} int32x4x2_t;
typedef struct int64x1x2_t
{
int64x1_t val[2];
} int64x1x2_t;
typedef struct int64x2x2_t
{
int64x2_t val[2];
} int64x2x2_t;
typedef struct uint8x8x2_t
{
uint8x8_t val[2];
} uint8x8x2_t;
typedef struct uint8x16x2_t
{
uint8x16_t val[2];
} uint8x16x2_t;
typedef struct uint16x4x2_t
{
uint16x4_t val[2];
} uint16x4x2_t;
typedef struct uint16x8x2_t
{
uint16x8_t val[2];
} uint16x8x2_t;
typedef struct uint32x2x2_t
{
uint32x2_t val[2];
} uint32x2x2_t;
typedef struct uint32x4x2_t
{
uint32x4_t val[2];
} uint32x4x2_t;
typedef struct uint64x1x2_t
{
uint64x1_t val[2];
} uint64x1x2_t;
typedef struct uint64x2x2_t
{
uint64x2_t val[2];
} uint64x2x2_t;
typedef struct float32x2x2_t
{
float32x2_t val[2];
} float32x2x2_t;
typedef struct float32x4x2_t
{
float32x4_t val[2];
} float32x4x2_t;
typedef struct poly8x8x2_t
{
poly8x8_t val[2];
} poly8x8x2_t;
typedef struct poly8x16x2_t
{
poly8x16_t val[2];
} poly8x16x2_t;
typedef struct poly16x4x2_t
{
poly16x4_t val[2];
} poly16x4x2_t;
typedef struct poly16x8x2_t
{
poly16x8_t val[2];
} poly16x8x2_t;
typedef struct int8x8x3_t
{
int8x8_t val[3];
} int8x8x3_t;
typedef struct int8x16x3_t
{
int8x16_t val[3];
} int8x16x3_t;
typedef struct int16x4x3_t
{
int16x4_t val[3];
} int16x4x3_t;
typedef struct int16x8x3_t
{
int16x8_t val[3];
} int16x8x3_t;
typedef struct int32x2x3_t
{
int32x2_t val[3];
} int32x2x3_t;
typedef struct int32x4x3_t
{
int32x4_t val[3];
} int32x4x3_t;
typedef struct int64x1x3_t
{
int64x1_t val[3];
} int64x1x3_t;
typedef struct int64x2x3_t
{
int64x2_t val[3];
} int64x2x3_t;
typedef struct uint8x8x3_t
{
uint8x8_t val[3];
} uint8x8x3_t;
typedef struct uint8x16x3_t
{
uint8x16_t val[3];
} uint8x16x3_t;
typedef struct uint16x4x3_t
{
uint16x4_t val[3];
} uint16x4x3_t;
typedef struct uint16x8x3_t
{
uint16x8_t val[3];
} uint16x8x3_t;
typedef struct uint32x2x3_t
{
uint32x2_t val[3];
} uint32x2x3_t;
typedef struct uint32x4x3_t
{
uint32x4_t val[3];
} uint32x4x3_t;
typedef struct uint64x1x3_t
{
uint64x1_t val[3];
} uint64x1x3_t;
typedef struct uint64x2x3_t
{
uint64x2_t val[3];
} uint64x2x3_t;
typedef struct float32x2x3_t
{
float32x2_t val[3];
} float32x2x3_t;
typedef struct float32x4x3_t
{
float32x4_t val[3];
} float32x4x3_t;
typedef struct poly8x8x3_t
{
poly8x8_t val[3];
} poly8x8x3_t;
typedef struct poly8x16x3_t
{
poly8x16_t val[3];
} poly8x16x3_t;
typedef struct poly16x4x3_t
{
poly16x4_t val[3];
} poly16x4x3_t;
typedef struct poly16x8x3_t
{
poly16x8_t val[3];
} poly16x8x3_t;
typedef struct int8x8x4_t
{
int8x8_t val[4];
} int8x8x4_t;
typedef struct int8x16x4_t
{
int8x16_t val[4];
} int8x16x4_t;
typedef struct int16x4x4_t
{
int16x4_t val[4];
} int16x4x4_t;
typedef struct int16x8x4_t
{
int16x8_t val[4];
} int16x8x4_t;
typedef struct int32x2x4_t
{
int32x2_t val[4];
} int32x2x4_t;
typedef struct int32x4x4_t
{
int32x4_t val[4];
} int32x4x4_t;
typedef struct int64x1x4_t
{
int64x1_t val[4];
} int64x1x4_t;
typedef struct int64x2x4_t
{
int64x2_t val[4];
} int64x2x4_t;
typedef struct uint8x8x4_t
{
uint8x8_t val[4];
} uint8x8x4_t;
typedef struct uint8x16x4_t
{
uint8x16_t val[4];
} uint8x16x4_t;
typedef struct uint16x4x4_t
{
uint16x4_t val[4];
} uint16x4x4_t;
typedef struct uint16x8x4_t
{
uint16x8_t val[4];
} uint16x8x4_t;
typedef struct uint32x2x4_t
{
uint32x2_t val[4];
} uint32x2x4_t;
typedef struct uint32x4x4_t
{
uint32x4_t val[4];
} uint32x4x4_t;
typedef struct uint64x1x4_t
{
uint64x1_t val[4];
} uint64x1x4_t;
typedef struct uint64x2x4_t
{
uint64x2_t val[4];
} uint64x2x4_t;
typedef struct float32x2x4_t
{
float32x2_t val[4];
} float32x2x4_t;
typedef struct float32x4x4_t
{
float32x4_t val[4];
} float32x4x4_t;
typedef struct poly8x8x4_t
{
poly8x8_t val[4];
} poly8x8x4_t;
typedef struct poly8x16x4_t
{
poly8x16_t val[4];
} poly8x16x4_t;
typedef struct poly16x4x4_t
{
poly16x4_t val[4];
} poly16x4x4_t;
typedef struct poly16x8x4_t
{
poly16x8_t val[4];
} poly16x8x4_t;
1.4.3 gcc的NEON函數(shù)
跟NEON指令對(duì)應(yīng)，詳見gcc手冊(cè)。
二.內(nèi)核狀態(tài)下使用NEON的規(guī)則
在linux里，應(yīng)用態(tài)可以比較方便使用NEON instrinsic，增加頭arm_neon.h頭文件后直接使用。但是內(nèi)核態(tài)下使用NEON有較多限制，在linux內(nèi)核文檔 /Documentation/arm/kernel_mode_neon.txt對(duì)此有詳細(xì)說明。要點(diǎn)為：
還有一點(diǎn)特別關(guān)鍵：
CC [M] /work/platform-zynq/drivers/zynq_fpga_driver/mmi_neon/lcd_hw_fs8812_neon.o
In file included from /home/liuwanpeng/lin/lib/gcc/arm-xilinx-linux-gnueabi/4.8.3/include/arm_neon.h:39:0,
from /work/platform-zynq/drivers/zynq_fpga_driver/mmi_neon/lcd_hw_fs8812_neon.c:8:
/home/liuwanpeng/lin/lib/gcc/arm-xilinx-linux-gnueabi/4.8.3/include/stdint.h:9:26: error: no include path in which to search for stdint.h
# include_next <stdint.h>
沒有使用-ffreestanding編譯選項(xiàng)時(shí)，在內(nèi)核態(tài)下使用出現(xiàn)此編譯錯(cuò)誤。
三.實(shí)例
NEON一般在圖像等領(lǐng)域，最小處理單位就是8bit，而不是1bit，這方便的例子非常多，本文就不說明了。在實(shí)際項(xiàng)目中，我需要對(duì)液晶的一組數(shù)據(jù)按位操作，變換，形成新的數(shù)據(jù)，如果用傳統(tǒng)ARM指令，掩碼、移位、循環(huán)，想想效率就非常低。于是決定使用NEON的位相關(guān)指令完成上述任務(wù)。
3.1 任務(wù)說明
如下圖，需要對(duì)各個(gè)bit進(jìn)行轉(zhuǎn)換，組成新的數(shù)據(jù)。
3.2 算法說明
使用vmsk、vshl、vadd等位操作完成。
3.3 kernel配置
必須配置內(nèi)核支持NEON，否則kernel_neon_begin()和kernel_neon_end()等函數(shù)不會(huì)編輯進(jìn)去。
make menuconfig：Floating point emulation,如下圖。
未使能“Support for NEON in kernel mode”時(shí)會(huì)報(bào)錯(cuò)： mmi_module_amp: Unknown symbol kernel_neon_begin (err 0) mmi_module_amp: Unknown symbol kernel_neon_end (err 0)
3.4 模塊代碼
由于NEON代碼需要單獨(dú)設(shè)置編譯選項(xiàng)，所以單獨(dú)建立了一個(gè)內(nèi)核模塊，makefile如下：
CFLAGS_MODULE += -O3 -mfpu=neon -mfloat-abi=softfp -ffreestanding
核心代碼：
#include <linux/module.h> #include <linux/printk.h> #include <arm_neon.h> // 來自GCC的頭文件，必須用-ffreestanding編譯選徐昂
#define LCD_8812_ROW_BYTES 16
#define LCD_8812_PAGE_ROWS 8
#define LCD_PAGE_BYTES (LCD_8812_ROW_BYTES*LCD_8812_PAGE_ROWS)
int fs8812_cvt_buf( uint8 * dst, uint8 * src )
{
uint8x16_t V_src[8];
uint8x16_t V_tmp[8];
uint8x16_t V_dst[8];
uint8x16_t V_msk;
int8x16_t V_shift;
int8 RSHL_bits[8] = {0,1,2,3,4,5,6,7};
int8 row,bit;
uint8 page;
uint8 * fb_page_x = NULL;
// convert the frame_buf for fs8812
for( page=0;page<4;page++ ){
fb_page_x = src + page*LCD_PAGE_BYTES;
for( row=0;row<LCD_8812_PAGE_ROWS;row++ )
V_src[row] = vld1q_u8( fb_page_x + row*LCD_8812_ROW_BYTES );
for( bit=0;bit<8;bit++){
V_msk = vdupq_n_u8(1<<bit);
for( row=0;row<LCD_8812_PAGE_ROWS;row++){
V_tmp[row] = vandq_u8(V_src[row],V_msk); // only process the desire bit
V_shift = vdupq_n_s8( RSHL_bits[row]-bit );
V_tmp[row] = vshlq_u8( V_tmp[row],V_shift );
}
V_dst[bit] = vorrq_u8(V_tmp[0],V_tmp[1]); // all bit_x convert to one row
V_dst[bit] |= vorrq_u8(V_tmp[2],V_tmp[3]);
V_dst[bit] |= vorrq_u8(V_tmp[4],V_tmp[5]);
V_dst[bit] |= vorrq_u8(V_tmp[6],V_tmp[7]);
}
// store to ram
fb_page_x = dst + page*LCD_PAGE_BYTES;
for( row=0;row<LCD_8812_PAGE_ROWS;row++ ){
vst1q_u8(fb_page_x,V_dst[row]);
fb_page_x += LCD_8812_ROW_BYTES;
}
}
return 0;
}
EXPORT_SYMBOL_GPL(fs8812_cvt_buf);
調(diào)用模塊，務(wù)必沒有“-mfpu=neon -mfloat-abi=softfp ”選項(xiàng)
// convert the frame_buf for fs8812 kernel_neon_begin(); fs8812_cvt_buf( g_tmp_buf, frame_buf ); kernel_neon_end();
以上就是本篇文章的全部內(nèi)容，大家有不懂的可以在下面留言區(qū)討論。
相關(guān)文章
linux停止和查看啟動(dòng)服務(wù)的命令使用方法
這篇文章主要介紹了linux停止和查看啟動(dòng)服務(wù)的命令使用方法,需要的朋友可以參考下2014-02-02
CentOS7服務(wù)器環(huán)境下vsftpd安裝及配置方法
這篇文章主要介紹了CentOS7服務(wù)器環(huán)境下vsftpd安裝及配置方法,結(jié)合實(shí)例形式分析了CentOS7服務(wù)器環(huán)境下進(jìn)行vsftpd安裝及配置的步驟與相關(guān)問題解決方法,需要的朋友可以參考下2018-03-03
掌握Linux系統(tǒng)的防火墻基本命令對(duì)于系統(tǒng)管理至關(guān)重要,本文介紹了查看防火墻狀態(tài)、啟動(dòng)、關(guān)閉、重啟防火墻,以及如何開放或限制端口,特別是如何批量處理端口,文中提供的命令和步驟可以幫助用戶有效管理防火墻設(shè)置,確保系統(tǒng)的安全性2024-10-10
這片文章介紹了Linux的Transparent HugePages，一是介紹了查看是否啟用透明大頁，二是如何啟用、警用透明大頁，需要的朋友可以參考下2015-07-07
Linux下二進(jìn)制編譯安裝MySql centos7的教程
這篇文章主要介紹了Linux下二進(jìn)制編譯安裝MySql centos7的教程,本文給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2019-09-09
虛擬機(jī)ubuntu16.04無法連網(wǎng)的解決方法
這篇文章主要為大家詳細(xì)介紹了虛擬機(jī)ubuntu16.04無法連網(wǎng)的解決方法，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-03-03
這篇文章主要介紹了Centos7 下安裝python3及卸載的教程,本文圖文并茂給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2019-10-10
使用VSCode和SSH進(jìn)行遠(yuǎn)程開發(fā)
這篇文章主要介紹了使用VSCode和SSH進(jìn)行遠(yuǎn)程開發(fā)，文中通過圖文以及示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-05-05
這篇文章主要介紹了Xshell如何添加快捷命令的方法，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07
現(xiàn)在我們常見的一些關(guān)于Linux的系統(tǒng)很多，但是使用的更多的一般都是CentOS和Ubuntu，今天我就來記錄一下關(guān)于centos下java的安裝和環(huán)境變量的配置，感興趣的朋友跟隨腳本之家小編一起學(xué)習(xí)吧2018-05-05