1.设置linux系统可以生成dump
ulimit -c unlimited
2.编译程序可以为debug版本
gcc utest.c -o utest -lpthread -lm -Wall -O0 -g
3.运行生成dump
非法指令 (核心已转储)
在目录下,生成core文件

4.用gdb打开core文件
gdb utest core
其中utest是我第2步编译处理的可执行文件

5.输入bt可见调用栈
(gdb) bt #0 0x00007f5dd6da8631 in com_funs_init_ip_filter () from
/usr/lib/libuavs2e.so #1 0x00007f5dd6dfa2a0 in avs2_lib_create () from
/usr/lib/libuavs2e.so #2 0x00000000004032f9 in main (argc=3,
argv=0x7fffbc1b8a98) at utest.c:668
6.查看汇编信息
x/30i $rip 或者直接地址 x/30i 0x00007f5dd6da8631
可见汇编指令是
vextracti128 $0x1,%ymm2,0x90(%rax)
7.编译c文件测试汇编指令
#include <stdio.h> int main() { int a = 0; asm volatile ( "vextracti128
$0x1,%%ymm2,0x90\n" : "=r"(a) ); return 0; }
8.执行发现同样问题,确认是汇编指令导致,查询cat /proc/cpuinfo的flags支持的指令集。

vextracti128是avx2,如果cpu的flags不支持该指令集,则会出现非法指令。

技术
今日推荐
PPT
阅读数 106
下载桌面版
GitHub
百度网盘(提取码:draw)
Gitee
云服务器优惠
阿里云优惠券
腾讯云优惠券
华为云优惠券
站点信息
问题反馈
邮箱:ixiaoyang8@qq.com
QQ群:766591547
关注微信