社招面经
总的来说,大部分公司的技术面试都分为这几个部分:项目描述和细节提问、深度学习+目标检测算法、数据结构和算法代码及编程语言相关。下面是我面试当中问到的一些问题。
一、项目
主要是描述项目背景、项目实现的功能及使用的方法和流程,面试官会针对他感兴趣的点问一些技术细节,基本上只要能把项目流利的描述出来就问题不大。
二、深度学习、模型部署
2.1 目标检测相关
- 两阶段检测网络(Faster RCNN 系列)和一阶段检测网络(YOLO 系列)有什么区别?以及为什么两阶段比一阶段精度高?
- 双阶段网络算法更精细,把任务分成了正负样本分类、bbox 初次回归以及类别分类和 bbox 二次回归。
- 而 YOLO 算法更简单粗暴,使用 backbone 对输入图像提取特征后,将特征图划分成 S×S 的网格,物体的中心坐标落在哪个网络内,该网格(grid)就负责预测目标的置信度、类别和 bbox;YOLOv2-v5 通过 1×1 卷积输出特定通道数的特征图来,特征图有 N 个通道,对应的每个 grid 都会有 N 个值,分别对应置信度、类别和 bbox 坐标。
个人感觉这种问题不好回答,也没有标准答案,可能会出现你答的点不是面试官想要的
- 说说你对 Focal Loss 的理解,为什么能解决分类问题中的类别不平衡问题?
作者认为一阶段检测网络的精度不高的原因主要在于:极度不平衡的正负样本比例,从而导致梯度(gradient)被容易样本(easy example)的损失主导。
作者通过 Focal Loss 公式让置信度高(即容易样本)的样本的损失衰减的更厉害,从而降低容易样本的 Loss 权重,从而让模型在后期尽量去学习那些 hard 的样本。
- 如何在模型训练的时候判断是否过拟合,及模型过拟合问题如何解决?
将训练数据划分为训练集和验证集,80% 用于训练集,20% 用于验证集(训练集和验证集一定不能相交);训练的时候每隔一定 Epoch 比较验证集但指标和训练集是否一致,如果不一致,并且验证集指标变差了,即意味着过拟合。
- 数据增强, 增加数据多样性;
- 正则化策略:如 Parameter Norm Penalties (参数范数惩罚), L1, L2 正则化;- 模型融合, 比如 Bagging 和其他集成方法;
- 添加 BN(batch normalization)层或者 dropout 层(现在基本不用);
- Early Stopping (提前终止训练)。
- 如何在模型训练的时候判断是否欠拟合,及模型欠拟合问题如何解决?
underfitting 欠拟合的表现就是模型不收敛,即训练过程中验证集的指标比较差,Loss 不收敛。欠拟合的原因有很多种,这里以神经网络拟合能力不足问题给出以下参考解决方法:
- 寻找最优的权重初始化方案:如 He 正态分布初始化 he_normal,深度学习框架都内置了很多权重初始化方法;
- 使用适当的激活函数:卷积层的输出使用的激活函数一般为 ReLu,循环神经网络中的循环层使用的激活函数一般为 tanh,或者 ReLu;
- 选择合适的优化器和学习速率:SGD 优化器速度慢但是会达到最优.
- 描述以下 YOLOv3 算法及 YOLOv4、YOLOv5 的改进点,及为什么 CIoU Loss 比 IoU Loss 效果好?
YOLOv3 相比前代主要的改进点如下:
- Backbone 从 DarkNet19 升级为 DarkNet53。
- 添加了类似 FPN 的多尺度检测网络,解决小目标检测精度低的问题。
- 分类预测使用多标签进行类别分类,不再使用 softmax 函数。
- 每个 ground truth 对象只分配一个边界框。
-
描述下 RoI Pooling 过程和作用,以及 RoI Align 的改进点。
参考这篇文章 Understanding Region of Interest — (RoI Align and RoI Warp)
-
YOLOv3 的标签编码解码过程,以及正负样本采样策略。和 YOLOv2 一样,YOLOv3 依然使用 K-means 聚类的方法来挑选 anchor boxes 作为边界框预测的先验框。每个边界框都会预测 444 个偏移坐标 (tx,ty,tw,th)(t_x,t_y,t_w,t_h)(t_x,t_y,t_w,t_h) 。假设 (cx,cy)(c_x, c_y)(c_x, c_y) 为 grid 的左上角坐标, pwp_wp_w 、 php_hp_h 是先验框(anchors)的宽度与高度。
-
详细讲解下 Faster RCNN 和 Mask RCNN 算法过程。
-
最新的目标检测算法有哪些?YOLOv4-v5、Scaled YOLOv4 和 Anchor-free 的算法:CenterNet。
-
手写 Soft NMS 和 Focal Loss。
2.2 深度学习相关
- BN 的作用及 BN 工作流程,以及训练和推理的区别?
- 普通卷积层、分组卷积、深度可分离卷积的 FLOPs 计算公式。
- 普通卷积层、分组卷积、深度可分离卷积的 MAC 计算公式。
- 详细描述下你知道的轻量级网络:MobileNetV1、ShuffleNetv1-v2。
- 何谓正则化?通过给模型的代价函数(损失函数)添加被称为正则化项(regularizer)的惩罚,这称为将模型(学习函数为 f(x;θ)f(x; θ)f(x; θ) )正则化。正则化是一种思想(策略),给代价函数添加惩罚只是其中一种方法。
- L2 正则化(权重衰减)原理,为什么它能防止模型过拟合?
- L1 正则化原理,系数 λ如何取值?L1 范数: 为向量 x 各个元素绝对值之和。L1 正则化可以使权值参数稀疏,方便特征提取。
- Pytorch 的 conv2d 函数的参数有哪些?以及模型输出大小计算公式,并解释为什么公式是这样。
- Pytorch 的 DataLoader 原理。
- 普通卷积过程描述下。
2.3 模型部署相关
- 浮点数在计算机中的表示方式?
- 描述下你知道的模型量化知识。
- 知识蒸馏原理,及温度系数如何取值?
- 通用矩阵乘(GEMM)优化算法有哪些?二维矩阵相乘的 C++ 代码如下;
vector<vector<int>> matrix_mul(vector<vector<int>> A, vector<vector<int>> B){
/*二维矩阵相乘函数,时间复杂度 O(n^3)
*/
// vector<vector<int>> A_T = matrix_transpose(A);
assert((*A.begin()).size()==B.size()); //断言,第一个矩阵的列必须等于第二个矩阵的行
int new_rows = A.size();
int new_cols = (*B.begin()).size();
int L = B.size();
vector<vector<int>> C(new_rows, vector<int>(new_cols,0));
for(int i=0; i<new_rows; i++){
for(int j=0; j<new_cols;j++){
for(int k=0; k<L; k++){
C[i][j] += A[i][k]*B[k][j];
}
// C[i][j] = vector_mul(A[i], get_col(B, j));
}
}
return C;
}
对这样的矩阵乘的算法优化可分为两类:
- 基于算法分析的方法:根据矩阵乘计算特性,从数学角度优化,典型的算法包括Strassen 算法和 Coppersmith–Winograd 算法。
- 基于软件优化的方法:根据计算机存储系统的层次结构特性,选择性地调整计算顺序,主要有循环拆分向量化、内存重排等。
2.4 编程语言相关
- 虚函数原理及作用?
- C++ 构造函数和析构函数的初始化顺序。
- 智能指针描述下?
- static 关键字作用?
- STL 库的容器有哪些,讲下你最熟悉的一种及常用函数。
- vector 和 数组的区别?vector 扩容在内存中是怎么操作的?
- 引用和指针的区别?
- C++ 中定义 int a = 2,; int b = 2 和 Python 中定义 a = 2 b=3 有什么区别?
- OpenCV 读取图像返回后的矩阵在内存中是怎么保存的?
- 内存对齐原理描述,为什么需要内存对齐?
- 散列表的实现原理?
- 虚拟地址和物理内存的关系?
三、数据结构与算法 coding
- 二分查找算法 + 可运行代码。
- 白板写链表反转。
- 包含 min 函数的栈 + 可运行代码(剑指 Offer 30. 包含min函数的栈)
- 最长回文子串 + 时间复杂度
- TOP K 问题:最小的 K 个数 + 说下你知道哪几种解法,及各自时间复杂度
- 返回转置后的矩阵(逆时针)
- 冒泡排序及优化
- 求数组中比左边元素都大同时比右边元素都小的元素,返回这些元素的索引
- 手写快速排序
- 手写 softmax 算子 + 解释代码及衍生问题
- 无重复字符的最长子串
- N 皇后问题
- 求最大的第 k 个数
本文转载自其他平台,作者:进击的程序猿,文章内容略有删改。