机器学习-01

    1. 自然语言处理属于哪个学科领域？

• A.计算机科学

• B.人工智能

• C.语言学

• D.上述全部

    2. 下列关于因子分析与主成分的描述正确的是？

• A.主成分的主成分个数与原始变量个数一样的

• B.因子分析需要实现确定要找几个因子

• C.主成分只是通常的变量变换，不能作为一个模型来描述

• D.因子分析是原始变量的线性组合

分析：主成分分析（Principal Component Analysis，PCA）是通过将原始变量转换为原始变量的线性组合，在保留主要信息基础上，达到简化和降维的目的，理论上主成分数量相对于原始数量更少。因子分析（Factor Analysis，FA）是一种数据简化技术，通过研究众多变量的内部依赖关系，探求观测数据的基本结构，并用少数的假想变量（因子）来表示原始数据。因子并非原始变量的简单取舍，而是一种新的综合、而且各个因子之间也没有线性关系。

    3. 下列关于判定系数R^2的描述正确的是？

• A.残差平方和越小，R^2越小

• B.残差平方和越小，R^2越大

• C.R^2 = 1时，模型与样本观测值完全拟合

• D.R^2越接近于1，模型的拟合优度越高

分析：

• SST：总平方和

• SSR：回归平方和

• SSE：残差平方和 $R^2 = \frac{SSR}{SSE} = 1 - \frac{SSE}{SST}$，所以SSE越小，$R^2$越大。

    4. 下列关于逻辑回归正确的是？

• A.逻辑回归公式里有回归的部分

• B.逻辑回归的标签纸是类别型

• C.逻辑回归只能处理二分类问题

分析：逻辑回归如果要解决多分类问题，可采用OVR和OVO方法，它本质是使用回归的方式解决分类问题。OVR = One Vs Rest、OVO = One Vs One。

• D.逻辑回归可以处理二分类问题和多分类问题

    5. 下列关于聚类挖掘技术的说法中，正确的是？

• A.不预先设定数据归类类目，完全根据数据本身性质将数据聚合成不同类别

• B.要求同类型数据的内容相似度尽可能小

分析：组内距离小（同类相似度大）、组间距离大（异类相似度小）。

• C.要求不同类数据的内容相似度尽可能小

• D.与分类挖掘技术相似的是，都是要对数据进行分类处理

    6. 下列关于方差分析的描述中，不正确的是？

• A.方差分析用于比较各组的总体方差是否相等

• B.方差分析结果有统计学意义表明各样本均数来自统一总体

• C.方差分析中判断F值相对应的P值时需查双侧边界值表

分析：方差分析（ANOVA）又称变异数分析，用于两个或两个以上样本均数差别的显著性校验，所以不是比较各组总体方差是否相等，而是不等。

• D.方差分析得到的F值越小，越没有理由怀疑原假设H0成立

    7. 下列关于单因素方差分析阐述正确的是？

• A.单因素方差分析实质是比较不同水平总体的变异情况

分析：利用了方差比较的方法分析，通过假设检验过程来判断多个因素是否对因变量产生显著性影响，单因素分析是用来研究一个控制变量的不同水平是否对观测变量产生了显著影响。

• B.单因素方差分析要求不同总体方差没有显著差异

• C.单因素方差分析能够评价不同总体均值是否有显著差异

• D.单因素方差分析F统计量=MSA/MSE

    8. 下列关于大数据的分析理念的说法中，正确的是？

• A.在数据基础上倾向于全体数据而不是抽样数据

• B.在分析方法上更注重相关分析而不是因果分析

• C.在分析效果上更追究效率而不是绝对精度

• D.在数据规模上强调相对数据而不是绝对数据

分析：数据大而全，走绝对数据。

    9. 下列关于Ridge和Lasso正确的是？

• A.Ridge的损失函数里使用的是L1范式

分析：

• Ridge计算所有参数平方和，L2范数，岭回归；

• Lasso则计算所有参数绝对值之和，L1范数，Lasso回归。

• B.Lasso的损失函数里使用的是L1范式

• C.Ridge的对参数做一个惩罚，惩罚越大，参数越接近0

• D.Lasso的对参数的惩罚力度大，惩罚越大，直接将参数值变成0

    10. 下列关于K-Means聚类算法说法正确的有？

• A.对聚类中心的初始化比较敏感，不同的初始化带来不同的聚类结果。

• B.K值需要首先人工确定（启发式）

• C.聚类擅长处理聚类各簇服从标准正态分布的数据

• D.K-Means对于噪声比较敏感

    11. 下列对信贷场景中的评分卡说法正确的有？

• A.以分数的形式来衡量风险几率的一种手段

• B.是对未来一段时间内违约/逾期/失联概率的学习

• C.有一个明确的（正）区间

• D.通常分数越低越安全

    12. 关于标准化得分的论述正确是？

• A.消除数据规模

• B.有助于识别异常量

• C.建模中的必要步骤

分析：不是所有的模型都需要统一量纲，这个很容易理解。

• D.给出数据的相对位置

    （题目有误）13. 关于SVM的损失函数正确的是？

• A.线性可分的情况下，损失函数可以保证无误分类点

• B.线性可分情况下，损失函数可以保证找到最大间隔

• C.线性可分情况下，损失函数的约束条件为

• D.可使用SMO算法求解基于对偶形式

    14. 关于Kmeans的优缺点正确的是？

• A.k的选取不好把握

• B.对非凸数据集来说难以收敛

• C.对噪音敏感

• D.肯定能达到全局最优

分析：K-Means计算速度很快，这是优点，缺点如下：

• 对离群值十分敏感

• 并不是一个最优方案（不一定能找到最优解）

• 只能处理数值型数据

    15. 根据购物篮分析的目标，最有用的规则是那些具有高支持度、信度和提升度的规则，除此之外，也需要参考Lift（提升度），以下关于“Lift”说法正确的是

• A.用来衡量一类商品相对于它的一般购买率，此时被购买的可能性大小

• B.不能避免不平衡数据标签的偏差性

• C.Lift越大，数据质量越大

• D.如果Lift=1，说明两个事项有正向关联

    16. 对原始的KMeans来说，以下正确的是

• A.不需要对数据集去量纲

• B.有标签值

分析：聚类算法，无标签值，算法的目的就是计算出每一类的标签值。

• C.没有标签值

• D.模型不稳定

    17. 对与数据集来说的话，如果出现共线性，以下说法正确的是

• A.当前数据集不能使用最小二乘法来求最后的参数值

分析：此处最小二乘法通常指普通最小二乘法，这种算法是不可以处理共线性问题的，一旦有共线性，必须要有理有据，如VIF过高，此时就只能使用Ridge、Lasso来处理。

• B.X^T * X不能求导

• C.可以采用Ridge和Lasso来处理

• D.可以采用PCA的方法来做数据的维度转换，从而选择有用的新特征

    18. 对于Ridge和Lasso来说，下列正确的是

• A.Ridge与Lasso是对参数的一种惩罚

• B.使用Ridge可以发觉数据当中多重共线性的存在

• C.使用Lasso可以做特征提取

• D.使用Lasso的话，惩罚度越大，越好

    19. 对于原始Kmeans的缺陷来说，以下正确的是

• A.Kmeans的一大缺陷是初始点是随机的

• B.初始点的不同可能导致最后结果的不同

• C.初始点太过于极端，可能会导致某些初始点丢失

• D.Kmeans需要做归一化或标准化

    20. 对于一个多分类模型，可以如何选择训练集？

• A.有放回简单随机抽样

• D.无放回简单随机抽样

• C.分层抽样

• D.整群抽样

    21. 对于信息增益，决策树分裂节点，下面说法正确的是？

• A.纯度高的节点需要更多的信息去区分

分析：信息熵代表随机变量的复杂度（不确定度）、条件熵代表在某一个条件下，随机变量的复杂度，而决策树的信息增益就是：信息熵+条件熵；所以决策树算法中，关键就是每次选择一个特征，特征有多个，按什么标准来选择特征后，信息增益最大（信息不确定性减少的程度最大）。错误：纯度越高，表示不确定的信息越少，所以更少的信息就可以区分，根本不需要更多的信息；反之纯度低，内部的信息熵更大，这种情况下不确定的信息越多，才需要更多的信息区分。

• B.信息增益可以用“1比特-熵”获得

• C.如果选择一个属性具有许多归类值，那么这个信息增益是有偏差的

• D.所有以上

    22. 对于说法正确的是

• A.我们必须在使用PCA前规范化数据

• B.我们应该选择使得模型具有最大variance的主成分

• C.我们应该选择使得模型具有最小variance的主成分

分析：主成分分析本质是切换坐标系，然后去掉一些方差很小的坐标轴，所以PCA的目的并不是特征选择，而是特征抽取，抽取出来的特征是上帝视角，而这些特征人无法发现。它的理论是：在信号处理中认为信号具有较大的方差，而噪声具有较小的方差，信噪比就是信号与噪声的方差比，越大越好，大的比值更容易区分信号和噪声。

• D.我们可以使用PCA在低纬度上做数据可视化

    23. 对于决策树来说，过拟合是什么现象

• A.模型过于复杂

• B.模型会将数据中的特性（噪音）学习进去

• C.模型会变得非常缓慢

分析：和过拟合无关。

• D.模型泛化能力很可能会非常差

    24. 对于多项式和高斯贝叶斯来说正确的是

• A.多项式只能处理类别型的特征

分析：朴素贝叶斯有三个常用模型：高斯贝叶斯、多项式贝叶斯、伯努利贝叶斯，贝斯分类可以除了可以处理连续型特征，同样可以处理类别型特征。

• 「连续」高斯分布：在贝叶斯分类中，高斯模型就是用来处理连续型特征变量的，当使用此模型时，我们会假定特征属于高斯分布，然后基于训练样本计算特征均值和标准差，这样就可以得到此特征下每一个属性值的先验概率。

• 「分类」多项式分布：与高斯分布相反，多项式模型主要适用于离散特征的先验概率计算，简单来说就是贝叶斯定理求条件概率+拉普拉斯平滑。

• 「文本分类」伯努利分布：在伯努利模型中，所有特征的取值都会变成0或1，如果特征本身并不是0或1，则会自动设定某个阈值，将低于阈值地设为0，高于阈值地设为1，从而将特征0-1化。然后在所有训练样本中计算0-1的概率，作为特征的条件概率。

• B.多项式可以处理连续型的特征

• C.高斯贝叶斯是假设在某个标签的类别里各个特征的分布是高斯分布

• D.多项式处理类别型的特征效果比连续型的特征效果好

    25. 对于SVM来说，正确的是？

• A.可以处理线性和非线性、二分类和多分类问题

• B.可做异常值检测

• C.对大规模数据训练速度快

• D.可直接支持多分类

分析：SVM训练速度很慢，它是一种知名的二元线性/非线性分类方法，它使用一个非线性转换将原始数据映射到高维度的特征空间中，然后在高维度特征空间中找出一个最佳线性分割超平面（MMH）将两类数据分开。所以SVM无法直接支持多分类，如果要支持多分类有两种解决办法：

• One-Against-Rest

• One-Against-One

    26. 对于KNN算法来说，缺点是什么

• A.计算效率低、消耗的计算资源较大

• B.对异常值敏感

• C.可重复性弱

• D.需要做归一化处理

    27. 对于KNN来说，它的缺点是什么

• A.计算效率低

• B.需要去量纲

• C.对异常值敏感

• D.应用少

分析：常用算法

    28. 对于KMeans来说正确的是

• A.Kmeans是有监督学习

• B.Kmeans是无监督学习

• C.Kmeans是一种不断的迭代的算法

• D.Kmeans会产生中间结果

    29. 对于Kmeans来说，下列正确的是

• A.它是有监督的学习

• B.它是无监督的学习

• C.需要对它做去量纲处理

• D.它是没有缺陷的

分析：Kmeans是聚类算法，无监督学习，它会不断迭代计算以达到最终聚类的效果，但不产生任何中间结果。

    30. 对数值字段做离散化，有哪些优点

• A.可使数据精简

• B.可支持许多无法处理数值型字段的算法

• C.可提高分类器的稳定性

• D.可降低数据的复杂度

    31. 从方向上，逐步回归可以分为以下几类

• A.向前选择法

• B.向后删除法

• C.双向法

分析：逐步回归是使用模型方式做特征选择的其中一种，模型方式做特征选择主要目的是解决特征的共线性（Collinearity）问题：

• 决策树：Decision Tree

• 随机森林

• XGBoost

• 逻辑回归中的逐步回归

  • 向前法（Forward），逐步选择

  • 向后法（递归，Backward），逐步删除

  • 双向法（Bi-Direcation）

• D.完全法

    32. 超参数有哪些调优方法

• A.网格搜索

• B.逐步搜索

• C.Lasso模型

• D.以上均正确

分析：四种主流超参数优化方法（主要和搜索最佳超参数相关）：

• 传统/手动调参

• 网格搜索

• 随机搜索

• 贝叶斯搜索

    33. 贝叶斯信念网络（BBN）有如下哪些特点？

• A.构造网络费时费力

• B.对模型的过分问题非常鲁棒

• C.贝叶斯网络不适合处理不完整的数据

• D.网络结构确定后，添加变量相当麻烦

    34. 按照远近程度来聚类需要明确两个距离？

• A.点和点之间的距离

• B.类和类之间的距离

• C.欧式距离

• D.兰氏距离

    35. XGBoost中对树进行剪枝的方法？

• A.在目标函数中增加了正则项

• B.在节点分裂时，定义了一个阈值，如果分裂后目标函数的增益小于该阈值，则不分裂

• C.减少最大深度

• D.直接删除变量

    36. XGBoost实例（非Sklearn API）里如何查看特征重要性？

• A..feature_importance

• B..get_score()

• C..get_fscore()

• D..best_features

    37. XGBoost模型已经过拟合的解决办法有？

• A.增大max_depth参数，减小min_child_weight参数

• B.减少max_depth参数，增大min_child_weight参数

• C.增加样本和特征的随机性

• D.增大学习率

分析：XGBoost训练模型时，如果过拟合可采用下边方式调参：

• 控制模型的复杂度（主要是降低树模型的复杂度）

  • 减小max_depth参数

  • 增大min_child_weight参数，该值越大则一片叶子上节点数量越少

• 增加随机性，使得模型在训练时对噪声不敏感，如：subsample, colsample_bytree

• 减小学习率learning rate，同时增加estimator参数。

    38. XGBoost防止过拟合的方法有？

• A.目标函数添加正则项

• B.列抽样

• C.子采样

• D.减少学习率

    39. XGBoost处理不平衡数据的方法有？

• A.设置scale_pos_weight参数

• B.设置classweight

• C.SMOTE

• D.加大少数类的权重

分析：对不平衡的数据进行训练时，通常会考虑一下如何处理不平衡数据能使训练出来的结果较好，能想到的比较基础的方法是过采样和下采样来环节数据中正负样本比。

• 使用SMOTE方式处理样本均衡

• 调整scale_pos_weight参数处理样本均衡

    40. word2vec中的Skip-Gram模型和CBOW模型的主要区别是？

• A.Skip-Gram模型以中心词预测上下文词

• B.CBOW模型以上下文词预测中心词

• C.Skip-Graw模型以上下文词预测中心词

• D.CBOW模型以中心词预测上下文词

分析：CBOW和Skip-Gram互逆。

    41. ROC曲线是基于（ ）来判断逻辑回归模型的效果

• A.灵敏度

• B.特异度

• C.效度

• D.速度

分析：ROC曲线的轴：

• X轴：1 - Specificity（特异度），FPR

• Y轴：Sensitivity（灵敏度），TPR

    42. Kmeans算法的优化，关于BiKmeans以下正确的是

• A.BiKmeans在每一次迭代中，都是Kmeans的K=2的聚类

• B.采用每一次只做k=2的聚类可以很大程度上减少中心点丢失与局部最优的问题

• C.BiKmeans不需要做归一化或标准化

• D.采用一种决策树的思想

    43. Kmeans迭代的核心思想是

• A.保持质心点不变更新类别

• B.保持类别不变更新质心点

• C.保持类别不变保持质心点不变

• D.KMeans迭代无法收敛

    44. C4.5算法继承了ID3算法的优点，并在以下哪几方面对ID3算法进行了改进？

• A.用信息增益率来选择属性

• B.在树构造过程中进行剪枝

• C.能够完成对连续属性的离散化处理

• D.在树的构造过程中，不需要对数据集进行多次的顺序扫描和排序

    45. bagging生效的必要条件有哪些？

• A.基分类器之间应该是相互独立的

• B.基分类器要足够多

• C.基分类器应当好于随机猜测分类器

• D.不断调整错误样本的权重

分析：集成学习思路是在对新的示例进行分类时，把若干单个分类器集成起来，通过对多个分类器的分类结果进行某种组合来决定最终分类，以取得比单个分类器更好的性能，如果把单个分类器比作一个决策者的话，集成分类就等价于多个决策者共同进行一项决策。 袋装（Bagging）又称为自助聚类（Bootstrap AGGregatING），它是一种根据均匀概率分布从数据集中重复抽样（有放回）的技术，为每一个基分类器都构造出一个和训练集同样大小但不相同的训练集，从而训练不同的基本分类器。

    46. Apriori算法的计算复杂度受（ ）影响

• A.支持度阀值

• B.项数（维度）

• C.事务数

• D.事务平均宽度

    47. ABC公司的数据团队为了预测销售量，进行了一次多元线性回归，模型结果无效，可能的原因有

• A.多重共线性

• B.条件异方差

• C.非条件异方差

• D.序列相关

    48. 数据挖掘项目分析中，我们需要

• A.清理数据

• B.对数据描述统计

• C.选择合适的模型并建模

• D.验证模型的可靠性

    49. 20Newsgroups数据集是机器学习研究中常用的标准数据集，它使用20个Usenet新闻单位上几个月发布的18828个消息，共18828个文件，如果要对该数据集使用mahout进行文本分类，错误的做法是

• A.直接使用mahout算法，在namenode机器的本地文件系统中调用18828个文件

• B.将这18828个文件上传到hdfs上，然后使用mahout算法分析

• C.使用mahout提供的seqdirectory命令将18828个文件序列化成一个大文件上传到hdfs上，然后使用mahout算法

• D.将这18828个文件rar压缩软件将其压缩成一个大文件上传到hdfs上，然后使用mahout算法分析