从事机器学习多年,个人感觉脑科学启发有炒作成分,神经网络和人的思维完全不一样,目前深度学习需要大量的标注样本,如果说你训练的神经网络只有几层,好像还不敢说出来,人家的神经网络都几百层了,另外训练一个深度网络往往需要几天时间,甚至几个月的时间,如果你电脑性能不好,你就体会到参数调优的痛苦,这些和大脑的思维完全不一样,大脑思考问题不需要那么多样本,更多是基于过去成熟经验和瞬间决策,即灵感。最令人费解的是用反向传播算法来调整参数,如果大脑按照这样的策略来思考问题、做最优决策,估计现在人类已经退化到原始社会了。从本质上讲,神经网络是一个函数,网络结构决定了如何构造这个函数,最终的情况是这个函数只不过是激活函数的多层复合和组合,是数学上很多逼近定理中一个,并不是什么神奇的东西,它确实解决了一些问题,但和人脑启发没什么关系。卷积神经网络也是炒作热点,每年有大量的研究文献,其实卷积就是数学上的卷积概念。卷积在傅里叶分析、信号处理上用了很多年,终于有个懂数学的计算机学家把卷积应用在神经网络上,取得成功,但不是受到脑科学启发,而是数学上的启发。
确实神经网络、深度学习在某些特定领域取得巨大成功,但我们必须清醒地认识到,它不是万能的,在很多企业实际问题上表现得很糟糕。比如企业很关心一些预测问题,如预测明年营业额、利润,预测明年用电量,预测关键用户数量等,这些预测问题的特征是数据量特别少,使用神经网络容易过拟合。企业项目中,举例来说,预测问题我会使用局部权重线性回归,岭回归,lasso回归,灵活回归,贝叶斯岭回归,高斯回归,huber回归,决策树回归,最近邻回归等,如果数据没有其他属性,可以考虑时间序列方法、灰色理论、隐马尔可夫模型等。当然这些方法不是单一的,可以组合和改进。因此我想说的是,达到同样(或者还差点)的预测效果,模型越简单越好,泛化能力就越好。这才是人脑启发的思维。
Bengio 和微软团队日前在 arXiv 上发表论文,介绍了一种用于研究对科学图像进行视觉推理的机器学习数据集 FigureQA,包括基于 10 万张合成图像的 100 万个问答对,为构建可直观识别数据视觉表征模式的模型迈出了重要的第一步。
摘要:我们介绍了一种视觉推理数据集 FigureQA,包含建立在 10 万张图像上的超过一百万个问答对。图像是科学类电子资源格式,从五个类别中合成:线图(line plot)、点线图(dot-line plot)、横条图(horizontal bar graph)、纵条图(vertical bar graph)和饼图(pie chart)。我们从 15 个模板中生成问题来构建我们的推理任务;问题涉及不同绘图元素之间的各种关系,检查特征如最大值、最小值、曲线下面积、平滑度和交点。解析这类问题通常需要参考多个绘图元素和图像中空间分布信息的合成。为了加速机器学习系统的训练,该数据集还包含边数据(side data),可用于构建辅助目标。尤其是,我们提供用于生成每个图像的数字资料和所有绘图元素的边界框标注信息。我们通过训练多个模型来研究提出的视觉推理任务,模型包括近期提出的强基线:关系网络(Relation Network)。初步结果表明该任务为机器学习带来了一个巨大挑战。我们认为 FigureQA 是构建可直观识别数据视觉表征模式的模型的第一步。
数据集制作
该数据集通过两个阶段来生成。首先,从仔细调整的旨在使采样图像更加自然的约束集和启发集中采样数字资料。然后,使用 Bokeh 开源绘图库 [5] 绘制图像中的数据。该流程使我们获取图像中的大量的定量数据。我们还修改了 Bokeh 后端以输出所有绘图元素的边界框:数据点、轴、轴标签和轴刻度、图例符号(legend token)等。我们提供基础的数字资料和边界框集作为每个图像的补充信息,这对构建辅助任务很有用处,如重建一个图像中的大量数据,或者使用边界框目标监督注意力机制。我们还在数据集制作过程中,平衡每个问题类型和每个图像「yes」和「no」答案的比例,以使模型更难在无视视觉内容的情况下利用答案频率的偏差。
图 1. 问答对的线图示例。
表 2. 问题类型
我们的编辑团队从我们的测试集中回答了部分问题,其中包含 16876 个问题(和 1275 张随机选取的图像相关,大约每种图像类型有 250 个问题)。表 3 总结了实验结果。只用文本的模型和 CNN+LSTM 模型的比较表明视觉模态对学习是有贡献的。然而由于问题的关系结构,RN 的表现显著地超越了更简单的 CNN+LSTM 模型。我们的人类基线水平表明这个问题还很具挑战性,但已经有了标志性的进步。表 4 和表 5 展示了 RN 和我们的编辑人员分别在每一类图像和每一类问题上的表现水平。
表 3. 我们的基线模型在测试集上的性能水平
表 4. RN 和人类在测试集上每一类图像的表现水平
表 5.RN 和人类在测试集上每一类问题的表现水平
6 结论
我们介绍了 FigureQA,一种用于研究对科学图像进行视觉推理的机器学习数据集。该数据集包括基于 10 万张合成数字图像的 100 万个问答对。问题包括图特征如极值、曲线下面积、平滑度和交点,需要整合图像中空间分布的所有信息。该数据集还包含边数据以推动机器学习系统的训练。这包括用于生成每个图像的数字资料和所有绘图元素的边界框标注。我们通过在数据上训练三个基线神经模型、分析其测试集性能,并与人类的表现进行比较,来研究视觉推理任务。结果表明还需要更强大的模型才能追赶人类水平。
首先语言表达意思的多样性,比如名字纽约,表达的意思有很多种,可以是人名,公司,地址纽约州,地址纽约市,要理解这种多样性,需要上下文环境,但一个有限的语言模型很难做到通用性。其次是很难用机器理解语言中的思想。比如高中哪些语文阅读题,我们都很难对付,何况机器呢?无论统计语言模型还是神经网络语言模型,归根到底,都离不开随机性,随机能否理解思想吗?比如用神经网络训练一个文字生成器,这个不需要标注,提供一段文字即可。如果神经网络拟合得很好,甚至过拟合,那么最终文字生成器没什么意思,因为生成的文字和训练的文字没什么区别。因此神经网络要保持一定的误差,也就是训练的时候不能太好,即留出一点随机性,这样生成的文字才有可能和训练文字不大一样,但是生成文字没有思想,甚至语法不通。因此,我特别怀疑市面上的文字生成作品,是不是单纯的语言模型实现的?背后是否隐藏了大量人为规则和大量文本匹配、组合、替换?
问达院系介绍鲁东大学鲁东大学艺术学院怎么样?设有哪些专业?鲁东大学的艺术学院师资力量如何?专业学习方向是哪些?整体实力怎么样?鲁东大学的艺术学院师资力量如何?专业学习方向是哪些?整体实力怎么样? 添加评论 邀请回答 举报 分享1人已关注 添加评论 邀请回答 举报 模拟志愿填报 1关注者1个回答MG273 ~接下来我为大家简单介绍一下我们鲁东大学的艺术学院开设的专业以及研究情况 专业设置:美术学、视觉传达设计、环境艺术设计、音乐学、音乐表演、舞蹈表演鲁东大学艺术学院创建于1989年,为胶东地区创建最早的艺术院系之一,学院现有教职工112人,其中教授5人、副教授25人,博士9人,硕士生导师13人;全日制本专科学生1565人,研究生121人。学院设有美术学、视觉传达设计、环境艺术设计、音乐学、音乐表演、舞蹈表演6个本科专业以及美术学一级学科硕士学位授予点、学科教学(音乐、美术)硕士招生方向,其中美术学(教师教育)为教育部本科课程试点专业,视觉传达专业为省级名校工程特色专业建设项目,艺术美学为省级重点学科。近年来,学院教师共出版专著、教材和个人书画集52部,在《美术研究》《美术观察》等核心期刊发表学术论文260余篇,承担厅级以上研究课题120余项,教师作品曾获全国美展铜奖、“十艺节”美展优秀奖、“泰山文艺奖”等权威展赛奖项30余次。 学院先后同美国、韩国等国高校建立了人才交流培养关系,每年聘请外籍教师来校授课讲学,并与美国布里奇波特大学合作开设艺术设计专科专业,先后有15人赴美深造并取得佳绩。迄今为止,学院已为社会输送毕业生一万余人,活跃在省内外高校、部队、机关、文艺团体以及各企事业单位,成为各行各业中的骨干力量。尤其是以校友秦修平、王小刚、赵露等为代表的“鲁大画家群”在当今画坛颇具学术和创作影响力。 ~欢迎大家来我们鲁东大学读书,我们艺术学院的同学个个都很热情的偶 ~接下来我为大家简单介绍一下我们鲁东大学的艺术学院开设的专业以及研究情况 专业设置:美术学、视觉传达设计、环境艺术设计、音乐学、音乐表演、舞蹈表演鲁东大学艺术学院创建于1989年,为胶东地区创建最早的艺术院系之一,学院现有教职工112人,其中教授5人、副教授25人,博士9人,硕士生导师13人;全日制本专科学生1565人,研究生121人。学院设有美术学、视觉传达设计、环境艺术设计、音乐学、音乐表演、舞蹈表演6个本科专业以及美术学一级学科硕士学位授予点、学科教学(音乐、美术)硕士招生方向,其中美术学(教师教育)为教育部本科课程试点专业,视觉传达专业为省级名校工程特色专业建设项目,艺术美学为省级重点学科。近年来,学院教师共出版专著、教材和个人书画集52部,在《美术研究》《美术观察》等核心期刊发表学术论文260余篇,承担厅级以上研究课题120余项,教师作品曾获全国美展铜奖、“十艺节”美展优秀奖、“泰山文艺奖”等权威展赛奖项30余次。 学院先后同美国、韩国等国高校建立了人才交流培养关系,每年聘请外籍教师来校授课讲学,并与美国布里奇波特大学合作开设艺术设计专科专业,先后有15人赴美深造并取得佳绩。迄今为止,学院已为社会输送毕业生一万余人,活跃在省内外高校、部队、机关、文艺团体以及各企事业单位,成为各行各业中的骨干力量。尤其是以校友秦修平、王小刚、赵露等为代表的“鲁大画家群”在当今画坛颇具学术和创作影响力。 ~欢迎大家来我们鲁东大学读书,我们艺术学院的同学个个都很热情的偶 阅读更多更新于 2021-12-09 模拟志愿填报 0 添加评论 收藏 举报相关问题石河子大学文学艺术学院怎么样?设有哪些专业?院系介绍石河子大学山东大学艺术学院怎么样?设有哪些专业?院系介绍山东大学信阳农林学院文学艺术学院怎么样?设有哪些专业?院系介绍信阳农林学院南通大学艺术学院(建筑学院)怎么样?设有哪些专业?院系介绍南通大学陕西理工大学艺术学院怎么样?设有哪些专业?院系介绍陕西理工大学