自组织增量学习神经网络-SOINN

标签: 科研 SOINN 增量学习 机器人 神经网络 | 发表时间:2011-08-08 19:55 | 作者:丕子 金文
出处:http://www.zhizhihu.com

自组织增量学习神经网络(Self-organizing incremental neural network, SOINN)实现包括学习、记忆、联想、推理、常识等方面的研究,最终目的是实现能够模拟人类大脑的供智能机械使用的通用型智能信息处理系统——人工脑。 其主要研究内容包括:

a. 基于SOINN的监督学习、非监督学习、半监督学习算法研究

b. 基于SOINN的通用型联想记忆系统研究

c. 基于SOINN的pattern-based reasoning(基于模式的推理)系统研究

d. 基于SOINN的常识系统的构建

以上述各研究为基础,建立类似于人脑的能处理视觉、听觉,能实现对话、推理,具有相当程度自主性的人工脑系统,该人工脑系统在和环境交互作用、和人交流等的过程中能够不断发展自己对世界的认知能力。

关于SOINN的研究,由于是南京大学的申富饶自主开发的这个系统,所以最多的工作开始在南京大学:http://cs.nju.edu.cn/rinc/SOINN.html,和日本东京工业大学有很多作品,http://haselab.info/soinn-e.html可以访问,包括论文以及源码。

Published Papers

  • Tutorial of SOINN

Furao Shen and Osamu Hasegawa, “Self-organizing Incremental Neural Network and its Applications“, Tutorial, International Joint Conference on Neural Networks (IJCNN 2009)

  • Original SOINN

Furao Shen and Osamu Hasegawa, “An Incremental Network for On-line Unsupervised Classification and Topology Learning“, Neural Networks, Vol.19, No.1, pp.90-106, (2006)

  • Pattern-based reasoning

Shen Furao, Akihito Sudo, Osamu Hasegawa. “An online incremental learning pattern-based reasoning system“, Neural Networks 23, pp.135-143, (2010).

  • E-SOINN

Furao Shen, Tomotaka Ogura and Osamu Hasegawa, “An enhanced self-organizing incremental neural network for online unsupervised learning“, Neural Networks, Vol.20, No.8, pp.893-903, (2007)

  • SOINN-NN (Nearest Neighbor)

Furao Shen and Osamu Hasegawa, “A Fast Nearest Neighbor Classifier Based on Self-organizing Incremental Neural Network“, Neural Networks, Vol.21, No.10, pp1537-1547, (2008)

Software

From the below link, you can get the source code and sample datas of SOINN program with single layer.

Since we upload these program as the solution of Microsoft Visual Studio 2005, please change some properties of it to use if you need.

==============================

  1. Aram Kawewong, Yuji Koike, Osamu Hasegawa and Fumio Sato, “Fast and Incremental Neural Associative Memory Based Approach for Adaptive Open-loop Structural Control in High-rise Buildings”, Proc. ICONIP2011 (2011), accepted
  2. Hiroshi Morioka, Yi Sangkyu, Osamu Hasegawa : “Vision-based Mobile Robot’s SLAM and Navigation in Crowded Environments”, IEEE/RSJ International Conference on Intelligent Robots and Systems, (IROS 2011), accepted
  3. Sirinart Tangruamsub, Aram Kawewong, and Osamu Hasegawa, “Fast Online Incremental Attribute-based Object Classification Using Stochastic Gradient Descent and Self-Organizing Incremental Neural Network”, IPCV’11: July 18-21, 2011, USA
  4. Aram Kawewong, Sirinart Tangruamsub, Pichai Kankuekool and Osamu Hasegawa, “Fast Online Incremental Transfer Learning for Unseen Object Classification Using Self-Organizing Incremental Neural Networks”, The 2011 International Joint Conference on Neural Networks (IJCNN)

———————SOINN:自我学习机器人———–

另外,日本工业大学的机器人最近很热。(图片link)你能看到好多机器人的图片。

下面转载新闻

日本研究人员研制出一款拥有学习能力的机器人,可以学习并掌握编程时并不具备的功能

往杯子中倒水。这款机器人可利用过去的经验和自己掌握的知识做出判断,找到最理想的处理方式

北京时间8月8日消息,据国外媒体报道,现在,日本研究人员研制出一款能够学习并掌握编程时所不具备功能的机器人。虽然与《终结者》中的天网仍相差十万八千里,但这款机器人可利用过去的经验和自己掌握的知识做出判断,找到最理想的处理方式。

目前,这款机器人还只能完成一些简单任务,例如拿起装有水的杯子并往杯子里放冰块。研究小组希望它能够像孩子一样,学习和掌握更多技能,并随着时间的推移变得越发强大。

这项技术名为“SOINN”(自组织渐增神经网络的英文缩写),由东京工业大学的研究人员研发。在YouTube上的一段视频中,他们的机器人 将瓶子中的水倒进杯子,这是事先编好的程序。在此之后,他们又要求正在完成其他任务的机器人将杯子中的水冷却。机器人停下手头的工作,思考之后放下瓶子, 拿起冰块放入杯子中。这个看似不起眼的举动说明SOINN机器人已经具备学习能力。根据事先设定的指令,它并不会往杯里放冰块,完全是自行决定。

作家鲍勃-耶卡在美国物理学家网组织网上撰文指出:“这次小小的演示代表着机器人技术和编程的一次真正意义上的飞跃。具备学习能力意味着机器人 在编程时只需拥有非常基础的先前知识,随着时间的流逝和不断学习,机器人可以掌握更多知识,无需额外编程。这一点与人类相似。人类在出生时所具备的知识非 常有限,一生都在不断学习,不断积累和掌握新知识。”

在《终结者》系列影片中,天网电脑系统获得自我意识,在与世界各地的其他电脑联网之后向人类发动攻击。通过允许机器人连接互联网并求助于其他机器人,SOINN技术在这条道路上迈出一步。虽然可以求助于其他机器人,但这种能力距离成为终结者仍相差十万八千里。

东京工业大学副教授长谷川修在接受视频新闻网站DigInfo采访时表示:“对于现实世界的人工智能来说,现实环境更加复杂并且快速变化。机器 人需要具备学习能力,适应环境变化。由于不断出现新形势,机器人需要具备在现场掌握新信息的能力。”他指出这款机器人是否以及何时投放市场仍是一个未知 数。

您可能也喜欢:
消失了几天
无觅

相关文章

相关 [自组织 学习 神经网络] 推荐:

自组织增量学习神经网络-SOINN

- 金文 - 丕子
自组织增量学习神经网络(Self-organizing incremental neural network, SOINN)实现包括学习、记忆、联想、推理、常识等方面的研究,最终目的是实现能够模拟人类大脑的供智能机械使用的通用型智能信息处理系统——人工脑. a. 基于SOINN的监督学习、非监督学习、半监督学习算法研究.

零基础入门深度学习(5) - 循环神经网络 - 作业部落 Cmd Markdown 编辑阅读器

- -
零基础入门深度学习(5) - 循环神经网络. 无论即将到来的是大数据时代还是人工智能时代,亦或是传统行业使用人工智能在云上处理大数据的时代,作为一个有理想有追求的程序员,不懂深度学习(Deep Learning)这个超热的技术,会不会感觉马上就out了. 现在救命稻草来了,《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平.

轻量的神经网络

- - Just for Life.
很久之前我觉得移动端应用几百兆的模型不切实际,在不考虑蒸馏、量化等压缩方法下,发现了 MobileNet 设计的很神奇,大小只有几 MB,可以说是一股清流了. 就整理发布了一下,然后今天发现找不到了,神奇. (于是顺手和 ShuffleNet 一并整理到轻量化的神经网络中). 基本上可以说这个版本是后面几个版本的出发点.

BP神经网络的Java实现

- - ITeye博客
课程作业要求实现一个BPNN. 此前只用Matlab实现过,这次尝试使用Java实现了一个. 关于BPNN的原理,就不赘述了.  为了验证正确性,我写了一个测试用例,目的是对于任意的整数(int型),BPNN在经过训练之后,能够准确地判断出它是奇数还是偶数,正数还是负数. System.out.println("训练完毕,下面请输入一个任意数字,神经网络将自动判断它是正数还是复数,奇数还是偶数.

神经网络与用户行为

- - 博客园_新闻
英文原文: Neurology & User Behavior: What We Know. 流量和转化率是我们衡量一个网站是否成功的两个重要指标. 网站转化率就是指用户进行了相应目标行动的访问次数(成交人数)与总访问次数的比率. 这里所指的相应的行动可以是用户登录、用户注册、用户订阅、用户下载、用户购买等一些列用户行为,因此网站转化率是一个广义的概念.

[译] 调试神经网络的清单

- - IT瘾-dev
训练深度学习模型是非常耗时的工作,没有什么比花费了好几天训练而最终结果效果不佳更让人沮丧的了. 因此翻译了这篇文章: Checklist for debugging neural networks,希望能给你一点启发,尽早发现模型中的问题. 原文地址:https://towardsdatascience.com/checklist-for-debugging-neural-networks-d8b2a9434f21 ,略有删减.

研究人员首次用DNA构造人工神经网络

- Robi - Solidot
加州理工研究人员首次用DNA构造出人工神经网络,类似一个简化的大脑. 此前他们曾研制过一个能计算平方根的DNA逻辑门. 研究人员112种不同的DNA链组成四个相互联系的人工神经元,它会玩一个猜心术的游戏. 研究人员和这个试管中的神经网络玩了27次游戏,每次提供的线索都不相同,而它每次都猜对了. 研究人员表示,具有人工智能的生化系统,可以在医药,化学以及生物领域带来不可估量的应用.

动态神经网络工具包DyNet:比Theano和TensorFlow更快

- - IT瘾-tuicool
近日,来自卡内基梅隆大学、日本奈良先端科学技术大学、Google DeepMind、以色列巴伊兰大学、艾伦人工智能研究所、IBM T.J. Watson 研究中心、澳大利亚墨尔本大学、约翰·霍普金斯大学、谷歌、华盛顿大学、微软和英国爱丁堡大学的研究者共同发表了一篇重磅论文《DyNet: The Dynamic Neural Network Toolkit》,正式介绍了动态神经网络工具包 DyNet;该工具包也已在 GitHub 上开源:http://github.com/clab/dynet.

用神经网络训练一个文本分类器

- - 文章 – 伯乐在线
理解聊天机器人的工作原理是非常重要的. 聊天机器人内部一个非常重要的组件就是文本分类器. 我们看一下文本分类器的神经网络(ANN)的内部工作原理. 我们将会使用2层网络(1个隐层)和一个“词包”的方法来组织我们的训练数据. 文本分类有3个特点:模式匹配、算法、神经网络. 虽然使用多项朴素贝叶斯算法的方法非常有效,但是它有3个致命的缺陷:.

用paddle实现一个CNN神经网络

- - 非技术 - ITeye博客
问题:实现在MNIST数据集上,对数字的识别. (1)输入:MNIST手写的数字图片,它是一个28*28的二维图片,为了计算,我们将其转为784维的一个向量. (2)输出:分类器的输出是0-9的数字的概率. (3)分类器的设计:5层的卷积神经网络. 即:conv->pool->conv->pool->FC->softmax.