人工智能与现代社会

标签:安全技术模式

访客:27075  发表于:2013-12-30 13:43:54

  主讲人简介
  钟义信,江西龙南人,1940年出生,1962年北京邮电大学无线电通信与广播专业本科毕业,1965年信息论专业研究生毕业,1979到1981年是英国伦敦大学帝国理工学院访问学者,回国后一直在北京邮电大学任教,曾任信息工程系主任、校长助理、副校长,现为北京邮电大学智能研究中心教授、博士生导师、校学术委员会主任。
  内容简介
  熟悉人类历史发展和科学进步的朋友都知道,千百年来人类有一个非常强烈的愿望就是要不断地从自然力的束缚下解放自己,超越自己。古今中外已经有很多类似的例子,如中国古典小说《三国演义》中记载的诸葛亮制造木牛流马运送粮草,神幻小说《西游记》更是把一块顽石想象成为“齐天大圣”为唐僧西天取经降妖除魔,扫平一路的障碍。国外有一本小说《爱里翁》描写了很多机器人为人类服务,帮助人类实现理想的故事。
  到了现代,人类有了更多的想法。我们希望机器人不但能够帮助人类进行生产劳作,甚至可以帮助人类料理家务等一些琐碎之事。这些都反映了人类在整个发展的过程中,希望利用外来之物来强化自身,摆脱自然力的束缚得到解放。
  人类要想获得解放就必须依靠各种各样的工具,而最精彩的人类工具就是带有智能的工具。本期节目将向各位观众介绍人工智能在各个时代的不同发展,并展示人工智能的过去、现在和将来。
  全文
  今天我们讲座的题目是《人工智能与现代社会》。熟悉人类社会发展的历史和科学技术进步的历史的人都知道,人类有一个非常强烈的愿望,就是要不断地从自然力的束缚下解放自己,这是一个可以说是千古的、美好的梦想。
  大看过《水浒传》的人就知道,有一个人物叫做戴宗,他是依靠一对甲马绑在腿上,他就可以日行千里;同样《岳飞传》里头,有一个牛皋 ,大家可能也很熟悉,他穿了一双靴子就可以在洞庭湖如履平地;类似的这种传说很多,比方说诸葛亮是制造了木流牛马,用它们来运送粮草;《西游记》里头更把一块顽石想像成为一个齐天大圣,来为唐僧取经,扫平路上的障碍、除妖、开路。国外也是这样子像有一本非常著名的小说《爱里翁》,那里描写了很多机械人,为人类做各种各样的事情,
  那么现代人,当然有更多的想象和向往。就是各种各样的智能机器人,不断能够帮助人类进行生产劳作,甚至可以帮助自己料理家务等等。这些就反映人们在整个的发展的过程当中希望利用外来之物来强化自身,这样摆脱自然力的束缚,人类从中可以得到解放,所以就是千古梦想,应该是很美好的一个梦想,也是非常合理的梦想。那么这个梦想怎么样才能变成现实,这里有一个奥妙,就是人想要从自然力的束缚下解放出来 ,一定要依赖各种工具,使用工具才能达到这个目的。那么我们知道人力的工具,主要是要各种各样的材料,所以有材料科学技术的帮助,可以把物质资源通过加工,制造成人力工具,就可以使得人体质的功能得到增强。动力的工具呢!就要依靠能量的科学技术来把能量资源转换成为动力工具,这样呢,人的体力的功能就可以得到大大的增强。那么最精彩的是人希望有一种智力的工具,它就要依靠信息科学技术来把信息资源转化成为这种工具,帮助人来扩展自己的信息功能、智力功能,这样就可以把人类从很多繁重的劳动。包括体力劳动和智力劳动,除了创造性的劳动之外能够解放出来。所以资源、科学、技术、 工具,这个是人类争取从自然力解放的一个非常重要的途径。
  从历史的发展来看。我们可以看到这张表写出来了,什么样的时代利用什么样的资源;能够制造什么样的工具;因此扩展什么样的能力;带来什么样的社会的文明。
  我们看古代,主要是利用物质资源,所以它主要只能制造人力的工具,这样扩展人的体质功能,因此可以支持农业社会的文明。近代呢?那么就可以利用能量的资源来制造动力工具,工具本身有动力了,于是可以扩展人的体力的功能,支持了工业社会的文明。可能我们最关注的是现代,现代社会呢?由于信息科学技术的发展,它可以把信息资源转化成为知识,制造各种各样的智能工具。因此可以使得人的智力功能得到很好的扩展,这样一来就会导致一代新的社会文明,也就是信息社会,
  我们可以用大家比较熟悉的一种工具或者是科学技术的成果,来反映刚才这样的过程。比方最早的机器人,它就是只利用材料来制造的,那么这种机器人没有动力,所以做的事情很少,那么到了近代呢!它可以把动力赋予机器人,所以机器人就可以做各种各样的动作。比方说搬运或者是生产流水线的某些固定的动作 ,现在 我们又看到了更现代、更先进的机器人,那么它就有一定的智力的这种功能,所以它可以完成比较复杂的各种功能 。最近从电视上大家可以看到 很多机器人,包括我们国家机器人足球非常的精彩,人类的足球比赛,我们一直期盼他们冲出亚洲走向世界,这个经历了比较艰难的历程,但是机器人的足球赛中国的成就非常的好,已经拿到若干个世界冠军。那么这一些机器要能够做这样一些劳动,这样一些工作,那么这里就是人工智能的一种科学技术的成果,
  好了,那么什么是人工智能呢?我们来简单地来说一下。 智能可以说是人区别于其他的动物,更不要说植物了,区别于其他动物的一个最重要的标志,所以把人叫做万物之灵。灵就灵在它有智能。所谓的智能,就是怎么样来调度你的知识成为一种策略,用这个策略可以解决各种各样的问题,所以它是调度知识形成策略,解决问题的能力,调度知识,知识又是什么?这当然大家很熟悉了,不过从科技这个角度讲,我们把知识看作是由信息提炼出来的一种产物,信息是一些具体的东西,但是提炼出成为知识以后,它就反映了一些基本的规律,那么信息又是什么呢?信息就是各种各样事物,它的运动的状态以及这些状态变化的方式,这样我们就由信息知识到智能这几个概念。我们把它贯穿在一起就有一个很明确的智能概念了,
  我们可以知道怎么样才能够去制造这些智能工具?使人类能够从各种自然力的束缚下得到越来越彻底的解放。下面我们看到这个模型,我们人类要解决的各种各样的问题都存在于外部世界当中,那么因此外部世界各种事物的运动变换,就会提供各种各样的信息,
  人这种智能的生物、高等的动物,他的智能模型可以由下面这样一个过程来演示。首先,大家看到人通过感觉器官,可以把外部世界的信息得到,所以他有获取信息的能力。那么得到这个信息以后呢!他可以把这种信息通过下一个环节,就是人的神经系统,把这个信息传递到下面。比方说传递到人脑,那么在人脑这个地方,通过人脑的思维,也就是对信息进行加工,这样就可以把信息提炼成为知识。 刚刚我们讲过,告诉我们人类的智能是自然进化,几百万年,甚至有的估计是几千万年,甚至是亿万年进化的一个结果,所以这个智能是很微妙的,似乎是很神秘,很高深莫测。但是我们要说智能也不是铁板一块,要么有智能,要么没智能。 它不是这样,现在我们大家看到这样一个模型,我们把它看作是智能的一个空间。这个空间里头,智能的水平由低到高可以划分成不同的层次,所以像大家看到最底下的智能水平最低的这个,我们把它看作是自然界当中这些无机物。石头、泥土这些东西它们的智能,这个智能相当于零级智能,就是没有智能,最低就是没有。那么比它高一点的,那么就是植物,大家知道植物是有智能的,要不然像向日葵这种植物,太阳从东边到西边转,向日葵它就跟着太阳的转动能够朝太阳一直来转动,所以植物是有智能的,这样能够使得植物的生长能够更好。除了植物以外,当然更高级的这种生物,就是动物。动物的智能,大家看到就是在模型的智能空间更高的层次。那么当然最高的层次就是人类的智能,所以我们可以把这个智能,分成很多等级。
  因此这样就提供了一种可能,就是我们用机器来去做,希望变成一个智能工具,那么它的智能也许达不到人类智能那么高。但是可能要比植物高明,它的智能可以在动物到人类之间,就看你的机器做得好不好。 在这样智能空间就告诉我们,智能不要看成是有或者没有,实际上它可以划分成很多等级,人工智能在这样一个意义上,我们就把它理解成为机器系统的智能。它就是机器调度各种知识来解决问题的一种能力,如果机器有了这种能力,这个机器就可以帮助我们人去做很多很多的事情,甚至是相当复杂的事情。那么机器的智能,显然要介于植物和人类之间,它也可以形成认识问题、解决问题 ,甚至抽象一下认识世界 、优化世界,它也可以做,惟一的跟人不一样的地方就是它不能够像人一样进行创造性思维。所以人工智能是把人这种智能的机制和信息科学技术,这些具体的技术两者相结合,因此我们讲 人工智能是生物学跟信息学的一种交叉科学技术。
  如果我们大家比较熟悉的话,会听过有好多叫专家系统,就人工智能系统面对某一些具体的问题的时候,它能够以专家的水平去解决。比如天气预报,如果你做一个天气预报的专家系统,那么这个系统它预报的准确度能够达到气象专家的水平。如果你用这个系统做一个看病的医生,那么这个医疗的专家系统,它看病的能力可以达到专家的水平。假如我们要把这个人工智能系统,形成一个很大的社会的这样一个系统,变成一个社会的工具,那么它就要有很多很多刚才这种专家系统跟通信网络集成起来。因为通信网络是覆盖整个社会的,所以专家系统跟通信网络一旦集成起来, 那么它就变成一个社会可用的系统,我们来看这样一个大型的人工智能体系,刚才讲有很多专家专用的智能系统,就刚才讲的专家系统,你看这个就是一个,然后它跟通信网络,通过电磁波或者如果它是固定的话,它可以通过有线、通过电缆、通过光纤来连接。这样,它虽然本来面向专门领域的问题,但是它信息的来源和它的指令的去处都可以通过通信网络覆盖整个社会。有的时候我们也把这个专家系统面向一个单位的专家系统叫做Intranet,这就是跟Internet相对的 Internet,是一个网兼网的 Intranet,是一个单位内部的网。那么单位内部的这样一种智能工具,它是针对专门领域的问题。
  但是虽然解决专门理论问题,它的信息的来源又来自于全社会甚至是全世界,它的结果也要影响到全社会、全世界,所以它要用通过通信来完成这样一个信息的共享。那么这个模型就是一个社会的智能工具,每一个都是有智能,而且是覆盖了全社会。那么, 我们讲到这里,可能会引起一个问题,大家心目当中很多机器能够自动来完成一些操作,因此可能觉得智能工具跟这些自动机器,可能是会认为是一回事。实际上不同,自动机器跟智能机器有很大的不同,自动机器就是自动机。比方说大家家里用的洗衣机也好,电冰箱也好,甚至你家庭的这些操作系统也好,或者像大家比较熟悉的程控交换机、通信网里头的所有这些都是自动机。凡是自动机器,它的特点都是设计机器的人,事先把这个机器要做的各种各样的工作变成一个程序。所以这个机器只能够按部就班地完成这些程序,它不能做别的事,这个程序里头没有的事情,机器不会做,所以它是一个严格受限于设计者事先设计的这个内容,而且只能解决特定的这些问题。
  那么智能机器,它的特点就不是这样。智能机器它没有一个事先固定的,这种按部就班的程序。设计人事先只给它输入这么几个东西:一个是必要的知识;第二个就是你的问题;第三个就是你的规则;第四个是你的目标或者成功和失败的准则,把这些东西输进去,真的一个问题来了以后,这个机器要针对这个问题,在知识当中去寻找,能够解决这个问题的这些知识形成一个规则,然后去解决这个问题。所以你看机器解决问题的具体的策略是机器自己形成的,而不是人事先安排好的。人只给了它必要的知识和规则,以及目标问题环境等等。所以这有很大不同,那么如果有一个问题,应该说一般的问题,机器事先都不知道,但是它都能够找到一个办法去解决。当然这个问题,一定在知识库当中的知识,要包含这个问题。如果这个问题越出了超出了这个知识库的范围,这个机器最终还是找不到解决这个问题的办法,但是它不是按部就班,按人类事先指定的程序一板一眼这么走,这就是它的智能所在。显而易见非常有用,大家可能前两年听到过一个非常激动人心的,一个报道——就是IBM的深蓝计算机,它叫Deeperblue,既然打败了国际象棋的世界冠军,那么这个并不是程序设计员事先设计好。计算机第一步怎么走,第二步怎么走,不能这么设计,因为如果你设计的这么“死”,那个世界冠军他的走法是灵活多样经常会变化的,那你这么死的步骤,你肯定打不了胜仗,所以它是要针对对方的走步,机器自己来寻找一个能够赢棋策略,这就是智能所在。那么显而易见这样一种机器比自动机器要有用得多,非常有价值。
  这是我们跟大家讲到的人工智能,到底什么是人工智能?那么既然这种机器这么好,这么精彩, 既然下棋都能够下过人类的世界冠军,为什么以前我们不去研究它?到现在才来去研究关注人工智能。 这里有一点非常重要的道理,或者为什么我们要这种人工智能。
  就是比方说,我们靠计算机的高速运算,能不能就够了, 我们说不够。一定要有智能 不但速度要快,更重要是有智能,因此我们举个例子来给大家讲这个道理。就是高速的计算机不足以解决复杂的问题,可能很多人听到古印度,有一个寓言 就讲有一个大富翁,其实他是个酋长。有一天过生日,那么很多人都来贺礼,来祝贺他的生日,其中有一个乞丐,这个乞丐是非常聪明的人,这个祝贺生日当然要送很多礼,这个乞丐什么也没有。那么这个酋长就说,那么你给我什么礼物呢?那个乞丐说我会给你一个智慧,如果客人送了礼物呢,那么酋长应该还人家礼,所以这个酋长就问。如果你给了我礼物,我应该还你什么呢?这个乞丐就说什么也不要还,如果你能够跟我一起来做一个游戏,那么就一切都很满意了。他做什么游戏呢 ?这么个游戏。大家看这么一个方块,上面横线八条、竖线八条,分出来六十四个格子,那么这样的话呢。这个乞丐叫酋长,他说你在第一个格子里头放一粒谷;第二个格子呢,放第一个格子两倍的谷子,也就是两个;第三个格子也放第二个两倍,也就是四个。所以1、2、4、8、16、32、64,这样一直往下放 放满64个格,这就是这个乞丐他要他跟他做的这个游戏。如果真的把这64个格子,按照刚才那个规律来放,会是一个什么结果呢?这个酋长没想到以为很简单,放一粒放两粒,如果要真放满的话,我们可以算一下。这个数就等于是2加2 ,一直加加加,加到2的 63,2的0就是一个。 就这个2的一就是2,到64格就是2的63,这个总和就2的64,大致等于10的19这么多个谷粒,那么要放这么多的谷粒,大家有没有具体的概念。
  我给大家一个具体的概念就更清楚了。如果不要说人去放,速度比较慢。如果我们用一个计算机来放,它的速度比较快。比如说计算机放谷粒的速度,可以每秒钟放3×109这么多粒,这就等于30亿粒,一秒钟可以放30亿,这么快的速度,让计算机以这个速度来放,结果要把整个放满的话,要放3×10的9秒。 因为这两个数一乘就是这个数,很容易算 3×10的9秒,是多少时间呢? 正好是一百年,所以 这个酋长要把这个游戏玩完的话,要花一百年。那么酋长能不能活到这个时候?是一个大问号。所以结果酋长就被乞丐用这样一个智慧问题给将住了,所以这就成为一个佳话。变成一个什么问题呢?你运算速度尽管很快,但是面对一些稍微复杂的问题,你还是解决不了。如果我们想像刚才讲到的“国际象棋”,这个有一个统计数,国际象棋它一共如果各种各样可能的走法,把它统计起来有10的123倍的各种走法,所以如果计算机来跟对方下棋,它没有一种智能,而是说你走一步,它就要把各种可能都试一下。试完以后,来找一个最好的策略来走步。这样的话,它要把所有的可能的步数都要试遍的话,理论上讲要用10的104的世纪,那就绝对没有可能。所以光靠快是不成的,有很多问题又要快又要聪明,要有智能才行,所以发明了计算机还不够,还得要去研究人工智能,这个道理就在这儿。
  那么为什么刚才讲,这么能干的机器,为什么以前没有注意到?到现在才去研究。当然,一方面以前我们碰到的问题都比较简单,或者碰到复杂的问题就不管了。现在复杂的问题也得去做,所以有这个需求了。另外一个问题就是我们人的认识有一个过程,刚才我们讲到它必须要从比较简单的地方开始,人的认识规律从简单到复杂,从直观到抽象。
  大家看这个表就是我们刚才看的表,这个历史从古代到近代到现代,就这么走过来了。那么它最早只能够,人类认识比较直观的,这种物质资源,所以会导致于农业社会,然后认识比较相对抽象的能量资源,导致于近代的工业社会。到现在才能够去对付这种非常抽象的信息,这样才能够逐渐逐渐推动信息社会的到来。目前的进展,智能系统可以有比较直观的形象思维跟比较抽象的逻辑思维相结合。而且由表层的智能向深层的智能往这个方向走,还有模拟一个人的个体智能到模拟整个集体的智能。或者社会的智能往这个方向走,这是它的进展,现状凡是比较规范的问题,现在都能够达到。
  比较好的这种水平,比方说大家知道指纹识别。这也可以做到非常的准确。虹膜的识别,也是可以做到非常的满意。那么比较专门的领域,像刚才讲让做一个机器医生,做一个专家咨询这种专门领域,领域比较具体的,也还能够做得比较满意。但是要做得比较深层的,比方说模拟人的理解能力,这方面还有比较多的困难,还不是特别满意。这个大家可能有这个经验,机器翻译,有很多翻译机当字典用可以,查字典没问题。要是整个一篇一篇文章,翻译出来,你会发现有很多错。那么虽然目前是这种状态,但是我们可以展望一下人工智能的展望,由于现在的理论和技术的进步,我们可以看到它的前景是非常好。一般的来讲在获取信息,传递信息和咨询信息,这几个环节方面可以做到比人的能力还要强,但是在创造性思维方面,是不如人。这个原因也很简单,因为人自己都搞不清,人的创造性思维的过程,怎么样进行的?顿悟、灵感怎么样产生呢?描述不出来。人描述不出来,所以人就没有办法去让机器具备这个能力,那么这样呢!一个比人强的一方面,也有比人弱的一方面,所以我们就可以很自然想到,人跟智能系统应该有一个分工。凡是那种传递信息获取信息,控制让机器来做,凡是创造性思维要人来做,这样人机分工 又人机合作。那么这样一来,人跟机器成为一个共生体,以人为主导机器来服务。那么这样就会使得人的能力非常的强大,那么这就是将来的人跟机器合作的一种途径、一种模式。这样一种模式非常巧,我们完全是从科学技术这个角度分析下来。
  有这么一个结论,未来的劳动方式是这样。那么马克斯在一百多年前写《资本论》的时候,就曾经写到过这么一段话。这是马克斯对人类社会未来的发展的一种预测、一种憧憬。他这么讲,他说随着大工业的充分发展,这句话讲的就是我们今天。那么到这时候会什么样子?劳动者不再是生产流程的一个环节。你看劳动者在这儿、流程在这儿、生产流程在这儿。那么不再是一个流程单位环节,而是站在生产流程的旁边,站到这儿了。对生产流程进行管理和监督,刚才我们讲一个是管理,要给它下任务,给它出题目,题目而且出得有创意,这样社会进步才有意义。和监督,刚才讲验收它的产品。所以你看马克斯预测未来的社会,人类的生产劳动的方式是这样,而这个描述呢!就是我们刚才看到的这么一个过程,所以可以说不谋而合。那么这样一种发展前景,当然是很美好的。我们中国自己在人工智能的研究方面,通过广大科技工作者的努力,也可以说 取得了很大的成绩。在应用方面呢!应该说中国人已经做出很多很精彩的应用。
  比如说CIMS是在工业上、农业上有很多农业专家系统;商业上、教育上、国防上,一直到最近。比方说关于语言的信息技术,也有很多进展 机器翻译。虽然现在不满意,但是现在在取得比较好的进步,用机器来对文章做摘要可以做得跟人做的摘要一样好。在网络上去检索我们需要的信息,这叫智能的搜索引擎,我们已经做得相当漂亮。还有就是网上现在大家看到有很多不好的内容,那么现在我们可以做一个系统,把那些不好的内容过滤掉,而把好的内容保留下来,它能够分得清哪是好哪是不好,这就是要理解这个文章的内容等等。还有刚才我讲的机器人,我们中国的机器人能踢足球,而且能够踢到世界杯的拿冠军这种水平,所以中国人在人工智能方面。我们一个总的概念就开始走上了自主创新的这个阶段。典型的应用,应该说智能的问题无处不在,哪里有人哪里就希望有人工智能系统来帮助人。
  刚才讲到机器医生,北京曾经有一个机器模拟北京中医研究院的一位老大夫看肝炎病的,叫关幼波。这个机器诊断肝炎病人的结果,居然能够得到关先生的赞同。他说一个病人来了,机器检验的结果判断的结果,开出的处方给关先生看。关先生说如果我来看这个病,也是这样。所以这个是很有意义的,这种成果,机器博奕刚才讲到下象棋,这种大家都很清楚了,柔形加工、农业专家系统,刚才也提到过安全的问题,还有信息站。现在知道打仗,已经不是像过去二百米之内见硬功夫、拼刺刀,而是靠信息的这样一种运作把战场处理差不多,人才上去。还有最近我们提了一个2008年奥运会,很多人讲的话都不一样,因此要互相理解很困难,我们就提出了一个虚拟的志愿者,就是用人工智能来做的各种各样的系统。它能够主动地跟奥运会的参与者去跟他去攀谈,然后给他咨询,提供很多这种服务。会使得奥运参与者感觉到中国人的人工智能系统,非常精彩,会留下很难忘的印象,这个现在正在做。
  最后一个我就想说一下智能化对我们的现代化和我们国家现在正在推进的信息化,意义是非常大的。一个就是这个模型告诉我们社会的进步,它是依赖于科学技术提供的先进的生产工具,从而人利用这种工具去跟各种劳动对象打交道,形成先进的生产力,而这种先进的生产力呢!要求先进的生产关系跟它相适应,因此导致于先进的经济形态,产生好的产品来满足社会的需求。老的需求满足之后,新的需求又会出现,所以总是这样不断地循环,不断地走向更高的阶段。所以科学技术对于社会的进步可以说是非常重要,这就为什么邓小平同志讲,科学技术是第一生产力。那么智能系统它之所以重要,是因为它除了别的系统以外,它有智能 而有智能的机器,可以帮助人做更多、更好、更复杂、更重要的事情。
  那么现在我们国家在推动信息化 这个信息化概念,大家都很熟了,我就不说了。但是智能技术它是信息技术,最精彩,也是最重要的这部分,是它的核心。所以如果没有智能化的信息化,那我们做了多少年信息化,是一种初等的信息化。所以一定要在推动信息化的过程中,大力地 广泛地、普遍地采用智能技术,是否能够在信息过程当中,信息化过程中大力推进各个领域的智能化。将直接影响信息化的质量水平和能力,这是由于它智能技术的能力所决定的。而且只有充分的利用智能工具才可能使传统的工农业生产,能够使它的产业升级。下面这个讲的具体一些内容,就是升级 有一些标志,而这些标志只有利用智能工具才可能达到。不但是工农业生产产业能够升级,而且使国民经济产业的结构能够优化。这个产业结构优化,最重要的指标就是工业农业因为它利用了。智能工具,所以它的从业人口可以大大的减少,机器可以做更多的事,那么更多的人转移到第三产业。信息经济、知识经济、高技术经济,因此整个国民经济结构就优化了。而且向更高的水平发展,实现全面的现代化,所以智能化跟信息化跟现代化,这个关系非常密切,而且极其重要。而过去说以前没有注意到智能化的问题。但现在我们已经有能力,所以就要充分地发挥人工智能科学技术作用,使得我们的信息化,真的是高水平,我们的现代化真的是高水平。
  最后我就要讲我们应当想办法努力来集成人类的智慧,实现人类通过科学技术的帮助,逐渐从自然力的束缚下解放的这样一个目标。
  刚才提到了人工智能,它的重要作用是现代高科技的核心,所以大力发展人工智能,不断地改进机器的智能水平,逐渐地实现人机分工“人主机辅”——人是主题,机器辅助人,这样的来合作,使得人类能够得到解放,这件事应该说是千百年来人类梦寐以求的伟大的理想。信息时代在过去做不到,但是信息时代正因为它有信息科学技术发展,所以是实现人类解放,这种千年梦想的这么一个时代。所以一切有理想有抱负的民族和个人都可以在这样一个真的是充满了梦想充满了机会,充满了创新的事业当中大显身手,而且大有可为。

 


http://www.cctv.com/lm/131/61/85885.html


评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");