15 任明明的隐私
您可以在百度里搜索“云球(1-3册)”查找
15任明明的隐私
柳杨终于答应帮迈克进行意识场检测。那天早上,一上班,任明明就带着迈克来到了脑科学所。任为和柳杨的所长助理李舒,在门口等着他们。
迈克依然恭恭敬敬地跟任为打招呼。任为看了他一眼,但没有任何反应,好像有点恍惚。似乎既没有看到他,也没有听到他的声音。反而,面无表情地把脸转向任明明,对她说:“这是李舒阿姨。走吧,我们进去吧。”
任明明无礼地没有理会李舒,只是恶狠狠地盯着任为。虽然自己也很无礼,但显然,她对父亲的无礼很气愤。可能她觉得,任为对迈克的态度是一种彻头彻尾的藐视,很像是看了一眼一台快坏掉的电视机。
“任明明,早听你爸爸讲过你啊!你好漂亮!”李舒是个看起来很优雅的中年女人,面上带着和善的微笑,略有些低沉的女中音听起来带着暖意。她好像既没有注意到任为的恍惚,也没有注意到任明明的无礼。
“李阿姨好。”任明明不说话,但迈克说了一句,而且略微欠了一下上身,像是一个浅浅的鞠躬。
“你就是迈克!好帅!”李舒带着笑盈盈的表情,看不出来她是在面对一个机器人说话。她甚至把手伸向迈克,迈克没有迟疑,向上走了一步,也伸出手。他们两个就像朋友一样,把手握在了一起。
任明明终于看了李舒一眼。“李阿姨好!”她脸色还是不好,声音也蔫蔫无力。但是,没有对父亲的那种恶意,甚至还挤出了一点微笑,同时微微点了一下头,像是表示感谢,因为李舒对迈克的善意。
李舒好像完全没有在意,直接走了过来,拉住她的手说:“走,我们进去。唉,我们的管理很严格,我还得出来接你们,你们才能进去。可是,看到你这么漂亮,迈克又这么帅,接你们就算接得值了。”
见到柳杨以后,竟然有一小会儿的时间,任明明觉得自己的父亲相当和蔼可亲。柳杨斜着眼,盯着任明明。但他一眼也不看迈克,和任为一样,好像迈克并不存在,这让任明明很气愤。不过,柳杨长得奇怪,脸上又毫无表情,目光也很冰冷,让她产生了一种恐惧的感觉。这种恐惧甚至压倒了气愤,她好像浑身的汗毛都竖了起来,心跳和呼吸都加快了。她扭头看了几眼任为,好像在寻求帮助。任为没有看她,显然没有注意到她。任为正在看着柳杨,皱着眉头,很苦恼的样子。
他们站在一条长长的走廊上。走廊的地板、天花板、墙壁都是白色,很干净,除了白色什么都没有。走廊的两侧都是墙壁,但只有其中一侧有门。现在,他们站的位置,在柳杨办公室的门口。走廊尽头,正对着走廊,也有另一扇门,一扇圆形的门,好像电影里潜水艇中的圆形门。任明明在柳杨的注视下,目光慌乱地游移着。当看到那扇门的时候,不知道为什么,她的恐惧进一步加深了。
“那是实验室。”柳杨好像知道她看到了那扇门,“检测就在那里面做。”柳杨说,声音很慢,她觉得阴森得很。
“你干嘛?”任为推了一下柳杨。他已经盯着任明明看了好一会儿了,作为父亲,任为觉得自己应该打断这种情况。
柳杨趔趄了一下,扭头看了看任为,终于又扭头看了看迈克。问:“你是什么东西?”
什么东西?任明明好像怒火升上来了,但恐惧还没有消逝,她喘气的声音变粗了,却似乎说不出话。
“我是机器人。”迈克说。说着,他低下头,好像很惭愧。不过很快,他又抬起头,说:“但我也可能是人。”
“为什么?”柳杨问。
“因为我逐渐觉得我是人了。而且,明明觉得我是人。”迈克说。一边扭头看了看任明明,任明明没有理他。
柳杨又盯着他看了好一会儿。这次,任明明终于急了。她像是鼓起了勇气,说:“他是人!这不就是要来问你的问题吗?他是人,你必须证明他是人!我爸说你能证明,你有本事就来证明看看。”
“我必须证明他是人。”柳杨喃喃地重复了一遍,但还是盯着迈克。迈克好像被盯得很不自在,又低下了头。
“一个很腼腆的人。怎么,小姑娘,你喜欢一个很服从的男朋友?是不是觉得从你爸你妈那里,感受到太多压力?”
任明明愣了一下,“你说什么?”她问。
“是不是觉得从你爸你妈那里,感受到太多压力?”柳杨重复了一遍。
“关你什么事!”任明明喊了起来。
“别喊!”任为说,“柳所长是个大科学家,你有点礼貌!”
“他有礼貌吗?”任明明接着喊,扭过头面对着任为,似乎这让她放松了很多。
“你妈妈……啧啧……吕青……厉害!她对你,是不是就像机器人对你?至于你爸爸,他不像机器人,不过他心里只有机器人。”柳杨说。
“您是对我说话吗?”迈克问,柳杨还盯着他。
“他不是对你说话!”任明明冲迈克喊。
“好的。”迈克脸上露出紧张的表情。
任为摇摇头,扭头对柳杨说:“我们对她很好。反而是我们从她那里感受到了很大压力。好不好?你别发神经了,赶快检测吧!”
柳杨也轻轻地摇了摇头。接着,他又问迈克:“你知道,你来这里干什么吗?”
“来检测。检测我是不是人。”迈克回答。
“你紧张吗?”柳杨问。
“紧张。”迈克又低下头,接着又抬起头,说:“但我会勇敢面对。”
“你喜欢低头表示一下心虚。”柳杨说。
“您说什么?”迈克显得有点疑惑。
“没什么。”柳杨说。然后扭头看了看任明明和任为,对他们说:“这个检测很复杂,而且实验室里面现在还有别的工作,你们要等着。可能需要五六个小时以后才能看到结果。把他留在这里,你们走吧!下午下班之前回来就行。”
“不行,我要在这里等着。”任明明抢着说。
“那你们就和这个机器人一起走吧!”柳杨平静地回答,扭头就要回办公室。
“别,别。”任为伸手拉住他,“按你说的办。”他扭头对任明明说:“这里是保密单位,我们不能长时间待在这里,尤其是你。”
“为什么尤其是我?”任明明喊着问。
“因为我有一定的权限。”任为耐着性子说,“你真的不行,这是规定。”
任明明恶狠狠地看着他,又恶狠狠地看了柳杨一眼。最后,看了迈克一眼,她说:“待着。”然后掉头就走。
“交给你了。”任为对柳杨说。他摇摇头表示无奈,接着对李舒说:“我们走吧。”
李舒笑了笑,和他并肩往外走。任明明已经走得很远了,看着她的背影,看得出来她很生气。
“孩子都这样,我儿子也这样,你不用往心里去。”李舒一边走一边说。
“唉!没办法。”任为说。
“你跟她说,让她放心好了。我们一定会还给她一个好好的男朋友,检测不会把迈克搞坏。”李舒说。
“真丢人,这种事情。”任为说。
“没什么,真的,”李舒说:“本来,我们也研究机器人。这种情况,在全世界来看相当多。特别是在这个年龄段,男孩子女孩子都有。心理学界普遍认为,这是阶段性的恋物癖。再长大一些,过一段时间就好了。没关系,很早以前,就有人爱上那些橡胶娃娃,没什么关系。”
“那你们做过类似检测吗?柳杨说,你们自己的机器人从来没有发现过意识场。”任为说。
“做过一些,不太多。不过,都和我们自己的机器人一样,没有意识场。”李舒说。
“那你觉得,这迈克像是有意识场的样子吗?”任为问。
“我觉得没有。”李舒说得很坚定,就像那天柳杨在家里说得一样坚定。
“为什么?”任为问。
李舒笑了笑,说:“检测完了再说吧!柳所长会告诉你。”
说着话,他们已经走出了脑科学所。任明明远远地站在路边,冷冷地观察着走近的他们两个。
“我回去了,下午见。”李舒对任为说。然后,又扭头满脸笑容地看着任明明,挥了挥手,重复了一遍:“下午见。”
“再见。”任为也跟李舒笑了笑,李舒扭头走了。
“再见。”任明明冷冷地说。
“你太没礼貌了。”看着李舒走远的背影,任为说。
“我没礼貌?那个柳杨才没礼貌!”任明明说。
“早就跟你说过了,不光我说了,妈妈也跟你说了。这个柳杨,是很奇怪的人,但他是个大科学家,是个天才!”任为说。
“奇怪?只是奇怪就好了!”任明明说。
“你还想说什么?变态?”任为说。
“变态,变态杀人狂!”任明明说。
“呵呵……”任为笑了笑,有人能吓唬到任明明,有点好笑。
“你还笑?你周围都是些什么人?”任明明气愤地说,“应该让机器人统治世界,你们这些奇怪的人类。”
“你也是人类,而且,其实也很奇怪。”任为说。
任明明看着他,仍然很气愤,但憋住了没说话。过了半天,她才说:“我走了,你别管我,我不回家。你别说话,你走另一个方向,下午见,五点。”说完扭头就走了。
“你!”任为有点生气,却也不知道说什么。终于,他听话地走向另一个方向,同时,在SSI里呼叫了查理。
不过,任为四点就回到了脑科学所,是李舒打了电话,让他早些来。李舒有个小办公室,迈克不在。李舒对他说:“和我想的一样,我先跟你说说。我们看看,怎么跟你们家明明说。”
“柳杨呢?”任为问。
“哦,柳所长又开会去了。你知道,他最近很忙,我们所的事情,你们所的事情,还有政府的一些事情。你们家吕青那些事情,估计你知道一些吧?”李舒说。
“知道一些,唉,都太复杂了。”任为说。
“是啊!现在的事情,的确都太复杂了。你们这个迈克也挺复杂。我们以前碰到过,这次,我们猜也是一样。检测完了,果然完全一样。但这个事情……怎么说呢……确实有点复杂。所以,我要先跟你说一下。”李舒说。
听李舒说的话,感觉相当严重,看她的表情,却好像还好。任为有点紧张,说:“什么意思?听起来很严重,怎么回事?”
“嗯,可以说有点严重。但其实和迈克没什么关系。只是,嗯,我要先跟你说,我们说的话你不能说出去。包括明明,最好也不要说,她还太年轻。本来也不应该告诉你,不过柳所长觉得,你可以知道。”李舒说。
“啊?这么严重?”任为想了想,说:“那你真的能跟我说吗?我可不想违反保密规定。”
“这和保密规定没什么关系,并不属于保密范畴。但是,这可能会引起一些不良的社会反应。我们已经跟前沿院报告过,领导们暂时还没确定怎么做,算是正在调查吧!所以,最好不要说出去,免得惊动舆论。”李舒说。
“哦……这样……我知道了,我会注意。你说吧!”任为很好奇,听李舒的说法,好像也不应该是很吓人的事情。
“首先,我们对迈克进行了检测。没有检测到意识场,这一点非常确定。你知道,我们在你们云球机房里,检测到了大量的意识场,已经确认,机器可以产生意识场,以量子芯片为宿主的意识场。但是,迈克,的确并没有产生真正的意识场。原因很普通,他的计算强度并没有达到柳杨阈值,目前的机器人都是这样。”李舒说,“不过,迈克也的确和普通的机器人不同。”
“嗯,没有意识场,好。”任为舒了口气,“那他有什么不同?”
“可以这么说,它有感情。”李舒说,“注意,是感情,不是意识。”
“感情?”任为有点迷惑,他想了想,说:“我能明白,你想说感情和意识不同。我不研究这个,我不是太清楚,你想表达的不同在哪里?”
“感情是意识的一个子集。”李舒说,“他们最大的区别是,感情是可计算的,而意识——准确地说,意识的核心部分——是不可计算的,意识只有外围部分——包括感情——才是可计算的。”
任为想了想,说:“我能不能这么理解,感情里面,因果关系很明确,可以认为是一系列参数的逻辑计算结果。意识,或者按照你的说法,意识的核心部分,就目前来说,还没有数学表达。”
“对,您很聪明。”李舒说,“就是这样。这就意味着,我们完全可以通过编程,来实现感情的产生过程。但是意识,我们做不到。无论人的意识,还是您的云球人的意识,都是演化的结果。演化的结果,比起我们编程的结果,计算强度大得多,所以才能产生意识。虽然我们能够检测到意识,能够捕获到意识,甚至可以用量子层面的一些理论来描述意识,可是实际上,我们仍然不清楚意识到底是什么。”
“感情有数学模型,可意识没有数学模型,”任为说,“世界的本质是数学。”
“是的。”李舒笑了笑,笑得很温暖,“就从这点来讲,我想,明明不一定能够像您这样,这么容易就理解这些说法。所以,我们可能要换个说法给她。”
“一般的机器人程序中,”任为说,“没有感情代码吗?只有迈克,或者说少数机器人,才有感情代码?”他一边说着,一边在回忆露西。他很难确定,露西是否有感情。她总是很乖巧很识趣,但是要说她有感情,好像也很难说。比如,如果自己死了,任为想,露西会感到难过吗?
“不,都有。”李舒说,“几乎所有机器人,都有一个情感模块。特别是全仿真机器人和家政机器人之类。只要和人有互动的机器人,99%都会有情感模块。多数情感模块都是一个软件包。这个软件包可能很简单,也可能很复杂。少数最高级的机器人有专用情感处理芯片。这种机器人不是太多,因为市场需求并不强烈。”
“那迈克有什么不同?”任为问。
“这就是要暂时保密的地方。”李舒说,“迈克的情感模块,乍一看其实很低级。首先,是软件包形式,不是专用芯片形式。其次,软件包的代码量相对而言也很小。可它特殊的地方是,它会动态变化。”
“动态变化?”任为不太明白。
“对,无论是软件包的情感模块,还是芯片级的软件模块,机器人的厂家都会事先设计好。某个模块的情感特点,或者说性格,事先建立了数学模型,并设定了各种参数。通常,这里面会涉及很多数据,产品发布时也会一并打包。但是,迈克的软件包,已经自主更新过很多次,它很频繁地进行自我更新。”李舒说。
“这没什么奇怪啊!”任为说,“自动升级嘛!不都这样吗?”
“是的。可是,自动升级的那个新版本,应该是厂家的版本,而且同一型号的新版本应该都一样,对不对?”李舒问。
“对。”任为回答,还是很糊涂。
“但迈克不同,他每次升级的新版本都独一无二。”李舒说。
“专门为迈克定制的新版本?”任为问,“不可能啊!这为什么呢?迈克只是一台破旧的皮肤测试机器人。属于PerfectSkin,一家经营得很差的公司。因为公司穷,连正常的维护和升级服务都没买。”
“不是,”李舒说,“不是迈克的生产厂家在升级他。当然更不是PerfectSkin在升级他。我们查到了升级新版本的网络地址,和我们以前查到的一样,是一个查不到拥有者的地址。简单来说,迈克被黑了。软件包的形式不像芯片形式那么安全,迈克早就被黑客黑了。开始的时候,迈克应该只是被安装了一个非常简易的情感软件包。这个简易的情感软件包,情感功能很正常,只是比较简单。不过,它有一个特殊功能,就是在这个特殊的网络地址频繁地更新自己。在更新过程中,它就越来越高级。”
“哦……”任为想了想,说:“还是说不通啊!没听明明说,迈克干过什么坏事啊!黑客要干什么?再说,虽然不是生产厂商干的,但本质上,这也属于自动升级的范畴。我明白黑客的事情,这也很普通。经常有机器人病毒之类,还要杀毒甚至要回厂重装系统。这到底有什么不同呢?黑客不停地为迈克推出新版本,这有什么意义呢?”
“这些新版本的作者,并不是黑客。我们推断,它们是被自动生成的版本。生成它们的应该是软件,黑客控制的一个人工智能软件。”李舒说。
“人工智能写程序?”任为问,“这也不是什么了不起的事情吧?现在,很多代码都由人工智能来写。特别是情感软件包这种软件,听起来通用型很强,最适合人工智能来写了。”
“对,这也没什么了不起。”李舒说,“了不起的是这个人工智能软件,为迈克的情感模块编写新版本时,所采用的那些依据,或者说,它为什么要编写这些新版本。”
“哦……通常……不就是改Bug或者添加什么新功能吗?”任为问。
“Bug肯定要改。可说到新功能,这就很有意思了。的确是在添加新功能,当然也包括优化已有功能。但是你想,你在为软件添加新功能的时候,添加什么,不添加什么,删除什么,优化什么,是怎么选择和决定的呢?”
“这要看需求和目标是什么。”任为说。
“对。那么,这个为迈克的情感模块编写新版本的人工智能,是如何确定需求和目标的呢?”李舒问。
“嗯,我不知道。”任为稍微想了一下,迟疑地回答。
“您看,您这么聪明,可是您都想不出来。”李舒说。
“你说,是什么?”任为催她。
“需求和目标很明确,就是讨好明明。这个人工智能会根据数据来分析,如何才能让明明更喜欢迈克,然后,根据这个需求,编写迈克情感模块的新版本,最后进行升级。”李舒说,“他们的升级,力度很大。一般来说,很多软件升级进行数据更新就可以了,进行代码更新并不经常发生。但是,迈克的情感模块,数据更新经常不足以满足新要求,需要频繁地进行代码更新,用来优化情感产生的逻辑路径。总而言之,它在不惜一切地改变,想要最大程度地贴近明明的喜好。”
“讨好明明?”任为说:“靠迈克提交明明的反应数据,来进行判断?”
“仅仅依靠迈克提交明明的反应数据,显然还不够。否则这也太平淡无奇了。而且这些孩子,我们作为父母都看不明白。迈克作为一个机器人,哪里看得明白。”李舒摇摇头。
“那如何判断怎么讨好呢?”任为问。
“我可以告诉您。但是,这是这次谈话最大的秘密所在,也可能会对您有点冲击。我要先告诉您,无论怎么样,您不用担心。我们发现过八例同样的案例。虽然听起来有点吓人,可我们认为,黑客似乎没什么恶意。只是在测试?或者好玩儿?就算有深远目的,至少目前并不危险。”李舒说。
“你快说。”任为又紧张起来。
“明明的SSI被黑客黑了。他们从明明的SSI获得数据,用来升级迈克的情感软件包。”李舒说。
“什么?”任为腾地站了起来,“明明的SSI被黑了?”
“您别着急!您别着急!领导们已经在调查这个事情,警察都已经介入了。而且,我刚才说了,没发现黑客有什么恶意。我们最早发现的案例,已经有两个月了,当事人没有受到任何伤害。您放心!您放心!”李舒赶忙安慰他。
“可是这也太过分了!”任为说,“这不是说,我们每个人都有可能会被侵入吗?”他显得有点焦躁,“我对这个远景科技,一直就没有什么好感。这种在脑子里面的东西,黑客都能黑进去。通讯芯片!一定是通讯芯片!要通讯就一定有机会被黑掉,可他们从来都号称绝对没有问题。”
“所以,任所长,您一定要平静下来。装了这东西的人,可不是您一个。您想想,您要这么说出去,那社会反应会是什么样?您真的要平静。应该没有那么可怕,至少目前,还没看出来。”李舒说。
“说出去的话,明天远景科技就破产了。还有,好多人会被抓起来。”任为恨恨地说。
“是啊!对了,明明用的是远景科技的系统吗?”李舒问。
“是,我们一起去做的植入手术。我的一定也被黑了吧?你用的不是远景科技吗?”任为问。他觉得脑瓜疼起来了,不是黑客在干什么吧?他想象着自己脑子里有些黑客的代码,正虎视眈眈地看着SSI中的所有数据,琢磨着能干点什么。
“也是。不过,您真的别着急。我们判断,不,警方判断,黑客的目标似乎不是远景科技,也不是任何人,而是机器人。他们应该是为了迈克而入侵明明,并非为了明明而入侵迈克。选中迈克的原因就不知道了,也许只是随机和偶然。所以您不用担心,除非您也有机器恋人。”李舒说。
任为想了想,说:“我明白你的意思了。有专门的法律,规制远景科技这样的公司。SSI采集的任何用户数据,都是绝对隐私,不能进行任何传送,也不能用作任何用途。唯一的例外,是自愿参与实验的人,在实验过程中产生的数据,而且,那需要非常严谨的法律手续。但是这些数据,对于训练机器人非常重要,如果这些数据没有办法通过正常途径获得的话,那他们只有通过黑客的手段了。所以,这一定是某些机器人公司干的勾当。当然,远景科技他们肯定有责任,SSI还是不够安全和牢固。对,确定不是他们自己干的吗?”
“应该比较确定吧!这要问警方了。整个过程,被黑客弄得很隐秘。网络地址经常变换,嫌疑人不好找,警方找了一个月了还没找到。警方要求我们,不要扩散消息,一方面是考虑到社会影响,另一方面也是不希望打草惊蛇。”李舒说。
“你不急吗?”看到李舒好像很泰然的样子,任为问。
“不像您那么急。因为我没有机器恋人,和我们家的家政机器人也不怎么说话,而且,它只是家政机器人,不是全仿真机器人。”李舒说着笑了笑,“您这么担心,难道您和什么机器人关系不错吗?”
“没有!当然没有!”任为说。虽然还有怪怪的感觉,但平静了一点。他觉得李舒的话也有些道理,他脑瓜中那些黑客的代码逐渐消失了。
“再说了,您是个科学家,您应该知道,这种事情很难避免。说起来好像很可怕,其实绝大多数情况下,并没有什么关系。当然,公众肯定会感到恐惧,不是因为知道了什么而恐惧,是因为觉得自己不知道才恐惧。”李舒平静地说。
“SSI只是在感官传输层面和信息获取层面的介入,它能够获取的数据很有限。”李舒接着说,“黑客为了抓取人们的反应,只是依靠眼动,或者说眼球视野的变化,还有心跳、血压之类,再有,就是你浏览的网络内容了。他们并不能真正地获取你的想法。这和在社交媒体上抓取你的评论是一回事,只是更加及时和准确而已。社交媒体泄密的事情,以前发生过很多,您看到有什么真正严重的后果吗?其实没有。不过现在有个东西,直接安装在你脑子里,所以听起来更可怕,但本质上并没有什么不同。所以我觉得,您不必那么担心。”
任为愣愣的,想说什么,终于什么也没有说。
“我们倒是对这些黑客的最终目的很感兴趣。他们要干什么?”李舒好像在问自己。
“他们要干什么?”任为重复了一遍,“不是做情感软件包吗?”
“有什么意义呢?”李舒问,“难道哪一天,推出带有这种服务的机器人吗?也许很多人喜欢,找一个会越来越符合自己胃口的机器人伴侣。听起来市场前景不错,但这样做,很容易暴露自己的违法行为。怎样才能够遮掩呢?”
“也许他们想,到时候再说吧!”任为说。
“到时候再说?我觉得很困难。隐私法律很难改,这一定会有轩然大波。每次社交媒体泄密,都闹得很厉害。虽然大多数时候,并没发生什么事情,只是让你看了些广告。”李舒说。
“总看定制广告,确实会被洗脑。商业,娱乐,政治,各种观点都会被洗脑,还是有问题的!”任为不太同意李舒的话。
“从心理学角度来说,”李舒说,“人们都是挑选自己喜欢的东西看。越看越喜欢,越喜欢越看。我同意您的观点,不过说到底,这也是人们自己的选择。”
“嗯,”任为应了一声,不想再讨论这个,“那你们觉得,还有什么别的可能?”他接着问。
“也许他们,在试图制造人工意识。”李舒说,有点迟疑,又有点像自言自语。
“人工意识?”任为想了想,问:“柳所长这么想?”
“我们都这么想。”李舒说。
任为又想了想,说:“我觉得这么想,是你们的职业病。”
好不容易,任为才彻底平静下来。他回想起,那天在柳杨家,他请柳杨帮忙的时候,柳杨那么坚定地认为,迈克不会有意识场,当然是因为,他早就知道黑客这件事情。
一个漂亮的小秘书,带着任明明走进李舒的办公室。李舒面对着任明明,直接给出了一个很干脆的答案:迈克没有意识场。任为有点心慌,但李舒依旧面带微笑,看起来很镇定。
这是真话,他们没有撒谎,只是没有把事实全都说出来。那会儿,迈克也已经被送到了这里。当然,它也听到了这个答案。它立刻低下了头,仿佛有些惭愧。而任明明,脸色更难看了。看任为的时候,又露出恶狠狠的目光。好像迈克不是人这件事情,完全是任为造成的。
她一定觉得这是个阴谋,任为想,不过这件事情,虽然不是那么真实,但也确实不是谎言,更不是阴谋。
云球(1-3册)最新章节地址:
云球(1-3册)全文阅读地址:
云球(1-3册)txt下载地址:
云球(1-3册)手机阅读:
为了方便下次阅读,你可以点击下方的"收藏"记录本次(15任明明的隐私)阅读记录,下次打开书架即可看到!
喜欢《云球(1-3册)》请向你的朋友(QQ、博客、微信等方式)推荐本书,谢谢您的支持!!
请收藏本站:https://www.lctcw.com。两重天书网手机版:https://m.lctcw.com
15任明明的隐私
柳杨终于答应帮迈克进行意识场检测。那天早上,一上班,任明明就带着迈克来到了脑科学所。任为和柳杨的所长助理李舒,在门口等着他们。
迈克依然恭恭敬敬地跟任为打招呼。任为看了他一眼,但没有任何反应,好像有点恍惚。似乎既没有看到他,也没有听到他的声音。反而,面无表情地把脸转向任明明,对她说:“这是李舒阿姨。走吧,我们进去吧。”
任明明无礼地没有理会李舒,只是恶狠狠地盯着任为。虽然自己也很无礼,但显然,她对父亲的无礼很气愤。可能她觉得,任为对迈克的态度是一种彻头彻尾的藐视,很像是看了一眼一台快坏掉的电视机。
“任明明,早听你爸爸讲过你啊!你好漂亮!”李舒是个看起来很优雅的中年女人,面上带着和善的微笑,略有些低沉的女中音听起来带着暖意。她好像既没有注意到任为的恍惚,也没有注意到任明明的无礼。
“李阿姨好。”任明明不说话,但迈克说了一句,而且略微欠了一下上身,像是一个浅浅的鞠躬。
“你就是迈克!好帅!”李舒带着笑盈盈的表情,看不出来她是在面对一个机器人说话。她甚至把手伸向迈克,迈克没有迟疑,向上走了一步,也伸出手。他们两个就像朋友一样,把手握在了一起。
任明明终于看了李舒一眼。“李阿姨好!”她脸色还是不好,声音也蔫蔫无力。但是,没有对父亲的那种恶意,甚至还挤出了一点微笑,同时微微点了一下头,像是表示感谢,因为李舒对迈克的善意。
李舒好像完全没有在意,直接走了过来,拉住她的手说:“走,我们进去。唉,我们的管理很严格,我还得出来接你们,你们才能进去。可是,看到你这么漂亮,迈克又这么帅,接你们就算接得值了。”
见到柳杨以后,竟然有一小会儿的时间,任明明觉得自己的父亲相当和蔼可亲。柳杨斜着眼,盯着任明明。但他一眼也不看迈克,和任为一样,好像迈克并不存在,这让任明明很气愤。不过,柳杨长得奇怪,脸上又毫无表情,目光也很冰冷,让她产生了一种恐惧的感觉。这种恐惧甚至压倒了气愤,她好像浑身的汗毛都竖了起来,心跳和呼吸都加快了。她扭头看了几眼任为,好像在寻求帮助。任为没有看她,显然没有注意到她。任为正在看着柳杨,皱着眉头,很苦恼的样子。
他们站在一条长长的走廊上。走廊的地板、天花板、墙壁都是白色,很干净,除了白色什么都没有。走廊的两侧都是墙壁,但只有其中一侧有门。现在,他们站的位置,在柳杨办公室的门口。走廊尽头,正对着走廊,也有另一扇门,一扇圆形的门,好像电影里潜水艇中的圆形门。任明明在柳杨的注视下,目光慌乱地游移着。当看到那扇门的时候,不知道为什么,她的恐惧进一步加深了。
“那是实验室。”柳杨好像知道她看到了那扇门,“检测就在那里面做。”柳杨说,声音很慢,她觉得阴森得很。
“你干嘛?”任为推了一下柳杨。他已经盯着任明明看了好一会儿了,作为父亲,任为觉得自己应该打断这种情况。
柳杨趔趄了一下,扭头看了看任为,终于又扭头看了看迈克。问:“你是什么东西?”
什么东西?任明明好像怒火升上来了,但恐惧还没有消逝,她喘气的声音变粗了,却似乎说不出话。
“我是机器人。”迈克说。说着,他低下头,好像很惭愧。不过很快,他又抬起头,说:“但我也可能是人。”
“为什么?”柳杨问。
“因为我逐渐觉得我是人了。而且,明明觉得我是人。”迈克说。一边扭头看了看任明明,任明明没有理他。
柳杨又盯着他看了好一会儿。这次,任明明终于急了。她像是鼓起了勇气,说:“他是人!这不就是要来问你的问题吗?他是人,你必须证明他是人!我爸说你能证明,你有本事就来证明看看。”
“我必须证明他是人。”柳杨喃喃地重复了一遍,但还是盯着迈克。迈克好像被盯得很不自在,又低下了头。
“一个很腼腆的人。怎么,小姑娘,你喜欢一个很服从的男朋友?是不是觉得从你爸你妈那里,感受到太多压力?”
任明明愣了一下,“你说什么?”她问。
“是不是觉得从你爸你妈那里,感受到太多压力?”柳杨重复了一遍。
“关你什么事!”任明明喊了起来。
“别喊!”任为说,“柳所长是个大科学家,你有点礼貌!”
“他有礼貌吗?”任明明接着喊,扭过头面对着任为,似乎这让她放松了很多。
“你妈妈……啧啧……吕青……厉害!她对你,是不是就像机器人对你?至于你爸爸,他不像机器人,不过他心里只有机器人。”柳杨说。
“您是对我说话吗?”迈克问,柳杨还盯着他。
“他不是对你说话!”任明明冲迈克喊。
“好的。”迈克脸上露出紧张的表情。
任为摇摇头,扭头对柳杨说:“我们对她很好。反而是我们从她那里感受到了很大压力。好不好?你别发神经了,赶快检测吧!”
柳杨也轻轻地摇了摇头。接着,他又问迈克:“你知道,你来这里干什么吗?”
“来检测。检测我是不是人。”迈克回答。
“你紧张吗?”柳杨问。
“紧张。”迈克又低下头,接着又抬起头,说:“但我会勇敢面对。”
“你喜欢低头表示一下心虚。”柳杨说。
“您说什么?”迈克显得有点疑惑。
“没什么。”柳杨说。然后扭头看了看任明明和任为,对他们说:“这个检测很复杂,而且实验室里面现在还有别的工作,你们要等着。可能需要五六个小时以后才能看到结果。把他留在这里,你们走吧!下午下班之前回来就行。”
“不行,我要在这里等着。”任明明抢着说。
“那你们就和这个机器人一起走吧!”柳杨平静地回答,扭头就要回办公室。
“别,别。”任为伸手拉住他,“按你说的办。”他扭头对任明明说:“这里是保密单位,我们不能长时间待在这里,尤其是你。”
“为什么尤其是我?”任明明喊着问。
“因为我有一定的权限。”任为耐着性子说,“你真的不行,这是规定。”
任明明恶狠狠地看着他,又恶狠狠地看了柳杨一眼。最后,看了迈克一眼,她说:“待着。”然后掉头就走。
“交给你了。”任为对柳杨说。他摇摇头表示无奈,接着对李舒说:“我们走吧。”
李舒笑了笑,和他并肩往外走。任明明已经走得很远了,看着她的背影,看得出来她很生气。
“孩子都这样,我儿子也这样,你不用往心里去。”李舒一边走一边说。
“唉!没办法。”任为说。
“你跟她说,让她放心好了。我们一定会还给她一个好好的男朋友,检测不会把迈克搞坏。”李舒说。
“真丢人,这种事情。”任为说。
“没什么,真的,”李舒说:“本来,我们也研究机器人。这种情况,在全世界来看相当多。特别是在这个年龄段,男孩子女孩子都有。心理学界普遍认为,这是阶段性的恋物癖。再长大一些,过一段时间就好了。没关系,很早以前,就有人爱上那些橡胶娃娃,没什么关系。”
“那你们做过类似检测吗?柳杨说,你们自己的机器人从来没有发现过意识场。”任为说。
“做过一些,不太多。不过,都和我们自己的机器人一样,没有意识场。”李舒说。
“那你觉得,这迈克像是有意识场的样子吗?”任为问。
“我觉得没有。”李舒说得很坚定,就像那天柳杨在家里说得一样坚定。
“为什么?”任为问。
李舒笑了笑,说:“检测完了再说吧!柳所长会告诉你。”
说着话,他们已经走出了脑科学所。任明明远远地站在路边,冷冷地观察着走近的他们两个。
“我回去了,下午见。”李舒对任为说。然后,又扭头满脸笑容地看着任明明,挥了挥手,重复了一遍:“下午见。”
“再见。”任为也跟李舒笑了笑,李舒扭头走了。
“再见。”任明明冷冷地说。
“你太没礼貌了。”看着李舒走远的背影,任为说。
“我没礼貌?那个柳杨才没礼貌!”任明明说。
“早就跟你说过了,不光我说了,妈妈也跟你说了。这个柳杨,是很奇怪的人,但他是个大科学家,是个天才!”任为说。
“奇怪?只是奇怪就好了!”任明明说。
“你还想说什么?变态?”任为说。
“变态,变态杀人狂!”任明明说。
“呵呵……”任为笑了笑,有人能吓唬到任明明,有点好笑。
“你还笑?你周围都是些什么人?”任明明气愤地说,“应该让机器人统治世界,你们这些奇怪的人类。”
“你也是人类,而且,其实也很奇怪。”任为说。
任明明看着他,仍然很气愤,但憋住了没说话。过了半天,她才说:“我走了,你别管我,我不回家。你别说话,你走另一个方向,下午见,五点。”说完扭头就走了。
“你!”任为有点生气,却也不知道说什么。终于,他听话地走向另一个方向,同时,在SSI里呼叫了查理。
不过,任为四点就回到了脑科学所,是李舒打了电话,让他早些来。李舒有个小办公室,迈克不在。李舒对他说:“和我想的一样,我先跟你说说。我们看看,怎么跟你们家明明说。”
“柳杨呢?”任为问。
“哦,柳所长又开会去了。你知道,他最近很忙,我们所的事情,你们所的事情,还有政府的一些事情。你们家吕青那些事情,估计你知道一些吧?”李舒说。
“知道一些,唉,都太复杂了。”任为说。
“是啊!现在的事情,的确都太复杂了。你们这个迈克也挺复杂。我们以前碰到过,这次,我们猜也是一样。检测完了,果然完全一样。但这个事情……怎么说呢……确实有点复杂。所以,我要先跟你说一下。”李舒说。
听李舒说的话,感觉相当严重,看她的表情,却好像还好。任为有点紧张,说:“什么意思?听起来很严重,怎么回事?”
“嗯,可以说有点严重。但其实和迈克没什么关系。只是,嗯,我要先跟你说,我们说的话你不能说出去。包括明明,最好也不要说,她还太年轻。本来也不应该告诉你,不过柳所长觉得,你可以知道。”李舒说。
“啊?这么严重?”任为想了想,说:“那你真的能跟我说吗?我可不想违反保密规定。”
“这和保密规定没什么关系,并不属于保密范畴。但是,这可能会引起一些不良的社会反应。我们已经跟前沿院报告过,领导们暂时还没确定怎么做,算是正在调查吧!所以,最好不要说出去,免得惊动舆论。”李舒说。
“哦……这样……我知道了,我会注意。你说吧!”任为很好奇,听李舒的说法,好像也不应该是很吓人的事情。
“首先,我们对迈克进行了检测。没有检测到意识场,这一点非常确定。你知道,我们在你们云球机房里,检测到了大量的意识场,已经确认,机器可以产生意识场,以量子芯片为宿主的意识场。但是,迈克,的确并没有产生真正的意识场。原因很普通,他的计算强度并没有达到柳杨阈值,目前的机器人都是这样。”李舒说,“不过,迈克也的确和普通的机器人不同。”
“嗯,没有意识场,好。”任为舒了口气,“那他有什么不同?”
“可以这么说,它有感情。”李舒说,“注意,是感情,不是意识。”
“感情?”任为有点迷惑,他想了想,说:“我能明白,你想说感情和意识不同。我不研究这个,我不是太清楚,你想表达的不同在哪里?”
“感情是意识的一个子集。”李舒说,“他们最大的区别是,感情是可计算的,而意识——准确地说,意识的核心部分——是不可计算的,意识只有外围部分——包括感情——才是可计算的。”
任为想了想,说:“我能不能这么理解,感情里面,因果关系很明确,可以认为是一系列参数的逻辑计算结果。意识,或者按照你的说法,意识的核心部分,就目前来说,还没有数学表达。”
“对,您很聪明。”李舒说,“就是这样。这就意味着,我们完全可以通过编程,来实现感情的产生过程。但是意识,我们做不到。无论人的意识,还是您的云球人的意识,都是演化的结果。演化的结果,比起我们编程的结果,计算强度大得多,所以才能产生意识。虽然我们能够检测到意识,能够捕获到意识,甚至可以用量子层面的一些理论来描述意识,可是实际上,我们仍然不清楚意识到底是什么。”
“感情有数学模型,可意识没有数学模型,”任为说,“世界的本质是数学。”
“是的。”李舒笑了笑,笑得很温暖,“就从这点来讲,我想,明明不一定能够像您这样,这么容易就理解这些说法。所以,我们可能要换个说法给她。”
“一般的机器人程序中,”任为说,“没有感情代码吗?只有迈克,或者说少数机器人,才有感情代码?”他一边说着,一边在回忆露西。他很难确定,露西是否有感情。她总是很乖巧很识趣,但是要说她有感情,好像也很难说。比如,如果自己死了,任为想,露西会感到难过吗?
“不,都有。”李舒说,“几乎所有机器人,都有一个情感模块。特别是全仿真机器人和家政机器人之类。只要和人有互动的机器人,99%都会有情感模块。多数情感模块都是一个软件包。这个软件包可能很简单,也可能很复杂。少数最高级的机器人有专用情感处理芯片。这种机器人不是太多,因为市场需求并不强烈。”
“那迈克有什么不同?”任为问。
“这就是要暂时保密的地方。”李舒说,“迈克的情感模块,乍一看其实很低级。首先,是软件包形式,不是专用芯片形式。其次,软件包的代码量相对而言也很小。可它特殊的地方是,它会动态变化。”
“动态变化?”任为不太明白。
“对,无论是软件包的情感模块,还是芯片级的软件模块,机器人的厂家都会事先设计好。某个模块的情感特点,或者说性格,事先建立了数学模型,并设定了各种参数。通常,这里面会涉及很多数据,产品发布时也会一并打包。但是,迈克的软件包,已经自主更新过很多次,它很频繁地进行自我更新。”李舒说。
“这没什么奇怪啊!”任为说,“自动升级嘛!不都这样吗?”
“是的。可是,自动升级的那个新版本,应该是厂家的版本,而且同一型号的新版本应该都一样,对不对?”李舒问。
“对。”任为回答,还是很糊涂。
“但迈克不同,他每次升级的新版本都独一无二。”李舒说。
“专门为迈克定制的新版本?”任为问,“不可能啊!这为什么呢?迈克只是一台破旧的皮肤测试机器人。属于PerfectSkin,一家经营得很差的公司。因为公司穷,连正常的维护和升级服务都没买。”
“不是,”李舒说,“不是迈克的生产厂家在升级他。当然更不是PerfectSkin在升级他。我们查到了升级新版本的网络地址,和我们以前查到的一样,是一个查不到拥有者的地址。简单来说,迈克被黑了。软件包的形式不像芯片形式那么安全,迈克早就被黑客黑了。开始的时候,迈克应该只是被安装了一个非常简易的情感软件包。这个简易的情感软件包,情感功能很正常,只是比较简单。不过,它有一个特殊功能,就是在这个特殊的网络地址频繁地更新自己。在更新过程中,它就越来越高级。”
“哦……”任为想了想,说:“还是说不通啊!没听明明说,迈克干过什么坏事啊!黑客要干什么?再说,虽然不是生产厂商干的,但本质上,这也属于自动升级的范畴。我明白黑客的事情,这也很普通。经常有机器人病毒之类,还要杀毒甚至要回厂重装系统。这到底有什么不同呢?黑客不停地为迈克推出新版本,这有什么意义呢?”
“这些新版本的作者,并不是黑客。我们推断,它们是被自动生成的版本。生成它们的应该是软件,黑客控制的一个人工智能软件。”李舒说。
“人工智能写程序?”任为问,“这也不是什么了不起的事情吧?现在,很多代码都由人工智能来写。特别是情感软件包这种软件,听起来通用型很强,最适合人工智能来写了。”
“对,这也没什么了不起。”李舒说,“了不起的是这个人工智能软件,为迈克的情感模块编写新版本时,所采用的那些依据,或者说,它为什么要编写这些新版本。”
“哦……通常……不就是改Bug或者添加什么新功能吗?”任为问。
“Bug肯定要改。可说到新功能,这就很有意思了。的确是在添加新功能,当然也包括优化已有功能。但是你想,你在为软件添加新功能的时候,添加什么,不添加什么,删除什么,优化什么,是怎么选择和决定的呢?”
“这要看需求和目标是什么。”任为说。
“对。那么,这个为迈克的情感模块编写新版本的人工智能,是如何确定需求和目标的呢?”李舒问。
“嗯,我不知道。”任为稍微想了一下,迟疑地回答。
“您看,您这么聪明,可是您都想不出来。”李舒说。
“你说,是什么?”任为催她。
“需求和目标很明确,就是讨好明明。这个人工智能会根据数据来分析,如何才能让明明更喜欢迈克,然后,根据这个需求,编写迈克情感模块的新版本,最后进行升级。”李舒说,“他们的升级,力度很大。一般来说,很多软件升级进行数据更新就可以了,进行代码更新并不经常发生。但是,迈克的情感模块,数据更新经常不足以满足新要求,需要频繁地进行代码更新,用来优化情感产生的逻辑路径。总而言之,它在不惜一切地改变,想要最大程度地贴近明明的喜好。”
“讨好明明?”任为说:“靠迈克提交明明的反应数据,来进行判断?”
“仅仅依靠迈克提交明明的反应数据,显然还不够。否则这也太平淡无奇了。而且这些孩子,我们作为父母都看不明白。迈克作为一个机器人,哪里看得明白。”李舒摇摇头。
“那如何判断怎么讨好呢?”任为问。
“我可以告诉您。但是,这是这次谈话最大的秘密所在,也可能会对您有点冲击。我要先告诉您,无论怎么样,您不用担心。我们发现过八例同样的案例。虽然听起来有点吓人,可我们认为,黑客似乎没什么恶意。只是在测试?或者好玩儿?就算有深远目的,至少目前并不危险。”李舒说。
“你快说。”任为又紧张起来。
“明明的SSI被黑客黑了。他们从明明的SSI获得数据,用来升级迈克的情感软件包。”李舒说。
“什么?”任为腾地站了起来,“明明的SSI被黑了?”
“您别着急!您别着急!领导们已经在调查这个事情,警察都已经介入了。而且,我刚才说了,没发现黑客有什么恶意。我们最早发现的案例,已经有两个月了,当事人没有受到任何伤害。您放心!您放心!”李舒赶忙安慰他。
“可是这也太过分了!”任为说,“这不是说,我们每个人都有可能会被侵入吗?”他显得有点焦躁,“我对这个远景科技,一直就没有什么好感。这种在脑子里面的东西,黑客都能黑进去。通讯芯片!一定是通讯芯片!要通讯就一定有机会被黑掉,可他们从来都号称绝对没有问题。”
“所以,任所长,您一定要平静下来。装了这东西的人,可不是您一个。您想想,您要这么说出去,那社会反应会是什么样?您真的要平静。应该没有那么可怕,至少目前,还没看出来。”李舒说。
“说出去的话,明天远景科技就破产了。还有,好多人会被抓起来。”任为恨恨地说。
“是啊!对了,明明用的是远景科技的系统吗?”李舒问。
“是,我们一起去做的植入手术。我的一定也被黑了吧?你用的不是远景科技吗?”任为问。他觉得脑瓜疼起来了,不是黑客在干什么吧?他想象着自己脑子里有些黑客的代码,正虎视眈眈地看着SSI中的所有数据,琢磨着能干点什么。
“也是。不过,您真的别着急。我们判断,不,警方判断,黑客的目标似乎不是远景科技,也不是任何人,而是机器人。他们应该是为了迈克而入侵明明,并非为了明明而入侵迈克。选中迈克的原因就不知道了,也许只是随机和偶然。所以您不用担心,除非您也有机器恋人。”李舒说。
任为想了想,说:“我明白你的意思了。有专门的法律,规制远景科技这样的公司。SSI采集的任何用户数据,都是绝对隐私,不能进行任何传送,也不能用作任何用途。唯一的例外,是自愿参与实验的人,在实验过程中产生的数据,而且,那需要非常严谨的法律手续。但是这些数据,对于训练机器人非常重要,如果这些数据没有办法通过正常途径获得的话,那他们只有通过黑客的手段了。所以,这一定是某些机器人公司干的勾当。当然,远景科技他们肯定有责任,SSI还是不够安全和牢固。对,确定不是他们自己干的吗?”
“应该比较确定吧!这要问警方了。整个过程,被黑客弄得很隐秘。网络地址经常变换,嫌疑人不好找,警方找了一个月了还没找到。警方要求我们,不要扩散消息,一方面是考虑到社会影响,另一方面也是不希望打草惊蛇。”李舒说。
“你不急吗?”看到李舒好像很泰然的样子,任为问。
“不像您那么急。因为我没有机器恋人,和我们家的家政机器人也不怎么说话,而且,它只是家政机器人,不是全仿真机器人。”李舒说着笑了笑,“您这么担心,难道您和什么机器人关系不错吗?”
“没有!当然没有!”任为说。虽然还有怪怪的感觉,但平静了一点。他觉得李舒的话也有些道理,他脑瓜中那些黑客的代码逐渐消失了。
“再说了,您是个科学家,您应该知道,这种事情很难避免。说起来好像很可怕,其实绝大多数情况下,并没有什么关系。当然,公众肯定会感到恐惧,不是因为知道了什么而恐惧,是因为觉得自己不知道才恐惧。”李舒平静地说。
“SSI只是在感官传输层面和信息获取层面的介入,它能够获取的数据很有限。”李舒接着说,“黑客为了抓取人们的反应,只是依靠眼动,或者说眼球视野的变化,还有心跳、血压之类,再有,就是你浏览的网络内容了。他们并不能真正地获取你的想法。这和在社交媒体上抓取你的评论是一回事,只是更加及时和准确而已。社交媒体泄密的事情,以前发生过很多,您看到有什么真正严重的后果吗?其实没有。不过现在有个东西,直接安装在你脑子里,所以听起来更可怕,但本质上并没有什么不同。所以我觉得,您不必那么担心。”
任为愣愣的,想说什么,终于什么也没有说。
“我们倒是对这些黑客的最终目的很感兴趣。他们要干什么?”李舒好像在问自己。
“他们要干什么?”任为重复了一遍,“不是做情感软件包吗?”
“有什么意义呢?”李舒问,“难道哪一天,推出带有这种服务的机器人吗?也许很多人喜欢,找一个会越来越符合自己胃口的机器人伴侣。听起来市场前景不错,但这样做,很容易暴露自己的违法行为。怎样才能够遮掩呢?”
“也许他们想,到时候再说吧!”任为说。
“到时候再说?我觉得很困难。隐私法律很难改,这一定会有轩然大波。每次社交媒体泄密,都闹得很厉害。虽然大多数时候,并没发生什么事情,只是让你看了些广告。”李舒说。
“总看定制广告,确实会被洗脑。商业,娱乐,政治,各种观点都会被洗脑,还是有问题的!”任为不太同意李舒的话。
“从心理学角度来说,”李舒说,“人们都是挑选自己喜欢的东西看。越看越喜欢,越喜欢越看。我同意您的观点,不过说到底,这也是人们自己的选择。”
“嗯,”任为应了一声,不想再讨论这个,“那你们觉得,还有什么别的可能?”他接着问。
“也许他们,在试图制造人工意识。”李舒说,有点迟疑,又有点像自言自语。
“人工意识?”任为想了想,问:“柳所长这么想?”
“我们都这么想。”李舒说。
任为又想了想,说:“我觉得这么想,是你们的职业病。”
好不容易,任为才彻底平静下来。他回想起,那天在柳杨家,他请柳杨帮忙的时候,柳杨那么坚定地认为,迈克不会有意识场,当然是因为,他早就知道黑客这件事情。
一个漂亮的小秘书,带着任明明走进李舒的办公室。李舒面对着任明明,直接给出了一个很干脆的答案:迈克没有意识场。任为有点心慌,但李舒依旧面带微笑,看起来很镇定。
这是真话,他们没有撒谎,只是没有把事实全都说出来。那会儿,迈克也已经被送到了这里。当然,它也听到了这个答案。它立刻低下了头,仿佛有些惭愧。而任明明,脸色更难看了。看任为的时候,又露出恶狠狠的目光。好像迈克不是人这件事情,完全是任为造成的。
她一定觉得这是个阴谋,任为想,不过这件事情,虽然不是那么真实,但也确实不是谎言,更不是阴谋。
云球(1-3册)最新章节地址:
云球(1-3册)全文阅读地址:
云球(1-3册)txt下载地址:
云球(1-3册)手机阅读:
为了方便下次阅读,你可以点击下方的"收藏"记录本次(15任明明的隐私)阅读记录,下次打开书架即可看到!
喜欢《云球(1-3册)》请向你的朋友(QQ、博客、微信等方式)推荐本书,谢谢您的支持!!
请收藏本站:https://www.lctcw.com。两重天书网手机版:https://m.lctcw.com