lilycc

回复 15# 马丁

没事，只是学术探讨罢了。我想你说的是这些东西脱离了你的控制的感觉——这是一定以及肯定的。可是算法和规则都是人定的——当然不是你，而是编写了它们的人。编写的人肯定是能够控制这些东西的走向的，他们不能控制的是内容——因为内容来源于我们，来源于全世界的网络用户。这些东西脱离了人类个体的掌控，却完全在全人类知识的范围之内。
如果要大而化之的推论，在遥远的某个未来，编写它们的人的智慧达到了解构基因的程度，通过我们所不能理解的方式赐予了它生命，而它又拥有着全人类的知识储量…… 那还真是科幻片要成真喽~~~ 我想，那时候，整个互联网就会成为一个无比巨大的、由每一条线路作为神经元、所构成的“脑”。人就真的要属于它了——在它简单的生物本能的控制下求存吧。不过，那个时候人类本身的技术水平到是肯定不差了，倒也不至于蠢到把自己搞灭掉吧。。。谁知道哩。
哈哈~ 咱们讨论这个到是讨论的很开心，都可以去写篇科幻文了。

马丁

回复  马丁

没事，只是学术探讨罢了。我想你说的是这些东西脱离了你的控制的感觉——这是一定以及肯定的 ...
lilycc 发表于 2011-10-26 18:50

事实上是，这不仅仅是我的忧虑，请看看下面的两个资料：

1. Kevin Slavin: How algorithms shape our world 资料短片

2. BBC今年8月底的时评：When algorithms control the world

搜索引擎的算法不是脱离了 我 的控制而已啊(我哪有那本事)，是脱离了人类的控制。你说说我是不是瞎说，现在有木有被机器控制的感觉？

lilycc

回复 17# 马丁


没有啊。。。那个，不好意思的说，作为一个做过编程，爱好把软件弄崩溃的理科生，我看这些东西的关注点可能和你不大一样。Kevin Slavin 讲的是数学和运算法则的limitation，人编出来的算法没有办法达到完美，玩过这些东西的我能理解这种情况发生的原因，就好像我的手机总会在我不注意的时候死机——也许是哪个二极管受了震荡或者温度影响传递了个错误的数字上去，然后整个algorithm就被不在预期范围的结果搞傻掉啦。
我们确实在每时每刻的做出更多的algorithm来方便自己，来达到目的——就想华尔街那群靠algorithm来赚钱的家伙靠的是电脑的急速运算来抢得先机，这没什么奇怪的不是吗。站在他们那个位置的话我肯定也这么做。这些掌控着数字代表的金钱的algorithm一旦出了故障可就不是重启那么容易解决的了。就像例子里那个价位很搞笑的书——显然是程序陷入了死循环——我编程的时候习惯各种试验，出死循环再正常不过。。。所以还是无感。。。
Google改变人们的思维方式，使人们只知道去google找内容而不是自己学习和记忆——因为人的脑子本来就没那么大容量，所以这是在依赖工具啊。虽然，好吧，我想我如果拥有自己的数据信息库的话我才不会去用google这样不在自己控制范围内、而在不知道哪个资本家手里的工具呢。。。
看了你给的材料我就这些感想——囧，是不是有点鸡同鸭讲的感觉啊哈哈哈~ 没办法，我把这些东西太当做可掌控的工具了，可能会有理解上的偏颇吧。

马丁

回复 18# lilycc


    这就是悲观主义者和乐观主义者的态度了。软件崩溃当然不是啥事，还可以reset，可是软件在开发过程中不可避免累积bug，就象实验误差一样，如影随形，而且 unexpected，还有 开发过程中 knowhow 的管理传递 …… 你觉得这些都是可控的，可以被感知的吗？遗失的算法逻辑，并不会让程序崩溃，后来的开发维护人员，只需要在这个混乱的系统上继续往下走就行，修修补补。Matrix 中，每次都要挑选23个人组成Zion，来完成系统的升级修复和reload，越是发展，越是混乱，这个世界的墒值增加，本来就不可避免。

    其实搜索引擎的确决定了我们能看到什么，现在的知识太多，人们更倾向于只记住那些不容易搜索到的东西，而把能搜索到的都交给搜索引擎去管理，人正在渐渐的依赖于机器。你这么自信^_^？可以有自己的信息数据库不依赖搜索？你太牛了，这个时代居然还能离开搜索引擎而活？

    这让我想起了那本讲一个美国黑人家族史的《根》，他们的历史，是靠记忆，口口相传的这么一个教一个的，历史会越来越多，信息也越来越多，我们的大脑已经 overload 而且 out of memory 了，所以我不得不依靠无所不能的搜索引擎，问问这里有几个能和你一样自信可以脱离搜索引擎而活的？

    回归主题，而搜索引擎，正在渐渐的不可控，正在以你不知道的方式在筛选你能看到的东西。

马丁

厚厚，这里是关于人们对信息的记忆方法的引文出处：http://www.sciencemag.org/conten ... /13/science.1207745

人们基本不记住信息本身，而只是记住怎么去找它。

我觉得自己记忆力还蛮不错的，但我也不过能记住这些依据在哪里找到的，我自己能记住的不过皮毛印象，只是记住了怎么找到它们。

我发觉这些资料都可以develop一篇论文了，O(∩_∩)O~。

lilycc

回复 20# 马丁

大概因为我本来就是个偷懒的人，从来不喜欢强迫记忆，而总是喜欢采用推导和参考的形式——从中学的几个复杂的数学公式开始，我就喜欢在考试开始的时候先在草稿纸上推导出来，保证自己绝对不会记错；所以如果没有搜索引擎的话我大概会到处背着那些书，绝不会靠脑子去记的，因为我一直都认为记它们没用啊。我并不认为使用这些工具有什么不好。当然，就像你说的，它们有它们的弊端，它们会出错，会积累bug，这些无法避免。但是因噎废食是没有必要的。思考方式上的不同吧。

lilycc

回复 19# 马丁

好奇一下，马丁你是学什么学科的？

马丁

回复 22# lilycc


    ME

xling126

用什么眼光看世界，就收获一个什么样的世界。

junjunbaobei

现在确实越来越依赖电脑了，

清水爱理

这种担心不必要。Google 是这种工具或者媒体。任何工具和媒体都能影响人的思维和文化。从google 往前推，文字本身改变了人的思维，书本改变了人的思维，图书馆改变了人的思维，纸笔改变了人的思维，指南针改变了人的思维等等等等......我们要注意的是这种服务大众的工具的产业化，以及控制这些产业后面的集团。至于机器人战胜人之类的，只是搞电脑和工程那帮阿宅的YY罢了。他们能造出的最好的机器，也比不上一只细菌啊~~~~

jjwxc

智能机器人有这个想法的前提是：机器人一直在做危险的工作，也没有休息，损耗严重最后被销毁。

sanarubya

关键是人总是觉得非我族类其心必异啊……

lilycc

回复 19# 马丁

可以看下这个帖子里的：3．中文房间（The Chinese Room）
这就是我想表达的意思。
http://www.chineseindc.com/forum/thread-178092-1-1.html

马丁

回复 29# lilycc


    咱俩的分歧是：

• 你表述的是一种理想状态，试图从原理和道理上推导出结论

• 我则是直接从“真实情况的观察者”角度，把相对于理想状态的“扰动”都记在机器人一方的账上，人类对于这些“扰动”的认知和掌控能力有限，却不知不觉被“受到干扰后不纯粹的理想状态”而影响，比如我举例的 搜索引擎，输入法，汽车……

    这有点象经典力学和量子力学的差别，作用反作用速度位置……在量子的世界里却只好是“测不准”；这更象一个理科生和文科生的辩论，而我看起来居然象个文科生。

    咱们生活的世界需要什么？需要学术，来充盈期刊；需要方法和秩序，大海捞针 from both academia and real life；需要 art，刺激我们疲劳的耳朵眼睛；需要闲聊，渔樵江渚红泥小火炉，秋月春风相忘于江湖…… 俺是狮子座，特征是“我创造”，即使是闲聊，难道你不觉得能够把“机器人掌控世界”这个科幻的观点罗列这么多的证据，并且组织在一起，很有意思吧？在别处听不到有人这么说吧？对这个问题也没有别人象俺这样 迎难而上振振有词但是的确也有几分道理的吧？推荐对俺使用那个以手拍地“哈哈哈”的红狐狸阿狸表情就很万能。

    十个著名的思想实验 这个文章在丫丫里一直有呢，当然放这边也挺好的，有更多的人可以讨论。