Español Spanish Forum esTraducir.com

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 2288|回复: 0

(Chap9-3 Homo Deus)DE ORÁCULO A SOBERANO 从先知到君主

[复制链接]

363

主题

418

帖子

1819

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
1819
发表于 2019-2-5 21:51:56 | 显示全部楼层 |阅读模式
DE ORÁCULO A SOBERANO 从先知到君主
Cuando Google, Facebook y otros algoritmos se conviertan en oráculos omniscientes, bien podrían evolucionar para convertirse en representantes y finalmente en soberanos.[33] Para comprender esta trayectoria, considérese el caso de Waze, una aplicación de navegación basada en el GPS que muchos conductores emplean en la actualidad. Sin embargo, Waze no es solo un mapa. Sus millones de usuarios lo actualizan constantemente con información sobre atascos, accidentes y presencia de coches policiales. De ahí que Waze sepa desviarnos del tráfico intenso y llevarnos hasta nuestro destino por la ruta más rápida posible. Cuando llegamos a un cruce y nuestro instinto nos dice que giremos a la derecha pero Waze nos indica que giremos a la izquierda, los usuarios más tarde o más temprano aprenden que es mejor hacer caso a Waze y no a sus sensaciones.[34]
A primera vista parece que el algoritmo de Waze nos sirve solo como oráculo. Le hacemos una pregunta, el oráculo contesta, pero somos nosotros los que tenemos que tomar la decisión. Sin embargo, si el oráculo se gana nuestra confianza, el siguiente paso lógico es convertirlo en un representante. Damos al algoritmo solo un objetivo último, y él actúa para alcanzar dicho objetivo sin nuestra supervisión. En el caso de Waze, esto puede suceder cuando lo conectamos a un coche automático y le decimos: «Toma la ruta más rápida hasta casa» o «Toma la ruta más pintoresca», o «Toma la ruta con la que contamine menos». Nosotros dirigimos la orquesta, pero dejamos que sea Waze quien ejecute nuestras órdenes.
从先知到君主
等到谷歌、脸谱网和其他算法成为无所不知的先知之后,很有可能就会进一步演化成代理人,最后成为君主。为了解释这个过程,让我们以Waze为例。这是一个(全球定位系统)导航应用程序,许多司机现在都在使用。绝不只是地图,靠着数百万用户的不断更新,它能得知各种堵车、事故和警车位置的信息。因此,况知道怎样让你躲过繁忙的路段,让你以最快速度到达目的地。你到了某个路口,直觉要你往右,但Waze要你往左,用户迟早都会明白,最好相信Waze,而不要相信自己的直觉。
乍看之下,Waze算法应该只是先知的等级。你问问题,先知给你答复,但最后还是由你决定。然而,如果先知开始赢得你的信任,合理的下一个步骤就是让它成为你的代理人。你只是向算法指定一个最终目标,它就会在没有你监督的情况下,自行达成目标。以Waze为例,就是你将连接到自动驾驶的汽车上,并告诉胁汉“走最近的路回家”或是“走风景最漂亮的路线”,又或是“走污染最小的路线”。由你来发号施令,交给来执行。

Finalmente, Waze podría convertirse en soberano. Al tener tanto poder en sus manos y saber mucho más que nosotros, podría empezar a manipularnos, modelando nuestros deseos y tomando decisiones por nosotros. Por ejemplo, supongamos que, debido a que Waze es bueno, todo el mundo empieza a usarlo. Y supongamos que hay un atasco en la carretera n.° 1, mientras que la carretera n.° 2 está relativamente despejada. Si Waze deja que todos lo sepan, todos los conductores se dirigirán a la carretera n.° 2, y también esta quedará congestionada. Cuando todo el mundo emplea el mismo oráculo y todo el mundo cree en él, el oráculo se transforma en un soberano. De modo que Waze debe pensar por nosotros. Quizá solo informe a la mitad de los conductores de que la carretera n.° 2 está despejada y oculta dicha información a la otra mitad. De esta forma, la congestión se aliviará en la carretera n.° 1 sin bloquear la n.° 2.
最后,Waze可能就会成为君主。它手中握有大权,所知又远超于你,就可能开始操纵你和其他驾车人,塑造你们的欲望,让你们做出顾全大局的决定。例如,假设因为Waze实在太好用,所有驾车人都开始使用。再假设今天一号公路大堵车,而备选的二号公路车流相对顺畅。 如果Waze只是让大家都知道二号公路顺畅,所有驾车人就会一窝蜂开向二号公路,最后又全堵在一起。在所有人都找到同一位先知,而且每个人也都相信这位先知的时候,先知就摇身一变,成为君主。这时的Waze汉必须为大局着想。或许它只会告诉一半驾车人二号公路顺畅,而不透露给另一半。这样一来,一号公路的堵车压力能够减轻,而二号公路也不至于无法消化车流。

Microsoft está desarrollando un sistema mucho más sofisticado llamado Cortana, nombre que procede de un personaje de IA de su popular serie de videojuegos Halo. Cortana es un asistente personal de IA que Microsoft espera incluir como característica integral en futuras versiones de Windows.
  • Se animará a los usuarios a que permitan que Cortana acceda a todos sus archivos, correos electrónicos y aplicaciones para conocerlos bien y poder ofrecer consejo sobre multitud de cuestiones, así como convertirse en un agente virtual que represente los intereses del usuario. Cortana podría recordarnos que compremos algo para el cumpleaños de nuestra esposa, elegir el regalo, reservar una mesa en el restaurante y recordarnos que tenemos que tomar el medicamento una hora antes de la cena. Podría recordarnos que si no dejamos de leer ahora, llegaremos tarde a una importante reunión de negocios. Cuando estemos a punto de entrar en la reunión, Cortana nos advertirá de que nuestra tensión arterial es demasiado elevada y nuestro nivel de dopamina demasiado bajo, y, basándose en estadísticas anteriores, nos recordará que en tales circunstancias solemos cometer graves errores comerciales, de modo que será mejor que mantengamos las cosas indefinidas y evitemos comprometernos o firmar ningún acuerdo.
    微软正在开发一套更复杂的系统,名为Cortana。名称出自微软热门游戏《光晕》(Halo)当中的一个人工智能角色,现在则是一款人工智能个人助理。微软希望Cortana能够成为未来操作系统的内嵌功能,并鼓励用户允许存取计算机内的所有文件、电子邮件和应用程序,好让Cortana更了解用户,进而提供对许多事务的建议,并成为能够代表用户兴趣的虚拟代理人。Cortana可以提醒你给太太买生日礼物,帮你挑礼物,预订餐厅,还会在晚餐前一小时告诉你该先吃药。也可以警告你,再不放下手上的书,一个重要的商务会议你就要迟到了。而就在你开会之前,Cortana还会警告你,现在你的血压太高、多巴胺分泌量又太低,根据过去的统计,这种时候你的商业判断常常会出大错,所以最好一切先别下定论,别许下什么承诺或是签署任何合同。

    Cuando los Cortana evolucionen de oráculos a representantes, podrían empezar a hablarse directamente entre sí, en nombre de sus dueños. Esto podría empezar de manera muy inocente, cuando mi Cortana contacte con el tuyo para acordar un lugar y una fecha de reunión. Al poco tiempo, un empresario podría decirme que no me moleste en enviarle mi currículum, sino que sencillamente deje que su Cortana pregunte a mi Cortana. O el Cortana de un amante potencial podría acercarse a mi Cortana, y los dos podrían comparar notas para decidir si haríamos buena pareja. sin que los dueños humanos lo sepamos.
    A medida que los Cortana adquieran autoridad, podrían empezar a manipularse los unos a los otros en beneficio de los intereses de sus dueños, de modo que el éxito en el mercado laboral o en el matrimonial podría depender cada vez más de la calidad de nuestro Cortana. La gente rica que posea el Cortana más actualizado tendría una ventaja decisiva sobre la gente pobre con versiones más antiguas.
    Pero la cuestión más turbia de todas se refiere a la identidad del dueño del Cortana. Tal como hemos visto, los humanos no son individuos y no poseen un único yo unificado. Así, pues, ¿a qué intereses servirá Cortana? Supongamos que mi yo narrador toma en Año Nuevo la decisión de empezar a hacer dieta y a ir al gimnasio a diario. Una semana después, cuando llega la hora de ir al gimnasio, el yo experimentador le dice al Cortana que conecte el televisor y pida una pizza. ¿Qué tendrá que hacer el Cortana? ¿Tendrá que obedecer al yo experimentador o a la decisión que una semana antes tomó el yo narrador?
    El lector podría preguntar si Cortana es realmente diferente de un reloj despertador que el yo narrador programa por la noche para despertar al yo experimentador con tiempo suficiente de llegar puntual al trabajo. Pero Cortana tendrá mucho más poder sobre mí que un reloj despertador. El yo experimentador puede silenciar el despertador con solo pulsar un botón. En cambio, Cortana me conocerá tan bien que sabrá exactamente qué botones internos pulsar para hacer que yo siga su «consejo».
    一旦Cortana从神使发展成代理人,就可能会直接代表主人进行对谈。一开始可能一切都十分单纯,我的Cortana联络你的Cortana,敲定适当的开会时间和地点之类。另外就是在求职时,雇主说不用麻烦寄简历了,只要允许他的Cortana问我的Cortana各种问题就行。又或者,一个潜在交往对象的Cortana跑来找我的Cortana,互相比较一下过往的记录,看看这两人合不合得来,但这一切可能完全没让人类主人知道。
    随着Cortana得到越来越多授权,就可能开始互相钩心斗角,好为主人谋求更多的利益。于是,你在就业市场的表现也可能越来越依赖你Cortana质量如何。有钱人买得起最新的Cortana,在对穷人和他们的旧版Cortana上拥有绝对优势。
    然而这里最难解的问题在于,Cortana的主人身份究竟为何?我们已经提过,人类并非不可分割的个体,也没有单一整合的自我。这样一来,Cortana该迎合的是谁的利益?假设我的叙事自我在新年下定决心,要控制饮食,每天去健身房。但一周后到了该去健身房的时间,体验自我却告诉Cortana开电视、订比萨。Cortana该怎么办?是要听从体验自我的命令,还是一周前叙事自我做的决定?
    你可能会想,Cortana不就像个闹钟吗?叙事自我在晚上定了闹钟,好在早上把体验自我叫醒去上班。然而,Cortana拥有的权力会远大于闹钟。体验自我只要按个钮,就能让闹钟安静下来。但相较之下,反而是太了解我,知道只要按下我的某个内部按钮,就能让我听它的“建议”。

    El Cortana de Microsoft no está solo en este juego. Now, de Google, y Siri, de Apple, apuntan en la misma dirección. También Amazon emplea algoritmos que nos estudian constantemente y usan su conocimiento para recomendar productos. Cuando voy a una librería física, deambulo entre las estanterías y confío en mis sensaciones para escoger el libro adecuado. Cuando voy a la tienda virtual de Amazon, aparece inmediatamente un algoritmo que me dice: «Sé qué libros te gustaron en el pasado. A personas con gustos similares también les gusta este o aquel libro». ¡Maravilloso!
    Y esto es solo el principio. Hoy en día, en Estados Unidos, hay más gente que lee libros digitales que volúmenes impresos. Dispositivos como el Kindle de Amazon pueden acopiar datos de sus usuarios mientras estos leen el libro. Por ejemplo, nuestro Kindle puede supervisar qué partes del libro leemos deprisa y cuáles despacio, en qué página hicimos una pausa, y en qué frase abandonamos el libro y no volvimos a abrirlo. (Será mejor decirle al autor que reescriba ese fragmento). Si el Kindle se mejora con reconocimiento facial y sensores biométricos, podrá saber cómo influyó cada frase que leímos en nuestro ritmo cardíaco y tensión arterial. Podrá saber qué nos hizo reír, qué nos entristeció y qué nos enfureció. Pronto los libros nos leerán mientras los leemos. Y mientras nosotros olvidamos rápidamente la mayor parte de lo que leímos, Amazon nunca olvidará nada. Dichos datos le permitirán elegir libros para el lector con pasmosa precisión. También le permitirá saber con exactitud quiénes somos, y cómo conectarnos y desconectarnos.[35]
    在这场竞赛中,不仅仅有微软的Cortana参赛。谷歌即时资讯(Google Now)和苹果的Siri也朝着同样的方向前进。亚马逊同样会用算法研究你,再用累积的知识来向你推荐产品。逛实体书店的时候,我是自己在书架间浏览,凭着自己的感觉挑出想看的书。但浏览亚马逊网上书店的时候,则是有算法立刻跳出来告诉我:“我知道你先前喜欢哪些书,而与你品位相似的人,也会喜欢这本或那本新书。”
    这还只是开始。今天在美国,读电子书的人数已超过读纸质书的人数。比如亚马逊的Kindle等电子书,就能在用户阅读时收集数据。举例来说,你的Kindle会知道你在哪些地方读得快、哪里读得慢,在哪一页你休息了一会儿,又是在哪一行你放弃了这本书,再也没读过(最好赶快告诉作者,让他重写那一部分)。如果Kindle再升级,装上面部辨识和生物统计传感器,就能知道你读的每个句子如何影响你的心跳和血压。它能知道什么会让你笑、什么让你哭、什么让你生气。不久之后,在你读书的时候,书也在读你。你很快就会忘了大部分读过的内容,但亚马逊却什么都不会忘。有了这样的数据,亚马逊就能更精准地帮你选书,也会让亚马逊清楚了解你是怎样的人,如何让你激动或平静。”

    Al final, podríamos llegar a un punto en el que fuera imposible desconectarnos de esta red omnisciente, ni siquiera por un momento. La desconexión significará la muerte. Si las expectativas médicas se hacen realidad, la gente del futuro incorporará a su cuerpo una serie de dispositivos biométricos, órganos biónicos y nanorrobots que supervisarán su salud y la defenderán de infecciones, enfermedades y lesiones. Pero estos dispositivos tendrán que estar permanentemente conectados a la red, tanto para actualizarlos con las últimas noticias médicas como para protegerlos de las nuevas plagas del ciberespacio. De la misma manera que mi ordenador casero sufre ataques constantes de virus, gusanos y troyanos, lo mismo le ocurrirá a mi marcapasos, a mi audífono y a mi sistema inmunitario nanotecnológico. Si no actualizo regularmente el programa antivirus de mi cuerpo, un día me despertaré y descubriré que los millones de nanorrobots que recorren mis venas están ahora controlados por un pirata informático norcoreano.
    Así, las nuevas tecnologías del siglo xxI podrían invertir la revolución humanista, despojando a los humanos de su autoridad y confiriendo en cambio poderes a algoritmos no humanos. Si al lector le horroriza esta deriva, no culpe a los frikis de los ordenadores. En realidad, la responsabilidad es de los biólogos. Es crucial darse cuenta de que toda esta tendencia está más impulsada por descubrimientos biológicos que por la ciencia informática. Son las ciencias de la vida las que han llegado a la conclusión de que los organismos son algoritmos. Si este no es el caso, si los organismos funcionan de una manera intrínsecamente diferente a la de los algoritmos, entonces los ordenadores podrán obrar maravillas en otros ámbitos, pero no serán capaces de comprendernos ni de dirigir nuestra vida, y ciertamente serán incapaces de fusionarse con nosotros. Pero cuando los biólogos llegaron a la conclusión de que los organismos son algoritmos, desmantelaron el muro que separaba lo orgánico de lo inorgánico; transformaron la revolución informática, que pasó de ser un asunto simplemente mecánico a un cataclismo biológico, y transfirieron la autoridad de los individuos humanos a los algoritmos conectados en red.

    最后可能是我们一分一秒都无法与这个全知的网络断开。断开,就等于死亡。假设医疗理想得以实现,未来的人类将会在体内植入许多生物计量装置、仿生器官和纳米机器人,以监测人体健康状况,并避免感染、疾病和伤害。但这些装置需要24小时全天上线,才能时时追踪最新的医疗发展,以及抵抗网络空间暴发的新瘟疫。一如家庭计算机会不断受到病毒、蠕虫和特洛伊木马的攻击,以后的心律调节器、助听器和纳米科技免疫系统也无法幸免。如果不去定期更新身体中的防病毒程序,可能某天早上醒来我们就会发现血管中的几百万个纳米机器人都被操纵在某个黑客的手中。
    因此,21世纪的新科技可能会彻底扭转人文主义革命,让人类交出权威,送到非人类的算法手中。如果你觉得这个方向实在太骇人,该怪的并不是那些计算机怪才,这其实是生物学家的责任。我们必须意识到,推动这个趋势的主要力量来自生物学的洞察,而非计算机科学。生命科学认为,生物就是各种算法。如果生物的功能真的和算法大有不同,就算计算机在其他领域大展神威,仍然不可能了解人类、引导人类的生命,更不可能与人合而为一。一旦生物学家判断生物也是算法,就等于拆除了有机和无机之间的那堵墙,让计算机革命从单纯的机械事务转变为生物的灾难,也将权威从个人转移到了算法网络。

    Algunas personas están ciertamente horrorizadas por esta situación, pero el hecho es que hay millones que la aceptan de buen grado. Hoy en día, en realidad, somos muchos los que cedemos nuestra privacidad y nuestra individualidad, publicamos todo lo que hacemos, vivimos conectados a la red y nos ponemos histéricos si la conexión se interrumpe aunque sea solo unos minutos. La transferencia de la autoridad de los humanos a los algoritmos se está dando a nuestro alrededor, no como resultado de alguna decisión gubernamental crucial, sino debido a una avalancha de decisiones mundanas.
    El resultado no será un estado policiaco orwelliano. Siempre nos preparamos para el último enemigo, aun cuando nos enfrentamos a una amenaza totalmente nueva. Los defensores de la individualidad humana hacen guardia frente a la tiranía del colectivo, sin darse cuenta de que la individualidad humana está ahora amenazada desde la dirección opuesta. El individuo no será aplastado por el Gran Hermano: se desintegrará desde dentro.
    Hoy, la mayoría de las empresas y los gobiernos rinden homenaje a mi individualidad, y prometen proporcionar medicina, educación y diversión personalizadas, adaptadas a mis necesidades y deseos únicos. Pero para poder llegar a hacerlo, empresas y gobiernos necesitan antes descomponerme en subsistemas bioquímicos, supervisar dichos subsistemas con sensores ubicuos y descifrar su funcionamiento por medio de potentes algoritmos. En el proceso se revelará que el individuo no es más que una fantasía religiosa. La realidad será una malla de algoritmos bioquímicos y electrónicos sin fronteras claras, y sin núcleos individuales.
    确实有些人对这种发展感到恐惧,但事实上,也有数百万人再乐意不过。今天许多人已经放弃了自己的隐私和个性,把许多生命点滴全放到网络上,每个行动都记录下来,与网络的连接一中断,就算只是几分钟,也会让他们歇斯底里。就在我们身边,处处都有由算法代替人类权威的情形,不是因为什么重大的政府决策,而是由于狂潮般的个人日常选择。
    如果再不小心,结果可能就会是奥威尔笔下的那种警察国家,而且持续监测的还不只是我们外在的各种举止,甚至也包括我们身体内、大脑中的活动。可以想想,如果生物统计传感器无所不在,斯大林可能会用它来做什么?普京又可能想做什么?然而,虽然有许多捍卫人类个性的人担心20世纪的噩梦重现,竭力抵抗这个似曾相识的奥威尔式敌人,但人类的个性其实还受到另一方向更大的威胁。在21世纪,与其说个人会被外界力量残忍碾碎,还不如说会先从内部缓缓崩解。
    今天,大多数企业和政府都会尊重每个人的个性,承诺依据每个人的需求和愿望提供医药、教育和娱乐活动。但为了达到这个目的,企业和政府就得将个人解构为许多生化上的实体,用无所不在的传感器监测这些实体,并用强大的算法加以解读。在这个过程中,我们会发现所谓不可分割的个体只是一个宗教幻想。现实中,每个实体都是许多生化和电子算法的混合体,没有清晰的边界,也没有自我中心。

  • 回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    Archiver|手机版|小黑屋|estraducir.com

    GMT+8, 2022-6-27 04:54 , Processed in 0.037254 second(s), 21 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2020, Tencent Cloud.

    快速回复 返回顶部 返回列表