Español Spanish Forum esTraducir.com

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 2235|回复: 0

(Chap9 Homo Deus)La gran desconexión 大分离

[复制链接]

363

主题

418

帖子

1819

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
1819
发表于 2019-2-5 21:48:12 | 显示全部楼层 |阅读模式
La gran desconexión 大分离
Las páginas anteriores nos han llevado por un breve recorrido de descubrimientos científicos recientes que socavan la filosofía liberal. Corresponde ahora examinar las implicaciones prácticas de dichos descubrimientos científicos. Los liberales defienden los mercados libres y las elecciones democráticas porque creen que cada humano es un individuo único y valioso, cuyas opciones libres son la fuente última de autoridad. En el siglo XXI tres acontecimientos prácticos pueden hacer que esta creencia haya quedado obsoleta:
1.        Los humanos perderán su utilidad económica y militar, de ahí que el sistema económico y político deje de atribuirles mucho valor.
2.        El sistema seguirá encontrando valor en los humanos colectivamente, pero no en los individuos.
3.        El sistema seguirá encontrando valor en algunos individuos, pero estos serán una nueva élite de superhumanos mejorados y no la masa de la población.
Examinemos estas tres amenazas en detalle. La primera (que los avances tecnológicos harán que los humanos sean inútiles desde el punto de vista económico y militar) no demostrará que el liberalismo esté equivocado en un plano filosófico, pero en la práctica resulta difícil ver cómo la democracia, los mercados libres y otras instituciones liberales vayan a poder sobrevivir a un golpe de este tipo. Después de todo, el liberalismo no se convirtió en la ideología dominante simplemente porque sus argumentaciones filosóficas fueran las más exactas. Más bien, el liberalismo medró porque tenía mucho sentido político, económico y militar adscribir valor a cada ser humano. En los campos de batalla masivos de las modernas guerras industriales y en las líneas de producción masiva de las modernas economías industriales, cada humano contaba. Había valor en cada par de manos que podían sostener un rifle o tirar de una palanca.
上一章简单回顾了近来的科学发现对自由主义哲学有何伤害,现在则该来审视这些发现对实际生活有何影响。自由主义推崇自由市场和民主选举,是因为自由主义相信每个人都独一无二、各有价值,而且每个人的自由选择就是权威的本源。但在21世纪,有三项“务实”的发展,可能会让这种信念成为明日黄花:
1.人类将会失去在经济和军事上的用途,因此经济和政治制度将不再继续认同人类有太多价值。
2.社会系统仍然认为人类整体有其价值,但个人则无价值。
3.社会系统仍然会认为某些独特的个人有其价值,但这些人会是一群超人类的精英阶层,而不是一般大众。
让我们仔细审视这三个威胁。第一,科技发展将使人类不再具备经济和军事上的用途:这一点虽然不会从哲学层面推翻自由主义,但在实际生活中,很难想象民主制度、自由市场和其他自由主义制度如何能承受这记打击。毕竟,自由主义之所以能成为意识形态的主流,并不只是因为它的哲学论证最合理,更是因为它赋予每个人价值,这一点在政治、经济和军事上大有好处。在现代工业战争的大规模战场、现代工业经济的大规模生产线上,每个人都很重要。只要能拿起步枪或是扳动拉杆,每双手都有价值。

En 1793, las casas reales de Europa enviaron a sus ejércitos a estrangular la Revolución francesa en su cuna. Los agitadores de París reaccionaron al proclamar la levée en masse y desencadenar la primera guerra total. El 23 de agosto, la Convención Nacional decretó: «Desde este momento y hasta la hora en que sus enemigos hayan sido expulsados del suelo de la República, todos los franceses están en permanente requisición para el servicio de las armas. Los hombres jóvenes deben luchar, los hombres casados deben forjar armas y transportar provisiones, las mujeres deben fabricar tiendas y ropas, y deben servir en los hospitales; los niños deben trabajar el lino, y los ancianos deben ir a las plazas públicas para despertar el valor de los guerreros y predicar el odio a los reyes y la unidad de la República».[1]
Este decreto vierte una luz interesante sobre el documento más famoso de la Revolución francesa (la Declaración de los Derechos del Hombre y del Ciudadano), que reconocía que todos los ciudadanos tienen igual valor e iguales derechos políticos. ¿Es una coincidencia que los derechos universales se proclamaran en la misma coyuntura histórica en que se decretó el servicio militar obligatorio? Aunque los estudiosos pueden objetar sutilezas acerca de las relaciones exactas entre ambos, en los dos siglos que siguieron, un razonamiento común en defensa de la democracia explicó que conceder a las personas derechos políticos era bueno, porque los soldados y los obreros de los países democráticos rendían mejor que los de las dictaduras. Supuestamente, conceder a la gente derechos políticos aumenta su motivación y su capacidad de iniciativa, lo cual es útil tanto en el campo de batalla como en la fábrica.
1793年春天,欧洲各王朝派出军队,希望将法国大革命扼杀于襁褓之中。巴黎革命分子则宣布全国总动员,发动第一波全面战争。8月23日,法国国民公会(NationalConvention)下令:“从现在起到一切敌人被逐出共和国领土时止,全法国人民始终处于征发状态,以便为军事服务。动员是普遍的。18岁至25岁的未婚公民或无子女的鳏夫应首先参军,青年人则去打仗;已婚男子则制造武器和运送粮食;妇女则制造帐篷、衣服和服务于医务;儿童则将旧布改成绷带;老年人则至广场鼓舞战士们的勇气,宣传痛恨国王和共和国的统一。”
法国大革命最著名的文件《人权和公民权宣言》(The Declaration of the Rights of Man and of the Citizen)认定所有公民拥有同等价值,享有平等政治权利。但与国民公会所下的命令两相对照,足堪玩味。在这历史上的同一时刻,一方面宣告普世人权,另一方面下令不分男女老幼全国总动员,难道真是巧合?虽然学者对于两者究竟有何确切关系还多有争辩,但在接下来的两个世纪中,一种维护民主的常见论点认为让公民拥有政治权利是件好事,因为民主国家的士兵和工人会比独裁政权中的士兵和工人表现更好。据称,让人民享有政治权利,就能增强动机和进取心,而这在战场上和工厂里都大有益处。

Así, Charles W. Eliot, presidente de Harvard entre 1869 y 1909, escribió el 5 de agosto de 1917 en el The New York Times que «los ejércitos democráticos luchan mejor que los ejércitos organizados aristocráticamente y gobernados autocráticamente», y que «los ejércitos de naciones en las que la masa del pueblo determina la legislación, elige a sus servidores públicos y dirime cuestiones de paz y guerra luchan mejor que los ejércitos de un autócrata que gobierna por derecho de nacimiento y por encargo del Todopoderoso».[2]
Una lógica parecida se hallaba detrás de la consecución del derecho a sufragio de las mujeres tras la Primera Guerra Mundial. Advirtiendo el papel vital de las mujeres en las guerras industriales totales, los países vieron la necesidad de concederles derechos políticos en tiempo de paz. Así, en 1918, el presidente Woodrow Wilson se convirtió en defensor del sufragio femenino, y explicó ante el Senado de Estados Unidos que la Primera Guerra Mundial «no se habría podido librar, por parte de otras naciones implicadas y por Estados Unidos, de no haber sido por los servicios prestados por las mujeres en todas las esferas, no solo en los ámbitos en los que nos hemos acostumbrado a verlas trabajar, sino en todos los puestos en que los hombres han trabajado, y en las inmediaciones y los límites mismos de la batalla. No solo se recelará de nosotros, sino que mereceremos que se recele de nosotros si no les concedemos el más completo de los derechos de sufragio».[3]
哈佛大学校长查尔斯•艾略特(Charles W. Eliot,任期为1869—1909年)曾于1917年8月5日在《纽约时报》发文:“民主军队的战斗力高于用贵族方式组织、独裁方式统治的军队……由民众决定立法、选举公务员、解决和平与战争问题的国家,比起靠世袭或全能的神所委托的独裁者,前者的军队战斗力也要更强。”
第一次世界大战后,基于类似的理由,妇女获得了各项权利。各国意识到女性在这场全面工业战争里扮演重要角色,认为有必要在和平时期也赋予女性政治权利。因此在1918年,美国总统伍德罗,威尔逊支持女性拥有投票权,向参议院表示,在第一次世界大战中,“若不是因为有女性在各个领域提供服务,美国或其他任何参战国家都不可能赢得胜利;而且这里指的不只是我们一般习于见到的女性工作领域,而是所有过去属于男性的工作领域。如果不让女性享有尽可能完整的权利,我们不仅会失去民众的信任,更是咎由自取” 。

Sin embargo, en el siglo XXI la mayoría de los hombres y las mujeres podrían perder su valor militar y económico. Ya han desaparecido los reclutamientos masivos de las dos guerras mundiales. Los ejércitos más avanzados del siglo XXI se basan mucho más en tecnología de última generación. En lugar de carne de cañón ilimitada, ahora solo necesitamos un pequeño número de soldados muy bien adiestrados, un número aún menor de superguerreros de fuerzas especiales, y un puñado de expertos que sepan producir y emplear tecnología sofisticada. Fuerzas de alta tecnología dirigidas por drones sin piloto y cibergusanos están sustituyendo a los ejércitos de masas del siglo XX, y los generales delegan cada vez más decisiones a los algoritmos.
Dejando de lado su imprevisibilidad y su vulnerabilidad al miedo, al hambre y a la fatiga, los soldados de carne y hueso piensan y se mueven a una escala cada vez más irrelevante. Desde los tiempos de Nabucodonosor hasta los de Sadam Husein, a pesar de un sinnúmero de mejoras tecnológicas, la guerra se hacía según una planificación orgánica. Las discusiones duraban horas, las batallas se prolongaban días y las guerras se arrastraban años. Sin embargo, las ciberguerras pueden durar solo unos minutos. Cuando una teniente de guardia al cibermando advierte que sucede algo extraño, coge el teléfono y llama a su superior, quien alerta inmediatamente a la Casa Blanca. Lamentablemente, para cuando el presidente descuelga el auricular rojo, la guerra ya se ha perdido. En cuestión de segundos, un ciberataque suficientemente sofisticado podría hacer que la red eléctrica de Estados Unidos dejara de funcionar, que los centros de control aéreo norteamericanos quedaran inutilizados, que se produjeran numerosos accidentes industriales en plantas nucleares e instalaciones químicas, que se interrumpieran las redes de comunicación de la policía, el ejército y los servicios secretos..., y que se borraran registros financieros de manera que billones de dólares se desvanecieran sin dejar rastro y nadie supiera quién es dueño de qué. Lo único que contendría la histeria general sería que, con internet, la televisión y la radio inactivas, la gente no se daría cuenta de la magnitud total del desastre.
但到了21世纪,不论男女,大多数人都可能不再具有军事和经济上的价值。两次世界大战投入大量人力的时代巳经过去,21世纪最先进的军队,主要靠的是尖端科技。现在的战争需要的不再是人数无上限的炮灰,而是精挑细选少数训练精良的士兵,甚至人数更少的特种部队超级战士,加上几个知道如何生产和使用先进科技的专家。由无人机和蠕虫病毒组成的高科技部队,正在取代20世纪的人海战队,而指挥作战的将军也将越来越多关键决定交给算法处理。
有血有肉的战士除了行事难以预测,还容易受到恐惧、饥饿和疲劳的影响,思考及行动的速度也越来越无法赶上现代战争的步调。从古巴比伦的尼布甲尼撒二世到现代伊拉克的萨达姆•侯赛因,虽然科技已有各式进展,但战争仍然处于人类的步调。讨论得花上几小时,一场战役得花上几天,战争得拖上几年。但网络战一场战争的时间可能只有几分钟。在网络指挥中心值勤的中尉发现有异常状况后,就算立刻致电上级,上级再立刻上报白宫,最后还是只能一声哀叹,因为等到总统接到消息,这场战争早已一败涂地。只要短短几秒,计划精密的网络攻击就能够让全美电网断电,破坏航空管制中心,造成核电厂和化学工厂大量事故,干扰警察、军队和情报通信网络,甚至是抹除所有金融记录,让数万亿美元就这样消失于无形,没人知道究竟谁拥有什么。这种时候,唯一让民众还不会歇斯底里的原因,就是网络、电视和广播也全面断线,所以大家连情况有多惨都不知道。

A una escala menor, supongamos que dos drones luchan en el aire. Un dron no puede disparar ni un tiro sin recibir antes la autorización de un operador humano apostado en algún búnker. El otro es completamente autónomo. ¿Cuál cree el lector que vencería? Si en 2093 la decrépita Unión Europea envía sus drones y cíborgs para sofocar una nueva Revolución francesa, la Comuna de París podría poner a su servicio a todo pirata informático, ordenador y teléfono inteligente, pero la mayoría de las personas le serían de poca utilidad, excepto quizá como escudos humanos. Es revelador que, ya en la actualidad, en muchos conflictos asimétricos, la mayoría de los ciudadanos se vean reducidos a servir como escudos humanos contra los armamentos avanzados.
Aunque nos preocupara más la justicia que la victoria, probablemente optaríamos por sustituir a nuestros soldados y pilotos por robots autónomos y drones. Los soldados humanos matan, violan y saquean, e incluso cuando intentan comportarse, con demasiada frecuencia matan a civiles por error. Los ordenadores programados con algoritmos éticos podrían someterse con mucha mayor facilidad a los últimos fallos del tribunal penal internacional.
如果是比较小的规模,假设空中有两架无人机正在交战。其中一架需要先接收到远方地堡内操作人员的命令才能开火,另一架则能完全自主开火。你觉得哪一架胜算大?假设到了2093年,巳经老旧迂腐的欧盟决定派出无人机和机器人来对抗新时期的法国大革命,新的巴黎公社可能会招募所有的黑客、计算机和智能手机参战,但大多数人大概已经都派不上用场,顶多只能当人肉盾牌。这是事实:在今天的许多不对称冲突中,大多数公民只能作为各式先进武器的人肉盾牌。
此外,就算不管胜败问题,单单为了正义,也该支持用机器人和无人机取代士兵和飞行员。人类士兵可能犯下谋杀、强奸、劫掠等罪行,而且就算他们守规矩,误杀平民仍然在所难免。相较之下,如果是搭载伦理算法的计算机士兵,遵守国际刑事法院最新规约的可能性就高多了。
Soldados en la batalla del Somme y un dron sin piloto. Izquierda: © Fototeca Gilardi/Getty Images. Derecha: © alxpin/Getty Images.
FIGURA 43. Izquierda: soldados en la batalla del Somme (1916). Derecha: dron sin piloto.

También en la esfera económica, la capacidad de sostener un martillo o de pulsar un botón se está volviendo menos valiosa. En el pasado eran muchas las cosas que solo los humanos podían hacer. Pero ahora robots y ordenadores nos están dando alcance, y puede que pronto nos avancen en la mayoría de las tareas. Cierto: los ordenadores funcionan de manera muy distinta a los humanos y parece improbable que se transformen pronto en algo próximo a lo humano. En particular, no parece que los ordenadores estén a punto de tener conciencia ni de empezar a experimentar emociones y sensaciones. A lo largo de las últimas décadas ha habido un avance inmenso en inteligencia informática, pero el avance en conciencia informática ha sido nulo. Hasta donde sabemos, en 2016 los ordenadores no son más conscientes que sus prototipos de la década de 1950. Sin embargo, estamos en el umbral de una revolución trascendental. Los humanos corren el peligro de perder su valor porque la inteligencia se está desconectando de la conciencia.
Hasta hoy, una inteligencia elevada siempre ha ido de la mano con una conciencia desarrollada. Solo los seres conscientes podían efectuar tareas que requerían mucha inteligencia, como jugar al ajedrez, conducir automóviles, diagnosticar enfermedades o identificar a terroristas. Sin embargo, en la actualidad estamos desarrollando nuevos tipos de inteligencia no consciente que pueden realizar tales tareas mucho mejor que los humanos, porque todas se basan en el reconocimiento de pautas, y los algoritmos no conscientes podrían superar pronto a la conciencia humana en el reconocimiento de pautas o patrones. Esto plantea una nueva pregunta: ¿qué es lo realmente importante: la inteligencia o la conciencia? Mientras iban de la mano, debatir su valor relativo no era más que un pasatiempo para filósofos. Pero en el siglo XXI, esto se está convirtiendo en una cuestión política y económica urgente. Y da que pensar ver que, al menos para ejércitos y compañías comerciales, la respuesta es clara: la inteligencia es obligatoria, pero la conciencia es opcional.
经济领域也有相同情形,能够举起锤子或按下按钮的能力巳经不如以往有价值。过去有许多事情只有人类才能做得到,但现在机器人与计算机正迎头赶上,可能很快就会在多数的任务上超越人类。确实,计算机的运作方式与人类的行为方式非常不同,而且看来短期内计算机也不会变得更像人类,特别是应该并不会获得意识或是具备情绪和感觉。过去半个世纪,计算机智能(Computer intelligence)已经有了巨大进展,但在计算机意识(Computer consciousness)方面却仍在原地踏步。据我们所知,2016年的计算机并未比20世纪50年代的计箅机原型意识更强。然而,一场重大革命一触即发。“智能”即将开始与“意识”脱钩,人类因此面临失去经济价值的危险。
一直到今天,高度的智能与发达的意识一向是两个形影不离的概念。必须是具有意识的个体,才能执行需要高度智能的任务,例如下棋、开车、诊疗,或是辨认出恐怖分子。然而,我们正在开发新型的“无意识智能”,做起这些事来比人类更快更好。原因在于,这些任务是基于“模式识别”,而无意识的算法很快就能在这一点上超越人类。这就产生了一个新问题:智能和意识,究竟哪个才真正重要?在两者仍然携手同行时,讨论两者的价值孰高孰低,大概只会是哲学家的有趣消遣。但在21世纪,这正成为一个急迫的政治和经济问题。至少对军队和企业来说,答案再简单不过:智能是必要的,但意识可有可无。

Ejércitos y compañías comerciales no pueden funcionar sin agentes inteligentes, pero no necesitan conciencia ni experiencias subjetivas. Las experiencias conscientes de un taxista de carne y hueso son infinitamente más ricas que las de un automóvil que funciona sin conductor, que no siente absolutamente nada. El taxista puede disfrutar de la música mientras circula por las concurridas calles de Seúl. Su mente puede expandirse sobrecogida cuando contempla las estrellas y contempla los misterios del universo. Sus ojos pueden llenarse de lágrimas de alegría cuando ve que su hijita da su primer paso. Pero el sistema no necesita todo eso en un taxista. Lo único que en verdad quiere es transportar pasajeros desde el punto A al punto B de la manera más rápida, segura y barata posible. Y el coche autónomo pronto será capaz de hacerlo mucho mejor que un conductor humano, aunque no pueda gozar de la música ni asombrarse ante la magia de la existencia.
De hecho, si prohibimos totalmente a los humanos conducir no solo taxis sino todo tipo de automóviles, y concedemos a los algoritmos informáticos un monopolio sobre el tráfico, podremos conectar todos los vehículos a una única red, con lo que los accidentes de automóvil serán mucho menos probables. En agosto de 2015, uno de los coches autónomos experimentales de Google tuvo un accidente. Cuando se acercaba a un cruce y detectó que había peatones que querían cruzar, aplicó los frenos. Un momento después fue embestido por detrás por un sedán cuyo descuidado conductor humano contemplaba quizá los misterios del universo en lugar de mirar la calle. Esto no podría haber ocurrido si ambos vehículos hubieran sido conducidos por ordenadores interconectados. El algoritmo de control habría conocido la posición e intenciones de cada uno de los vehículos, y no habría permitido que dos de sus marionetas chocaran. Un sistema de este tipo ahorrará mucho tiempo y dinero y salvará vidas humanas., pero también acabará con la experiencia humana de conducir un coche y con decenas de millones de puestos de trabajo humanos.[4]
军队和企业需要具有智能的代理人才有办法运作,但这样的代理人却不见得需要有意识和主观体验。举例来说,如果是有血肉之躯的出租车司机,个人有意识的体验绝对比毫无感觉的自动驾驶汽车丰富。出租车司机可以一边在首尔繁忙的街道上开车,一边享受音乐。他抬头望见星空,思考着宇宙的奥秘,内心因敬畏豁然开朗。而看到自己的小宝宝跨出第一步,他的眼睛也可能充满喜悦的泪水。只不过,这一切都不是社会系统需要出租车司机具备的特质。社会系统需要的只是把人从A点运到B点,而且要最快、最安全、成本最低。就这一点而言,自动驾驶汽车很快就能做得比人类司机更好,就算它不能享受音乐,也不会因为存在的奧秘而深感敬畏,又有什么关系呢?
事实上,如果规定所有车辆都不得由人驾驶,并将整个交通控制权交给计算机算法,就能将所有车辆连接成单一网络,大大降低车祸发生率。2015年8月,谷歌实验中的无人驾驶汽车发生车祸。当时这辆车正接近一个十字路口,发现有位行人想过马路,于是刹了车。但接着这辆车就遭到后方车辆追尾,后面那辆车的人类司机心不在焉,可能正思索着宇宙的奧秘,结果就忘了看路。如果两辆车都是由互相连接的计算机来指挥,这种事就不可能发生。控制驾驶的算法能够清楚掌握每辆车在路上的位置和行动方向,绝不可能允许自己操纵的两辆车就这样相撞。如果能有这样的系统,就能大幅节省时间和金钱,并且拯救人的生命;只不过,这也会剥夺人类开车的体验,砍掉几千万人的工作机会。

Algunos economistas predicen que, más pronto o más tarde, los humanos no mejorados serán completamente inútiles. Mientras que robots e impresoras tridimensionales sustituyen a los trabajadores en tareas manuales como fabricar camisas, algoritmos muy inteligentes harán lo mismo con las ocupaciones administrativas. Los empleados de banca y los agentes de viajes, que hace muy poco se hallaban completamente seguros ante la automatización, son ahora especies en peligro. ¿Cuántos agentes de viajes necesitamos cuando podemos usar nuestros teléfonos inteligentes para comprar billetes de avión a un algoritmo?
También los corredores de Bolsa están en peligro. En la actualidad, la mayoría de los negocios de la Bolsa los gestionan algoritmos informáticos, que pueden procesar en un segundo más datos de los que un humano procesaría en un año y reaccionar a los datos mucho más deprisa de lo que tarda en parpadear un humano. El 23 de abril de 2013, piratas informáticos sirios hackearon la cuenta oficial de Twitter de la Associated Press. A las 13.07 tuitearon que la Casa Blanca había sido atacada y que el presidente Obama estaba herido. Los algoritmos comerciales que supervisan constantemente las noticias reaccionaron de inmediato y empezaron a vender acciones como locos. El Dow Jones cayó en picado, y en 60 segundos perdió 150 puntos, el equivalente a una pérdida de 136 000 millones de dólares. A las 13.10, la Associated Press aclaró que el tuit era un fraude. Los algoritmos cambiaron de dirección y a las 13.13 el Dow Jones había recuperado casi todas sus pérdidas.
一些经济学家预测,人类若不能变得更强大,迟早会变得完全没有用途。机器人和3D打印已经开始取代人力,就像以前的制衣等手工业,而高智能的算法也即将在白领职业中掀起同样的风潮。不久之前,银行工作人员和旅行社工作人员似乎还不受自动化影响,但现在他们却濒临失业。如果我们只要用智能手机就能买到机票,为何还需要旅行社人员?
股票交易员同样面临这种危险。现在大多数的金融交易都已经通过算法来管理,只要一秒,能处理的数据量就比个人花上一年处理的数据量还要大,而且瞬间就能做出反应。2013年4月23日,叙利亚黑客入侵美联社官方推特账户。当天13点07分,他们发出推文,称白宫遭到攻击、奧巴马总统受伤。各个持续监控所有新闻媒体的交易算法瞬间做出反应,疯狂抛售股票。道琼斯指数如同自由落体,短短60秒大跌150点,相当于有1360亿美元瞬间蒸发!13点10分,美联社澄清,表示该推文并不属实。于是算法开始倒车,到了13点13分,道琼斯指数几乎已经完全收回先前的损失。

Tres años antes, la Bolsa de Valores de Nueva York experimentó una conmoción aún mayor. En cuestión de cinco minutos, entre las 14.42 y las 14.47, el Dow Jones cayó 1000 puntos y perdió un billón de dólares. Después se recuperó y volvió a su nivel anterior a la caída en poco más de tres minutos. Esto es lo que ocurre cuando programas informáticos superrápidos están a cargo de nuestro dinero. Desde entonces, los expertos intentan comprender qué ocurrió en este denominado Flash Crash (crac fugaz). Sabemos que la culpa fue de los algoritmos, pero todavía no sabemos con certeza qué fue lo que falló. Algunos corredores de Bolsa de Estados Unidos ya han puesto pleitos al funcionamiento bursátil mediante algoritmos, aduciendo que discrimina de manera injusta a los seres humanos, que simplemente no pueden reaccionar con la suficiente rapidez para competir. Pormenorizar si esto constituye realmente una violación de derechos podría proporcionar muchísimo trabajo y muchísimos honorarios a los abogados.[5]
2010年5月6日,纽约证券交易所还经历过更剧烈的震荡。在14点42分到14点47分这不过五分钟的时间内,道琼斯指数狂跌1000点,1万亿美元烟消云散。但接着,只花了三分多钟,指数就回到了狂跌前的水平。把我们的钱交给超高速计算机程序来操作,就是会发生这种事。这次事件被称为“闪电崩盘”(Flash Crash),而专家还在努力研究这一切究竟是怎么回事。他们知道一定是算法出了问题,但无法确认错在哪里。美国部分交易商已经对算法交易(algorithmic trading)提起诉讼,认为这种做法是对人类的歧视,人类在反应速度上绝不可能与之匹敌。仅是讨论这是否真正构成侵权,就会给律师带来大量的工作,当然也有大量的收入。

Y dichos abogados no tienen por qué ser necesariamente humanos. Las películas y las series de televisión transmiten la impresión de que los abogados se pasan el día en los tribunales gritando: «¡Protesto!» y pronunciando apasionados alegatos. Pero la mayoría de los abogados corrientes pasan su tiempo revisando archivos interminables en busca de precedentes, resquicios legales y minúsculos fragmentos de pruebas potencialmente relevantes. Algunos están atareados intentando imaginar qué ocurrió el día en que mataron a Pepito el de los Palotes o preparando un contrato comercial gigantesco que proteja a su cliente frente a cualquier eventualidad concebible. ¿Cuál será el destino de todos estos abogados cuando sofisticados algoritmos de búsqueda puedan localizar más precedentes en un día que un humano en toda su vida, y cuando los escaneos cerebrales puedan desvelar mentiras y engaños con solo pulsar un botón? Incluso a los abogados y los detectives con mucha experiencia les resulta difícil detectar engaños mediante la simple observación de las expresiones faciales y del tono de voz. Sin embargo, mentir implica áreas cerebrales distintas de las que usamos cuando decimos la verdad. Todavía no hemos llegado ahí, pero es concebible que en un futuro no muy lejano los escáneres fMRI puedan funcionar como máquinas de la verdad casi infalibles. ¿Dónde dejará esto a millones de abogados, jueces, policías y detectives? Quizá necesiten volver a la universidad y aprender una nueva profesión.[6]
Sin embargo, cuando llegaran al aula bien podrían descubrir que los algoritmos llegaron antes. Compañías tales como Mindojo desarrollan algoritmos interactivos que no solo le enseñan a uno matemáticas, física e historia, sino que simultáneamente le estudian y acaban por saber exactamente quién es. Profesores digitales supervisarán de cerca todas las respuestas que dé y cuánto tiempo tardó en darlas. Con el tiempo, discernirán sus puntos débiles particulares y también sus puntos fuertes. Identificarán lo que le excita y lo que hace que los párpados se le cierren. Podrán enseñarle termodinámica o geometría de una manera que se adapte a su tipo de personalidad, incluso si esa manera no es adecuada para el 99 por ciento de los demás alumnos. Y estos profesores digitales nunca perderán la paciencia, nunca le gritarán y nunca harán huelga. Sin embargo, no está claro por qué diantres uno necesitaría saber termodinámica o geometría en un mundo que disponga de estos programas informáticos tan inteligentes.[7]
这里讲的律师也不一定是人。在电影和电视上,似乎律师整天在法庭上喊着“反对”,然后发表慷慨激昂的演讲。然而,大多数普通律师得花上最多时间的,反而是翻阅海量文件,寻找判例、漏洞,或是那一丝丝可能相关的证据。有些得忙着找出某人被杀的当晚究竟发生了什么事,也有些忙着写出厚度惊人的商业合约,确保客户避开任何目前可知的风险。如果有一天,复杂的搜寻算法只要一天时间,找到的判例就能比一个人花一辈子找到的还要多,而且只要按个按钮进行脑部扫描,就能戳破所有的谎言和欺骗,这些律师该何去何从?仅靠观察脸部表情和说话语调,就算是经验极其丰富的律师和侦探,也很难准确判断对方是否心口一致。然而,说谎用的脑部区域和说实话的脑部区域大有不同,虽然目前尚未实现,但已经可以想象,在不太遥远的未来,功能性磁共振成像扫描就能用作几乎绝对精准的测谎议。这样一来,几百万的律师、法官、警察和侦探还能做什么?岂不是得回学校再学个新的专业?
但等到他们进了教室,却很可能发现等着他们的还是算法。Mindojo之类的公司,正在开发互动算法,不只能教授数学、物理、历史,还能同时研究教授对象这个人。这种数字教师会仔细监测我答了什么,花了多长时间。一段时间后,它们就能判断出我个人独特的优缺点,也知道什么能让我精神一振,什么会叫我眼皮下垂。它们可以用最适合我人格类型的方式来教我热力学或几何学,无须担心这种方式并不适合其余的99%的学生。这些数字教师永远不会失去耐心,永远不会对我大吼大叫,也永远不会罢工。问题在于,都已经有了这样有智慧的计算机程序,我为什么还需要学习热力学或几何学?

Incluso los médicos son el blanco de los algoritmos. La primera y más importante tarea de la mayoría de los médicos es diagnosticar correctamente enfermedades, y después sugerir el mejor tratamiento posible. Si uno llega a la clínica quejándose de fiebre y diarrea, podría tener una intoxicación alimentaria. Pero, asimismo, estos síntomas podrían corresponder a un virus estomacal, al cólera, a la disentería, a la malaria, al cáncer o a alguna enfermedad nueva aún desconocida. El médico solo tiene cinco minutos para hacer un diagnóstico correcto, porque ese es el tiempo por el que paga el seguro que uno tiene contratado. Ese tiempo no permite más que hacer unas pocas preguntas y quizá un examen rápido. Después, el médico contrasta esta escasa información con el historial clínico del paciente, y con el vasto mundo de las enfermedades humanas. Lamentablemente, ni el médico más diligente es capaz de recordar todas las dolencias previas de un paciente ni sus chequeos rutinarios. De igual modo, ningún médico puede estar familiarizado con todas y cada una de las enfermedades y medicamentos, ni leer todos y cada uno de los artículos publicados en todas las revistas médicas. Para rematarlo, el médico está a veces cansado o hambriento, o quizá incluso enfermo, lo que afecta a su juicio. No es extraño que a veces se equivoque en sus diagnósticos o recomiende un tratamiento menos que óptimo.
就连医生也无法幸免。大多数医生最主要的任务,就是正确诊断疾病,制定最好的治疗方案。如果我因发烧、腹泻去诊所,病因可能是食物中毒。然而,同样的症状也可能是因为肠胃病毒、霍乱、痢疾、疟疾、癌症,或是什么未知的新疾病。医生只有几分钟时间就要做出正确的诊断,因为我的保险就只付得起这么多时间。所以,医生只能问几个问题,或许再快速做个简单检查,接着就得用这少得可怜的信息,结合我的病史以及所有人类的疾病来做出判断。唉,不管医生再怎么认真,又怎么可能记得住我以前生过什么病、做过什么检查?同样,没有哪位医生能够熟悉每种疾病和药物,也不可能读过医学期刊上的所有最新文章。最重要的是,医生如果累了、饿了,甚至生病,都会影响判断。也就难怪医生有时会误诊,又或是给出的并非最理想的疗法。

Consideremos ahora el famoso Watson de IBM, un sistema de inteligencia artificial que ganó el concurso televisivo Jeopardy! en 2011, venciendo a los anteriores ganadores humanos. Por lo general, a Watson se le prepara para que haga un trabajo más serio; en particular, en el ámbito del diagnóstico de enfermedades. Una IA como Watson tiene enormes ventajas potenciales sobre los médicos humanos. En primer lugar, una IA puede contener en sus bancos de datos información acerca de todas las enfermedades conocidas y todos los medicamentos de la historia. Después, puede actualizar dichos bancos de datos a diario, no solo con los descubrimientos de nuevas investigaciones, sino también con las estadísticas obtenidas de todas las clínicas y todos los hospitales del mundo.
En segundo lugar, Watson puede estar íntimamente familiarizado no solo con todo mi genoma y mi historial médico, sino también con los genomas y los historiales médicos de mis padres, hermanos, primos, vecinos y amigos. Watson sabrá de inmediato si en fechas recientes visité un país tropical, si sufro infecciones estomacales recurrentes, si ha habido casos de cáncer intestinal en mi familia o si esta mañana personas de toda la ciudad están acusando diarrea.
En tercer lugar, Watson nunca estará cansado, hambriento ni enfermo, y tendrá todo el tiempo del mundo para mí. Podría sentarme cómodamente en el sofá de casa y contestar a centenares de preguntas, diciéndole cómo me encuentro exactamente. Esto son buenas noticias para la mayoría de los pacientes (excepto quizá para los hipocondríacos). Pero si el lector ingresa hoy en una Facultad de Medicina con la esperanza de seguir siendo médico de familia dentro de veinte años, quizá debería pensárselo dos veces. Con este Watson por ahí, no hay mucha necesidad de ningún Sherlock.
现在让我们来看看著名的超级计算机“沃森”,这套人工智能系统2011年在电视益智抢答节目《危险边缘》(Jeopardy!)中获胜,击败该节目史上最强的两位参赛者。而目前“沃森”的工作则严肃许多,主要就是诊断疾病。像“沃森”这样的人工智能,比起人类医生会有某些巨大的潜在优势。第一,人工智能可以将史上所有已知疾病和药物的信息全部存在数据库里。而且这种数据库还能每天更新,不仅包括最新研究结果,还能接收到世界上所有相关诊所和医院收集到的医疗统计信息。
第二,“沃森”不仅能熟知我的整个基因组、完完整整的病史,甚至连我的父母、兄弟姐妹、表亲、邻居和朋友的基因组和病史,它也一样了如指掌。“沃森”能立刻知道我是不是最近去过热带国家,是否胃部感染痼疾,家族是否有肠癌病史,又或者是不是最近全城的人都在抱怨腹泻。
第三,“沃森”永远不会说它累了、饿了或病了,它能随时为我诊断。我可以舒舒服服坐在沙发上,回答几百个问题,告诉“沃森”我究竟感觉如何。对大多数患者来说〔或许除了疑病症患者〕,这会是个天大的好消息。但如果你是今天进医学院学习,希望自己在20年后能当个家庭医生,或许就该重新考虑。有了这样的“沃森”,哪还有福尔摩斯出场的机会?

Esta amenaza se cierne sobre la cabeza no solo de los médicos generalistas, sino también de los especialistas. En realidad, podría resultar más fácil suplantar a médicos que se especialicen en un ámbito relativamente reducido, como el diagnóstico del cáncer. Por ejemplo, en un experimento reciente, un algoritmo informático diagnosticó el 90 por ciento de los casos de cáncer de pulmón que se le presentaron, mientras que los médicos solo acertaron en el 50 por ciento.[8] De hecho, el futuro ya está aquí. Las TC (tomografías computerizadas) y las mamografías se analizan de manera rutinaria por medio de algoritmos especializados, que proporcionan a los médicos una segunda opinión, y a veces detectan tumores que pasaron por alto a los médicos.[9]
Toda una serie de difíciles problemas técnicos impiden aún a Watson y a sus iguales reemplazar a la mayoría de los médicos mañana mismo. Pero estos problemas técnicos, por complejos que sean, solo habrá que resolverlos una vez. La formación de un médico humano es un proceso complicado y caro que dura años. Cuando el proceso se ha completado, después de diez años de estudios y períodos de prácticas, todo lo que tenemos es un médico. Si queremos dos médicos, tenemos que repetir todo el proceso desde cero. En cambio, si se resuelven los problemas técnicos que dificultan la puesta en marcha de Watson, tendremos no uno, sino un número infinito de médicos, disponibles en cualquier rincón del mundo las veinticuatro horas y los siete días de la semana. De modo que aunque cueste 100 000 millones de dólares hacer que funcione, a la larga será mucho más barato que formar a médicos humanos.
这种威胁影响的不仅是家庭医生,就连专科医生也无法幸免。而且事实上,钻研于相对专精领域(如癌症诊断)的医生,可能更容易被取代。最近一项实验中,计算机算法能够正确诊断90%的肺癌病例,但人类医生的正确率只有50%。所谓的未来,其实已经来临。目前,用专门算法处理电子计算机断层扫描(CT)和乳房X射线照相检查已是常规,不仅能够为医生提供参考意见,有时还能抓到医生未注意到的肿瘤。
目前仍有许多技术问题,让“沃森”及类似的人工智能不可能明天一早就忽然取代大多数的医生。然而,虽然这些技术问题确实棘手,解决后却是一劳永逸。人类医生的培训是一个复杂而昂贵的过程,费时多年。而且,经过大约10年的学习、实习,终于完成整个过程之后,也只是培养出了“一位”医生。想要两位医生,只能从头再来一遍整个过程。相对地,只要解决了阻碍“沃森”的技术问题,能得到的不是一位而是无数位医生,能够在全世界每个角落、全年无休提供服务。因此,就算得花上1000亿美元才能解决这个问题,长远看来,还是比培训人类医生便宜得多。

Y lo dicho de los médicos puede aplicarse doblemente a los farmacéuticos. En 2011 se fundó una farmacia en San Francisco de la que se encarga un único robot. Cuando un humano llega a la farmacia, en cuestión de segundos el robot recibe todas las recetas del cliente, así como información detallada acerca de qué otros medicamentos toma y de sus supuestas alergias. El robot se asegura de que las nuevas recetas no sean incompatibles con ningún otro medicamento o alergia, y después proporciona al cliente el producto en cuestión. En su primer año de funcionamiento, el farmacéutico robótico canjeó dos millones de recetas sin cometer ni una sola equivocación. De promedio, los farmacéuticos de carne y hueso se equivocan con el 1,7 por ciento de las recetas. Solo en Estados Unidos, esto supone anualmente ¡más de 50 millones de errores con las recetas![10]
当然,并不是所有的人类医生都会就此消失。至少在可预见的未来,那些需要创意而不只是日常诊断的工作,还会继续由人类完成。正如21世纪的军队逐步扩增精英特种部队,未来的医疗也可能有更多等同于医疗界游骑兵或海豹突击队员的医生。但正如军队已不再需要几百万士兵,未来的医疗也不会需要几百万名家庭医生。医生面临的情境,对药剂师来说更是如此。2011年,旧金山就开了一家药店,由机器人担任药剂师。顾客上门之后,机器人只要几秒就能接收到这位顾客的所有处方、服用药物的详细信息,以及顾客可能对哪些药物过敏。机器人会先确认新的处方不会造成过敏,也不会与其他药物产生不良反应,接着才会为顾客配药。开业第一年,机器人药剂师开出超过200万张处方,一个错都没犯。而平均来说,人类药剂师配药错误的比例大约占所有处方的1.7%。也就是说单单在美国,每年就会有超过5000万张处方配错!

Algunas personas aducen que incluso si un algoritmo pudiera hacerlo mejor que médicos y farmacéuticos en los aspectos técnicos de sus profesiones, nunca podría sustituir el componente humano. Si una TC indica que tenemos cáncer, ¿preferiríamos recibir la noticia de un médico humano comprensivo y empático o de una máquina? Bien, ¿y qué tal recibir la noticia de una máquina comprensiva y empática que ajusta sus palabras a nuestro tipo de personalidad? Recuérdese que los organismos son algoritmos, y que Watson puede detectar nuestro estado emocional con la misma precisión con que detecta nuestros tumores.
Mediante el análisis de nuestro ADN, nuestra tensión arterial y un sinfín de otros datos biométricos, Watson podría saber exactamente cómo nos sentimos. Gracias a la estadística de millones de encuentros sociales previos, Watson podría decirnos después con precisión lo que necesitamos oír con el tono de voz adecuado. A pesar de su tan cacareada inteligencia emocional, los seres humanos suelen encontrarse abrumados por sus propias emociones y reaccionan de manera contraproducente. Por ejemplo, ante una persona airada empiezan a gritar, y al oír a una persona temerosa dejan que afloren sus propias ansiedades. Watson nunca sucumbirá a tales tentaciones. Al no tener emociones propias, siempre ofrecerá la mejor reacción a nuestro estado emocional.
又会有人说,就算算法在专业技术方面优于医生和药剂师,却永远无法取代人性的温暖。假设CT扫描显示你得了癌症,你希望告诉你这个消息的是一台冰冷的机器,还是一个会注意到你情绪的人类医生?如果还有另一台机器,能注意到人类情绪,会依据你的感受和人格特质而调整用词,这下该怎么选?请别忘了,生物也是由各种算法构成,而“沃森”探测人类情绪的准确度,可以和探测肿瘤的准确度一样高。
“沃森”分析这种外部信号的准确度不仅高于人类医生,甚至还能同时分析一般人看不到、听不到的内部指标。“沃森”能够靠着监测你的血压、脑部活动和其他无数生物统计资料,清楚知道你的感觉。而在分析数百万笔过去收集的社交信息后,“沃森”就能用最适当的音调、你最想听的词汇,告知你需要知道的事情。虽然人类总对自己的情绪智能洋洋得意,却也常常受情绪影响,做出消极反应。比如你遇到一个愤怒的人,自己也开始大吼大叫;听一个忧虑的人讲话,自己也忧虑了起来。“沃森”永远不会被这种诱惑影响,它没有自己的情绪,所以永远只会依据你的情绪状态做出最恰当的反应。

Esta idea ya ha sido puesta parcialmente en práctica por algunos departamentos de atención al cliente, de los que la compañía Mattersight, con sede en Chicago, ha sido pionera. Mattersight publicita sus productos con el siguiente anuncio: «¿Ha hablado usted alguna vez con alguien y ha notado que se caían bien? La sensación mágica que le invade es el resultado de una conexión de personalidades. Mattersight genera esta sensación diariamente con sus servicios telefónicos de atención al cliente de todo el mundo».[11] Cuando llamamos a un departamento de atención al cliente con una pregunta o una queja, por lo general se tarda unos segundos en dirigir la llamada a un agente. En los departamentos de Mattersight, nuestra llamada es dirigida por un algoritmo inteligente. Primero indicamos el motivo de nuestra llamada. El algoritmo escucha nuestra petición, analiza las palabras que hemos elegido y nuestro tono de voz, y deduce no solo nuestro estado emocional, sino también nuestra personalidad: si somos introvertidos, extravertidos, rebeldes o dependientes. A partir de dicha información, el algoritmo nos pone en contacto con el agente que mejor se ajusta a nuestro estado de ánimo y personalidad. El algoritmo sabe si necesitamos una persona empática que escuche pacientemente nuestras quejas o alguien racional y sensato que nos proporcione la solución técnica más rápida. Una buena conexión significa a la vez tener clientes más satisfechos y que el departamento de atención al cliente gaste menos tiempo y dinero.[12]
这种概念目前已经应用到某些客户服务上,比如芝加哥的Mattersight公司就设计出此类软件。Mattersight的产品广告词就是:“是否曾和某个人说话,觉得真是触动心弦?那种神奇的感受,正是人格匹配的结果。Mattersight将让全世界的客服中心都能创造这种感受。”通常,打电话咨询客服或投诉的时候,大概要花个几秒钟,把电话转给专员。而在Mattersight的系统里,电话会由一套聪明的算法来负责转接。算法会先请你说出致电原因,接着聆听问题,分析你用的词汇和语调,以此推断你当时的情绪状态甚至性格类型(内向、外向、反叛或依赖)。根据这套信息,算法再为你转接至最适合你当时心情并符合你个性的专员。算法能够判断,你需要的该是具备同情心、能够耐心听完投诉的客服,还是毫不废话、立刻提出技术解决方案的客服。搭配越得当,顾客就越满意,客服也就能降低服务时间和成本。


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|estraducir.com

GMT+8, 2022-6-27 03:30 , Processed in 0.040245 second(s), 29 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表