Cory Doctorow en su nuevo libro Attack Surface, y solo sobre todo lo demás

Cory Doctorow se hizo un nombre escribiendo sobre el mundo cambiante de Internet y la tecnología, tanto en el sitio web Boing Boing, como en su ciencia ficción. A través de sus novelas como Down and Out in the Magic Kingdom, Little Brother, Makers, Homeland , y más recientemente, Walkaway , ha explorado todo, desde el futuro de los derechos de autor, el totalitarismo y la tecnología. estados policiales mejorados, comunidades de internet y más.

Su próxima novela es Attack Surface , que se desarrolla en el mismo mundo que sus novelas Little Brother y Homeland . Esas novelas están ambientadas en una distopía del futuro cercano, en la que un adolescente convertido en hacktivista trabaja para socavar el Departamento de Seguridad Nacional después de que establezca un estado policial después de un ataque terrorista, y fueron argumentos apasionados contra la erosión de la civilización. libertades y privacidad que ha ocurrido en las últimas dos décadas. Este nuevo libro sale el 13 de octubre, y Tor volverá a emitir Hermanito y Patria como una edición general el 11 de agosto

Hablé con Doctorow sobre esta próxima novela, y cómo recuerda cómo sus obras han cambiado desde que comenzó a escribir.

Polígono: inicialmente lanzaste Hermanito y Patria [1945902300] ] en 2008 y 2013, respectivamente. Mirando hacia atrás en esas dos novelas (y el cuento, Intercepción legal), ¿cómo es el mundo, más de una década después?

Cory Doctorow: Hay una narración (en gran parte falsa) sobre la visión predominante de las computadoras en red y su relación con el desarrollo humano en la década de 2000 y principios de 2010, que es que los «tecno-optimistas» estaban convencidos de que algún tipo de gran fuerza de la historia, multiplicada por movimientos de resistencia en red, liberaría al mundo de la tiranía.

Si bien había algunas personas, quizás llamadas «tecno-triunfalistas», tal vez, que se sentían así, las personas con las que salía, las personas que ofrecían ayuda y apoyo (o participaban directamente) en movimientos radicales por la democracia. tenía una posición más matizada: no «todo esto será tan grandioso» sino más bien «todo será tan grandioso … si no lo arruinamos».

Después de todo, ¡no construyes un mensajero cifrado a prueba de régimen opresivo o una VPN invisible porque piensas que el otro lado * no * también está usando tecnología! Tampoco te involucras en las peleas políticas por hacer que sea más fácil censurar y vigilar Internet si crees que todo saldrá bien al final. El activismo de aquellos días supuestamente ingenuos fue (y sigue siendo) tan motivado por el terror absoluto del autoritarismo en red como por la esperanza sobre el poder liberador de los movimientos de resistencia tecnológica.

¡Pero las cosas han cambiado en la última década! La última década ha visto dos cosas:

Primero, el auge y el auge del autoritarismo en red, apoyado por compañías tecnológicas monopólicas, que dan cuenta de los peores temores de los activistas tecnológicos. Segundo (e irónicamente), un reconocimiento generalizado de que los activistas tecnológicos tenían el 100% de razón en preocuparse por lo que sucedería si el mundo en red se desarrollara sin ningún tipo de marco de derechos humanos y, * simultáneamente *, un proyecto de historia revisionista generalizado que condena a esos mismos activistas por su supuesto optimismo ingenuo y ciego de que tal cosa sucedería automáticamente, sin ninguna intervención humana.

Hay formas en que este patrón es similar a otras luchas políticas, particularmente aquellas en las que los activistas intentan evitar algo que está muy lejos. Piensa en el cambio climático: durante décadas, el clima

activistas del cambio se dedicaron principalmente a convencer a la gente de que el cambio climático estaba ocurriendo . La combinación de una relación de causa y efecto larga y atenuada entre conducir su automóvil y enfrentar un incendio forestal una generación más tarde; y las campañas de desinformación financiadas masivamente para arrojar costosas dudas sobre la idea del cambio climático, convirtieron a las personas convincentes de la realidad del cambio climático en un proyecto brutal, agotador y de décadas de duración.

Esos activistas tuvieron cierto éxito , pero en su mayor parte, lo que convence a la gente de que el cambio climático es real es el cambio climático . La «deuda política» creada por la inacción sobre el cambio climático significa que las inundaciones, las sequías, los incendios forestales, las pandemias, los huracanes y otras crisis climáticas están rompiendo en el reg, y tienen un poder convincente que supera incluso los argumentos más activistas de los activistas.

El problema ahora no es el negacionismo, es nihilismo . La crisis climática está tan avanzada hoy que es fácil no tener esperanza de evitarla, sustituir la inacción impulsada por la falta de reconocimiento del problema con la inacción impulsada por la creencia de que no se puede hacer nada para evitarlo.

Lo mismo sucedió con la privacidad, la vigilancia, el control y la monopolización en línea, después de años de inacción (impulsado por una combinación de dudas sinceras sobre si los problemas se manifestarían años más tarde y campañas costosas para sugerir que la tecnología y los gobiernos deberían dejarse solo para colaborar en los sistemas de vigilancia y control), ahora es obvio para todos que algo terrible le ha sucedido a nuestro sistema nervioso electrónico. El problema ahora es convencer a esas mismas personas de que no es demasiado tarde para hacer algo al respecto.

little brother & homeland omnibus covers by cory doctorow

Mucho ha sucedido en el mundo en la última década. ¿Cómo ha cambiado para ti la escritura sobre derechos y opresión en ese momento?

Creo que ha habido dos grandes cambios.

Primero, había una vez la idea de que el discurso basado en la tecnología sobre los derechos humanos y las libertades civiles era un juego de salón privilegiado. Los usuarios de tecnología eran percibidos como abrumadoramente ricos, hombres y blancos, por lo que preocuparse por las libertades y los derechos de esos usuarios era indecoroso; después de todo, estas eran las personas que ya tenían más privilegios y menos preocupaciones en esos departamentos.

Pero, por supuesto, la demografía de los usuarios de tecnología de hoy es … todos. Existe una brecha digital, pero estamos en el punto en que incluso las personas sin hogar a menudo tienen teléfonos inteligentes y quienes carecen de ellos dependen de las bibliotecas para conectarse. El amplio alcance de la tecnología a través de líneas de clase, género, edad, raza y geografía significa que, en primer lugar, es imposible hablar de tecnología y derechos sin hablar de las intersecciones de esos factores, y en segundo lugar, cualquier proyecto que incluya un ser humano El marco de derechos dentro de la tecnología también toca todos esos otros temas.

El otro gran cambio está en las opiniones de los propios trabajadores tecnológicos. Veo tres oleadas distintas de trabajadores tecnológicos durante mi tiempo en la industria (y la lucha):

Burbuja previa a las puntocom: tecnólogos generalmente ricos y apasionados. Las computadoras eran caras, por lo que los usuarios de computadoras provenían en gran medida de entornos ricos, pero las computadoras no eran un camino hacia enormes riquezas, por lo que los usuarios de computadoras (a menudo) estaban motivados por una pasión por el tema, no (simplemente) sueños de riqueza absurda. Esta cohorte a menudo combinaba un celo misionero para poner a todas las personas y toda la información en línea, con un sentido patricio del deber hacia la red y los sistemas que la manejaban, trabajando como voluntarios para cuidar los sistemas fundamentalmente inestables y primitivos de los que dependían sus pares.

Después de la recuperación del colapso de las puntocom: después del auge y caída de las puntocom, la tecnología volvió a surgir, con enormes ventajas financieras que se materializaron para algunos empresarios afortunados y sus primeras contrataciones, y más en el horizonte. Mientras que los tecnólogos pre-dotcom a menudo se autoentrenaron, o habían cursado estudios de ingeniería o CS por pasión por el tema, ingresó una nueva cohorte que se había inscrito debido a la probabilidad de un gran pago y un pago aún mayor a través de una IPO o adquisición. Estas personas podrían haber ingresado a un programa de MBA una generación antes, o tal vez una escuela de derecho. Querían una gran ventaja, y la tecnología era una buena apuesta. La infusión de las personas que perseguían las finanzas antes que la pasión amortiguó ese sentido del deber patricio hacia la red y los que confiaban en ella, aunque aumentó el celo misionero. Muchos de estos tecnólogos, incluso los muy talentosos, veían a las compañías tecnológicas más grandes como elementos eternos: tenían una vaga conciencia de que Facebook había reemplazado a Myspace, que Google había vencido a Altavista y Yahoo, y que Apple había golpeado a Nokia, pero no lo hicieron. Realmente creo que cualquiera de estas compañías nunca será derrocada.

Hoy, después de la crisis financiera de 2008: una creciente conciencia de la desigualdad, la discriminación y la malversación corporativa (desde las fábricas de ejecuciones hipotecarias hasta la negación climática, el encubrimiento de depredadores sexuales y el papel de Big Pharma en la epidemia de opioides) ha dado lugar a un nuevo movimiento apasionado de jóvenes (relativamente) diversos tecnólogos que están flexionando su músculo económico, como una cohorte de trabajadores en un mercado laboral increíblemente apretado, con bajo riesgo de ser despedidos y que les resultará fácil encontrar más trabajo si lo están, para presionar a sus empleadores y los reguladores para reflexionar sobre las implicaciones de sus actividades comerciales para los derechos humanos, desde drones hasta censura, vigilancia y acoso. Movimientos como Tech Won’t Build It y la retirada de Google (¡20,000 personas!) Están encontrando una causa común con movimientos más amplios como Black Lives Matter y Extinction Rebellion, construyendo las herramientas para apoyar a sus hermanos y hermanas radicales, mientras llevan a cabo una fusión que dice que la causa de la liberación tecnológica es inextricable de la causa de la liberación humana.

¿Cómo surgió su última novela, Superficie de ataque ? Parece que tu personaje Hermanito Marcus Yallow está a punto de pasar un mal rato.

A menudo escribo como una forma de terapia: había estado observando la creciente monopolización de la tecnología, su fusión con proyectos autoritarios y el crecimiento de una industria de tecnología para el mal (Palantir, por ejemplo) y cada vez más ansioso. En conferencias de piratas informáticos como Defcon y HOPE y CCC, me reuniría con investigadores de seguridad que se preocupaban por los derechos humanos, pero que recibían cheques de las compañías que los estaban destruyendo. Los libros de Little Brother siempre habían tenido un personaje que seguía ese camino: Masha, la misteriosa joven que ayuda y obstaculiza a Marcus y que trabaja primero para el DHS y luego para un contratista de seguridad privado, y sus motivos fueron sin duda tan sinceros y complicados como los de Marcus.

Incrustarme en la mentalidad de alguien que sabía todo lo que Marcus hacía, pero llegó a una conclusión diferente sobre lo que debía hacer al respecto, lo que también era moralmente justificable, fue un ejercicio para controlar mi propia ansiedad, pensar detenidamente cómo las personas que parecían tan amables y atentas en persona podrían estar haciendo estas cosas impensables y malvadas.

Dicen que nadie es el villano de su propia historia, pero Masha en realidad lo es: sabe que está haciendo mal, pero también cree que, en el gran esquema de las cosas, no importa, y si lo hace, es equilibrado por las buenas obras que hace para equilibrar sus libros morales. Marcus, por el contrario, carece de la conciencia de sí mismo para comprender cómo podría ser el villano de la historia de otra persona, por lo que nunca se convierte en el villano propio. Lo lleva a poner a algunas personas en peligro, a ser imprudente. Masha sabe exactamente lo que está haciendo.

El personaje principal de esta novela, Masha Maximow, trabaja para una empresa transnacional de seguridad cibernética, donde están ayudando a idear formas para que los gobiernos espíen a sus ciudadanos. Estoy realmente interesado en ver cómo racionaliza lo que hace, dado que no parece afectarla directamente.

Nadie es puro. Todos hacemos compromisos y, a menudo, hacemos esos compromisos como una serie de pequeños pasos razonables. Tienes un código moral, pero te desvías un poco, y ahora esa nueva posición es tu nuevo código moral. La próxima vez que haga una excepción, no se relaciona con el lugar donde comenzó, se relaciona con el lugar donde se encuentra ahora, y ese paso también parece razonable. Una pulgada a la vez, viaja millas desde donde comenzó, y a menos que esté mirando hacia atrás en el viaje, es fácil sentir que básicamente está haciendo el bien en el mundo. Pero luego, si miras hacia atrás desde donde empezaste, puede provocar una comprensión vertiginosa de que estás haciendo cosas terribles y terribles.

Masha trabaja con personas que están atrapadas en ese mundo, pero no lo está: ella sabe exactamente cómo llegó a donde está y sabe sobre todos y cada uno de los compromisos. Ella lo hace de todos modos, y en lugar de racionalizar, compartimenta. La parte de ella que quiere hacer un buen trabajo para su jefe es instalar software espía para atrapar y aterrorizar a los movimientos disidentes. La parte de ella que se preocupa por sus semejantes es entrenar secretamente a esos disidentes para evitar el software que acaba de instalar. Ella entiende las razones para hacer ambas cosas y no trata de reconciliarlas, solo vive con la contradicción.

Hay muchos casos en todo el mundo donde vemos regímenes represivos que utilizan la tecnología como herramienta en su arsenal. ¿Cuáles son algunos de los ejemplos que inspiraron esta historia?

Empresas como Hacking Team, NSO Group y Palantir han instalado sistemas de vigilancia masiva en países «avanzados» y pobres, post-coloniales para ayudar a dictadores y autócratas a apuntalar su poder. Desde las autoridades ucranianas que utilizaron los receptores ISMI (torres falsas de teléfonos celulares, AKA Stingrays) para capturar las identidades de todos los que protestaban contra el régimen y amenazarlos con mensajes SMS, hasta el uso del software de la NSO para atacar a los activistas anticorrupción mexicanos y alentar a asesinato de Jamal Khashoggi. Las herramientas policiales de Palantir han puesto a poblaciones enteras de personas racializadas bajo vigilancia continua, con evaluaciones algorítmicas de culpabilidad que condenan a las personas por lo que equivale al color de su piel.

¿Cómo equilibras estas dos líneas de mentalidades activistas, los idealistas ingenuos versus los pragmáticos? ¿Cómo ves que esto se desarrolla en el mundo real?

Creo que un marco mucho mejor es «tácticas» frente a «estrategia». Como descubrieron los chinos, usar iPhones, la opción táctica de usar un iPhone, porque lo tienes, porque funciona, porque es conveniente, está en tensión con el objetivo estratégico de evadir la vigilancia estatal. Cuando el estado chino ordenó a Apple que eliminara el software VPN en funcionamiento de la App Store (y Apple cedió), estas personas fueron expuestas a una vigilancia sin restricciones por un estado que, al mismo tiempo, estaba reuniendo activamente a un millón de uigures y poniéndolos en campos de concentración donde se practicaba trabajo forzado, experimentación médica no consensuada y violación punitiva; y también asesinando a miembros encarcelados de otra minoría religiosa, Falun Gong, para extraer sus órganos.

Las tácticas y la estrategia siempre están en tensión: cuando las organizaciones benéficas de Koch quieren apoyar el movimiento de descarcelación, pero también quieren preservar la hostilidad hacia la gente trabajadora que crea las condiciones económicas que conducen al encarcelamiento masivo, ¿trabajas con ellos? Pueden movilizar enormes cantidades de efectivo y recursos para su campaña inmediata, pero también están trabajando para socavar su causa y prestar su credibilidad a una organización que finalmente es su adversario.

La respuesta, creo, es «depende». Hasta cierto punto, solo practicar la atención plena (recordándose a sí mismo que los Kochs y Apple no son sus amigos) puede vacunarlo contra confiar demasiado en ellos y brindarle el estado de alerta que necesita para deshacerse de ellos cuando se resbala la máscara, pero esa es una disciplina difícil de manejar. mantener. Al mismo tiempo, solo trabajar con personas a las que apoya al 100% es un movimiento sectario y auto marginado. Es un acto de equilibrio constante, y si tuviera una fórmula para hacerlo bien cada vez, ¡sería mucho más efectivo como activista!

¿Qué responsabilidad cree que tienen las principales compañías de tecnología y hardware cuando se trata de cómo se implementan sus herramientas en todo el mundo, para bien o para mal?

Hay dos formas de pensar en esto: por un lado, construir productos peligrosos es un acto inmoral. Si diseña su sistema para permitir la interceptación policial y luego los policías en, por ejemplo, Bahrein o Arabia Saudita le ordenan espiar a sus clientes para ellos, es 100% cómplice de ese resultado absolutamente previsible.

Por otro lado, hay un tipo diferente de culpabilidad que es mucho más técnico y más sutil, que es la medida en que construyes productos que pueden ser modificados por tus usuarios (o tecnólogos que trabajan en su nombre) para protegerse de Las consecuencias de sus decisiones de diseño. Una cosa es diseñar (por ejemplo) Twitter de una manera que permita campañas de acoso masivo, pero es mucho peor agravar ese riesgo de acoso al reducir o cerrar API, y usar patentes, términos de servicio y otras armas legales para disuadir aquellos que diseñarían sus propios sistemas contra el acoso para protegerse de la mala conducta que ha permitido.

Diseñar un sistema imperfecto no significa necesariamente que haya sido imprudente o negligente, pero diseñar un sistema imperfecto y evitar que otros solucionen sus errores lo convierte en un imbécil colosal y un pobre custodio de la confianza de sus usuarios.

Ha habido muchos informes en los EE. UU. Sobre cómo los funcionarios y las organizaciones gubernamentales están utilizando tecnologías más nuevas como el reconocimiento facial, el software predictivo y el aprendizaje automático. ¿Qué lecciones espera que la gente extraiga de leer un libro como Superficie de ataque ?

Creo que gastamos demasiada energía pensando en lo que HACE la tecnología y no lo suficiente pensando para quién lo hace POR Y PARA. Una cosa es usar herramientas de vigilancia predictivas para empirismo, lavar prácticas de vigilancia racistas (la fábrica de uso actual), pero también podría usar las mismas herramientas para proyectar los datos de vigilancia del año en el futuro para ver si hay patrones sutiles de sesgo que su programa de reforma policial no ha atrapado.

Un buen futuro tecnológico no solo necesita tecnología bien hecha: necesita autodeterminación tecnológica (el derecho de decidir qué tecnología usar y cómo) y pluralismo (aunque qué decisiones sobre diseño tecnológico, implementación y uso están ampliamente difundidos y no están en manos de un pequeño grupo de ejecutivos de tecnología o sus reguladores estatales capturados).

¿Eres optimista para el futuro?

Creo que el optimismo y el pesimismo son la otra cara de la misma moneda, que es fatalismo. Los optimistas creen que las cosas mejorarán independientemente de nuestras acciones, y los pesimistas creen que empeorarán, independientemente de lo que hagamos.

Tengo esperanzado . La esperanza es la creencia en la agencia humana: que nosotros, trabajando juntos, podemos navegar hacia un futuro mejor, a través de nuestro trabajo colectivo ético, duro y comprometido. Hope no requiere que puedas trazar un rumbo del mundo de hoy a uno mejor: simplemente que puedes identificar un * solo paso * que puedes dar hacia ese mundo, porque desde ese punto de vista recién alcanzado, es muy posible que veas otro paso, y luego otro.

Una creencia en el «optimismo» es una creencia en los humanos como detritos patéticos, sacudidos por la tempestad en los vientos de la historia. Creer en la «esperanza» es creer en los humanos como agentes, capaces de orientarse hacia un mundo mejor.

Superficie de ataque está disponible para pre-orden .

—

Polygon