Contenidos

Depósito de ponencias, discusiones y ocurrencias de un grupo de profesores cosmopolitas en Jaén, unidos desde 2004 por el cultivo de la filosofía y la amistad, e interesados por la renovación de la educación y la tradición hispánica de pensamiento.

lunes, 10 de febrero de 2020

SALVAR LA DEMOCRACIA

Roger McNamee fue un "ángel" inversor y asesor de Mark Zuckerberg. La influencia de Facebook en las elecciones estadounidenses de 2016 provocó que ciertos  analistas e inversores estadounidenses cayeran del caballo y pasaran de Saulo a Pablo. Tras su intervención, que cayó en oídos sordos, en la que sugería que había "que hacer algo" para evitar consecuencias políticas de lo que se transmite en esa red social, McNamee se ha convertido en enemigo  de las redes sociales. En su libro "Zucked" (en alemán "El peligro de Facebook", Plassen-Verlag) McNamee describe su trayectoria en relación a quien fuera  alumno suyo.


 En una conferencia sobre diseño digital, McNamee se refirió a la prohibición de algoritmos para evitar que las redes amplifiquen mensajes de odio y falsas noticias, al destrozo del mercado para los inversores tecnológicos y a la necesidad de decir no a la tecnología.
 

PREGUNTA de Heise: ¿Todavía tiene acciones de Facebook?

Roger McNamee (RMN): No, ya no.

P: Cuando comenzó su  critica a Facebook, todavía tenía algunas, ¿le parece bonito?

RMN: Para decirlo sin rodeos, vendí la mayoría de las acciones antes de que pasara nada. Cuando me convertí en activista, esperé. Fue un dilema moral. Me beneficié del alza de Facebook. Si mi crítica causa un colapso, debería participar, pensé. La ironía  fue que las acciones no han caído a pesar de mis críticas. Por cierto, este incidente muestra claramente lo difícil que es el activismo en este campo. En última instancia, las plataformas de Internet, y estoy hablando de Facebook, Google, Amazon y Microsoft, han alcanzado un tamaño que hace imposible su control por parte de ningún país.


Missing Link: Nur ein Verbot bestimmter Algorithmen kann die Demokratie retten 
 "Las corporaciones de Silicon Valley han formado su propa zona estatal"


P: ¿Tenía razón Dave Eggers al escribir su novela distópica "The Circle"?

RMN: Eggers escribió un libro de ciencia ficción y dos años después  era realidad. Las corporaciones de Internet han creado un nuevo marco organizativo para la humanidad, un nuevo nacionalismo corporativo. Tienen su propio territorio en el que se aplican sus reglas. A veces  pregunto a la gente qué es lo que más afecta a sus vidas: las reglas establecidas por Google, Facebook, Twitter o Instagram o las reglas de los países en los que viven. Muchos se dan cuenta de que tienen que lidiar más con las reglas en las plataformas. No son reglas lógicas, su aplicación es una cuestión del azar. Este proceso va de la mano con el hecho de que los gobiernos invierten cada vez menos en el estado democrático y cada vez más funciones públicas se transfieren al mercado.

P. ¿Se está generalizando el modelo estadounidense de pura dominación por el mercado?

RMN: exactamente. Por lo tanto, nos encontramos con que hoy el Estado ya no puede ofrecer los servicios que la gente espera de él debido a la falta de recursos propios, especialmente en el área de las nuevas tecnologías. Así que Google se presenta por ejemplo al ayuntamiento de Toronto y sugiere: "Vemos que les falta experiencia en lo referente a una smart city ciudad inteligente, nosotros tenemos los recursos para ello ..."


Las empresas tecnológicas adoptan el sistema de valores

P: En resumen, déjenos ayudarles...

RMN: Sí, "déjanos que lo hagamos por ti". El gran desafío es que Silicon Valley tiene un sistema de valores diferente. No es ni bueno o malo, simplemente diferente. El valor supremo es la eficiencia, valor esencial para la ingeniería, y ellos lo llevan a un grado sin precedentes. La acción democrática, por otro lado, es ineficiente por su propia naturaleza, al menos con 2 tipos de ineficiencia. Por un lado, está el derecho a la autodeterminación de la persona, el derecho a tomar tu propia decisión. El otro es el proceso democrático como tal. Esto es inherentemente ineficiente porque la ineficiencia en última instancia puede resultar positiva en relación con las personas. Ya que una forma de reducir la ineficiencia es eliminar la tensión. El problema es que las tensiones son lo mejor de la vida. Nos dan conocimiento y experiencia, creatividad, música o arte. La lucha contra el conocimiento y la experiencia que estamos experimentando actualmente en los Estados Unidos y el Reino Unido corresponde por lo tanto a la situación en la que nos encontramos: las empresas de tecnología nos están liberando de nuestro sistema de valores. ¿Aceptamos el estado de cosas o lo cuestionamos? Esa es la pregunta.


 Los datos personales deberían de ser un derecho humano

P: Parece que hay un amplio acuerdo con la idea de que hay que hacer algo contra el poder de las plataformas de Internet. Pero hay poco acuerdo sobre qué es lo que se debe hacer, ¿no?

RMN: Las respuestas en Europa y EE. UU son diferentes,  la mayoría de la gente está de acuerdo con las advertencias de personas como Maria Ressa, Marietje Schaake o yo mismo. Cuando se trata de hacer algo, la mayoría de la gente está demasiado ocupada con su vida cotidiana y tampoco vamos a echarles la culparlos por ello. Sin embargo, es importante recordar que una vez que hayamos perdido el derecho a la autodeterminación, una vez que hayamos renunciado a la democracia, va a ser difícil recuperarlas. No es del todo imposible, pero puede que no viva lo suficiente para verlo. Por eso espero que se produzca una discusión seria
sobre hacia dónde quieren dirigirse los diferentes países. De hecho, prefiero creer que cada jurisdicción debería reclamar lo que considere prioritario. Lo más difícil  es aceptar que la tecnología es inevitable, y no tenemos infljuo sobre ella, sobre su poder. Mi opinión es que esto es falso. La tecnología es demasiado importante para poder separarla de nuestros procesos democráticos de toma de decisiones.

Europa debería trasladar los valores europeos a la tecnología
 
P: ¿Cuáles son las diferencias entre Europa y los Estados Unidos?

RMN: Dos cosas son particularmente sorprendentes. Por un lado, en Europa los valores son más importantes que las leyes. Se puede decir que las leyes se derivan de los valores. En los Estados Unidos, la ley y los valores no tienen casi nada que ver entre sí. Las leyes resultan de la negociación de intereses económicos, los valores son marginales. Por ejemplo, en Europa se decidió que la confidencialidad es un derecho humano. Mi sugerencia es que los datos personales también deberían ser un derecho humano. No son un activo móvil y no deben negociarse. Por supuesto, la propiedad de los datos personales sería todavía mejor. En mi opinión, la propiedad de los datos no debería ser el objetivo final. El objetivo real debe ser dejar en claro que si alguien hace un perfil de mi comportamiento y luego influye en él, está en contradicción con los valores de la Ilustración en la que se basan nuestras democracias.

El segundo aspecto que encuentro interesante en Europa es: las distintas experiencias que se hacen reflejan la cultura de los países individuales, pero al mismo tiempo hay coordinación. Hay cosas centralizadas como el Reglamento general de protección de datos, pero al mismo tiempo hay enfoques individuales. Creo que es un desarrollo saludable. No tenemos que comenzar con soluciones globales. De hecho, prefiero creer que cada jurisdicción debería ocuparse sobre algo que considera prioritario.

P. Pero a los políticos europeos les preocupa en gran medida que podamos perder la carrera, y quedarnos detrás de China y Estados Unidos ¿Que les diría?

RMN: Europa no tiene que preocuparse. Creo que puede aprovechar su oportunidad en el sector tecnológico enseñando valores europeos a la tecnología. También estoy muy a favor de los experimentos en el laboratorio para hacer el progreso más rápido posible. Sin embargo, los despliegues comerciales tienen que tener en cuenta a las personas y sus derechos. Acabamos de conocer la posible moratoria sobre el uso del reconocimiento facial en Europa. De esta manera, hay que darse tiempo para tomar buenas decisiones en esta área. Siempre se trata de la implementación, no del desarrollo. Creo que exactamente esta idea debe transferirse a la IA, a la computación cuántica. Simplemente tenemos que reconocer que estos proyectos han llegado a tal punto que inevitablemente tienen consecuencias para la sociedad.

P. Invirtió en Facebook al principio ...

RMN: ... como muchos otros.
P.  ¿Cuántos más? ¿Cree que fue una idea brillante?

RMN: No fue exactamente al principio, pero sí bastante pronto.
P. Imagine que hay una manera de transferir datos de Facebook a un proveedor alternativo en el que usted quiere invertir. ¿Qué haría para evitar que se convierta en otro monstruo?

RMN: Las usuarios de Facebook, Google, Youtube, Instagram o Twitter no se dan cuenta de los peligros. Recuerde, están obteniendo ganancias récord y las acciones están más altas que nunca. Simplemente no hay suficiente capital para crear alternativas. Es imposible. Las empresas de hoy tienen poder de monopolio.


Modelo de negocio:  monopolizar la atención

P: ¿Qué podemos hacer ?

RMN: El problema básico es que el modelo de negocio apunta a monopolizar la atención. Las empresas utilizan algoritmos de amplificación para presentar a las personas el contenido con el que pueden capturarlas mejor en la plataforma. La mayoría de la gente tiene más probabilidades de quedarse atentos cuando están enfadados o asustados. No nos gustan
los discursos, la desinformación y las teorías de conspiración. Aquí es exactamente donde debe comenzar la regulación. Tendría que haber más moderadores pero ¿qué pueden los moderadores? El daño es cuestión de segundos, la moderación lleva demasiado tiempo, incluso si contratas a millones de personas. Sería mejor prohibir los algoritmos que refuerzan ciertos mensajes y temas. Sería un limite severo a la rentabilidad de Google y Facebook, y debería ser así, análogo a la regulación de otras industrias. Hoy sabemos que las personas pueden ser asesinadas, que sus vidas pueden ser arruinadas y que las democracias pueden ser abolidas. Por eso lo único rentable es poner en marcha las mismas ideas con las que hemos hecho que los edificios, medicamentos y productos químicos sean seguros en las últimas décadas y siglos. Cualquiera que distribuya veneno digital tendría que rendir cuentas económicamente, al igual que el que pone en circulación venenos químicos. Me mira usted con escéptimo  como si no confiara en que la democracia pudiera resistir el test. Es una prueba y no hay que juzgar con precipitación. No hacer nada tendría consecuencias fatales.

P: ¿Un prohibición de los algoritmos de amplificación? ¿En qué consistiría esa ley?

RMN: La ley simplemente diría que no puede usar algoritmos para amplificar contenido. Puede tener un servicio de noticias cronológicas. Puede ordenar por tema, pero no puede preseleccionar lo que la gente puede ver.

¿No es ese un objetivo muy ambicioso?

RMN: Devolvería a las empresas a sus orígenes, pero la ley es bastante simple de formular.

P: ¿Tiene ya un borrador?

RMN: aún no. Todavía estamos al principio. El GDPR combate los síntomas. Me gustaría comenzar desde la raíz. Si el derecho a los propios datos llega a ser un derecho humano inalienable, algunas cosas en el GDPR ya no serán necesarias. Porque los datos ya no son negociables. Ya no se trata de  preguntar qué uso de datos acepta alguien u ofrecer una exclusión voluntaria. Las empresas simplemente no pueden usar mis datos. Porque un problema con el GDPR es lo difícil que es de hacer cumplir.


Estados Unidos podría perder el liderazgo en el sector tecnológico.

P: Hay personas que son bastante escépticas sobre la regulación de la tecnología y su eficiencia. ¿No sería mejor si los políticos se centraran en crear condiciones que permitieran a los usuarios elegir?

RMN: Si la democracia va a funcionar, también tenemos que confiar en los gobiernos, tenemos que invertir lo suficiente en ellos para que tengan la oportunidad de tener éxito. Seamos realistas, en Alemania el gobierno funciona mucho mejor que en los Estados Unidos o el Reino Unido. Entre otras cosas, porque invierte. Has hecho una elección al respecto.
P:¿Diremos que hay Sombras de Grey?

RMN: sí. Pero la AfD tiene el 11%. No 46 como Trump o 52 como la campaña Leave. Lo que quiero decir es que todavía hay tiempo en Alemania. Puede ser demasiado tarde para el Reino Unido y los Estados Unidos. No sé, esperaremos a noviembre.
P:¿Qué quiere decir con "podría ser demasiado tarde"? ¿Que ya no hay democracia en esos países?

RMN: Realmente creo que es una pregunta legítima para Inglaterra. Si nos fijamos en lo poco que a Boris Johnson le importan las estructuras históricas. No soy un experto en el país, pero me  preocupa. Para mí, la presidencia actual en los Estados Unidos tiende claramente a un sistema no democrático. Es fácil volverse cínico en la situación actual y todo lo que pido es que nos demos otra oportunidad este año. 2020 es un año crucial para todo el mundo. Piense en las posibilidades que tiene Alemania siTrump es reelegido. Sería poco probable que Estados Unidos pudiera mantener su liderazgo en el sector tecnológico. Prefiero creer que estas empresas abandonarán los Estados Unidos en muy poco tiempo. Las decisiones que tomamos en los Estados Unidos simplemente no tienen mucho sentido. Un gobierno que se puede comprar crea muchos problemas.


Las plataformas de Internet aceleran el declive de la democracia.

P: Una empresa de tecnología forrada de dinero puede comprar a los gobiernos...

RMN: Correcto, pero sus empleados difícilmente lo aceptarían. Porque obtendríamos una división aún más extrema entre los que tienen algo y los que no tienen nada. No sé exactamente qué pasaría después. Solo sé que las democracias de todo el mundo se enfrentan a un gran desafío y las plataformas de Internet han ayudado a acelerar su declive.

P: Algunos comentaristas creen que las plataformas simplemente tienen que asumir su papel de nuevos vigilantes. Los problemas que nos dieron las plataformas podrían resolverse mejor con la tecnología. ¿Sería una medida prudente?

RMN: Tendrían que pagar la solución financieramente. Pero que no decidan las reglas. No están preparados para ello por la cultura de la eficacia en la que se mueven. Detengamos los algoritmos de amplificación. No quiero decir que sé exactamente lo que hay que hacer. Soy analista. Analizo la situación actual e intento hacer pronósticos bien fundamentados para el futuro y decir cómo se desarrollarán los modelos de negocio.

No hay comentarios: