Inteligencia Artificial

Los peligros del mal uso de ciertas tecnologías deslumbrantes

 

Empecemos por acá. Antes de avanzar, y teniendo en cuenta que usted está leyendo este artículo en internet (salvo que lo haya impreso, en cuyo caso le pediría que vuelva al sistema digital desde donde lo envió a imprimir) y vaya hasta este lugar:

 

 

Yo sé que está en inglés, pero le pido que mire el video dos veces. La primera, mírelo sin leer nada de lo que escribí yo más abajo en el artículo. No importa que no entienda el idioma (después lo traduzco yo), pero en principio, mírelo sin saber de qué se trata.

¿Terminó?

Ahora sí, yo voy a traducir lo que dice Barack Obama. El video contiene algunas expresiones que están dichas en lo que nosotros llamaríamos ‘lunfardo’, y por eso yo hago una traducción ‘libre’, pero a los efectos del mensaje que quiero transmitir, la diferencia será irrelevante.  En total el video dura 72 segundos, 1 minuto y 12 segundos. No es mucho.

Acá voy.

“Estamos entrando en una era en la cual nuestros enemigos pueden conseguir que cualquier persona esté diciendo cualquier cosa en cualquier momento, aunque nunca hubieran dicho ninguna de esas cosas. Por ejemplo, me podrían hacer decir a mí cosas como… no se, “Killmonger [1] tenía razón”, o “Ben Carson está ‘loco’ (interpretación mía)”, o, ¿qué les parece esto?: simplemente “El presidente Trump es una cloaca total”.

“Usted se da cuenta que yo nunca diría ninguna de esas cosas, al menos no las diría en público, pero alguna otra persona sí las diría. Alguno como Jordan Peele [2]. Este es un momento peligroso. En el futuro, tenemos que ser o estar más ‘alertas’ (o vigilantes o atentos) con lo que le creemos o no a Internet. Es un momento en el que tenemos que reclinarnos en las fuentes de noticias que sean creíbles. 

“Puede que suene muy ‘básico’, pero en el futuro, en la era de la información esa será la diferencia si ‘sobrevivimos’ o si nos transformamos en una tremenda ‘distopia’ [3].

“Gracias, y estén alertas, putos”. 

Acá termina el video. ¿Se da cuenta usted del peligro que esto representa? En función de la tecnología que está disponible ya, cualquier persona puede ‘aparecer’ diciendo ‘cualquier cosa’, y tener a esa persona ‘hablando en televisión y mirando a la cámara’, moviendo sus labios en forma coordinada como si hubiera efectivamente dicho lo que allí parece que está diciendo.

Como dice Jordan Peele, el director de pelis como Nosotros y autor del video junto a la gente de BuzzFeed, no es que ‘vamos a correr’ un cierto peligro si alguien utiliza esta técnica para ‘modificar’ lo que alguien piensa o dice. No. No será en el futuro que vamos a correr un riesgo: ¡es ahora!

El video es nada más que una muestra de las capacidades que tiene esta tecnología. Fue puesto a disposición del público el 17 de abril del año 2018. Para quienes les interese tener los datos precisos, la compañía productora de la que Peele es el dueño advierte que fue una combinación de técnicas modernas y otras que ya se usaban.[4]

Los avances producidos en los últimos dos años en Inteligencia Artificial son descomunales. Por supuesto, yo sé que es un tema controversial. Utilizadas en forma correcta, las Inteligencias Artificiales resuelven innumerables problemas pueden estar puestos al servicio para mejorar la calidad de vida de la sociedad.

Pero por otro lado, no se me escapa que están siendo utilizadas hace ya bastante tiempo para generar, por ejemplo, noticias falsas.

El video que figura más arriba es estremecedor y atemorizante. ¿Cómo hacer para saber si lo que uno está ‘viendo’ es cierto o no?

Permítame exhibir otro ejemplo: es posible que usted haya escuchado hablar de Adobe Photoshop, una aplicación que permite ‘modificar fotos’, usando filtros de diversos tipos, disimulando (o directamente ‘desapareciendo’ arrugas), o modificando los labios de una persona, o las orejas o la nariz… En algún sentido es una forma de alterar un original hasta convertirlo en otro sin poder distinguir cuál es cuál. Ahora avancemos en otra dirección pero con similares consecuencias.

Lo que no se conocía hasta hace muy poco, es que la misma compañía (Adobe) estaba a punto de hacer lo mismo pero con el ‘audio’ de una persona.

Quien lo anunció fue Zeyu Jin, un programador de Adobe, en la conferencia Adobe MAX que se hizo en San Diego, California, durante el 3 de noviembre del 2016. Este software se denomina Project VoCo y todavía no está claro en qué momento será accesible al público general, como usted y yo. Pero lo que sí está claro, es que se podrán introducir (o agregar) palabras que nunca fueron pronunciadas por la persona que aparece en el registro de audio que se tiene de ella. El proyecto está hecho en colaboración con la Universidad de Princeton también [5]. Durante la conferencia, Jin dijo que uno necesita alrededor de 20 minutos de material grabado de la persona en cuestión.

Se puso frente a una pantalla gigante que estaba en el fondo del escenario, y tipeó palabras que no aparecían en el audio original. En tiempo real (es decir, en forma instantánea), apretó play y apareció un nuevo audio pero con las palabras cambiadas, pronunciadas por la misma persona que había grabado el original.

La pregunta natural podría ser la siguiente: ¿qué propósito podría tener una alteración de este tipo? Una potencial respuesta es la siguiente: si uno quisiera que una locutora o locutor leyera un audio-libro, no hace falta que lo lea todo. Alcanzará con que grabe menos de media hora, y después uno introduce el texto completo y tendrá el libro listo, en versión audible y ‘grabado’ por quien usted quiera.

Como siempre, la ciencia y la tecnología no tienen moral. Son herramientas que uno puede usar para el bien o para el mal. La energía atómica puede ser utilizada como una fuente alternativa de energía o para construir una bomba. El hombre elige.

Con todo, y para terminar, el video mostrando a Obama diciendo lo que dice, es alarmante preocupante, porque usado ‘para el mal’, puede lograr dañar la reputación de alguien para toda la vida y lo que históricamente fue considerado como una ‘prueba’ (en un juicio por ejemplo), ahora ya deja de tener valor y pierde credibilidad.

Habrá que refundar este tipo de nociones y buscar garantías de autenticidad. Por ahora, está todo abierto.

 

 

[1] El personaje que interpreta Michael B. Jordan en la película “Pantera Negra”, estrenada en el año 2018.

[2] Aquí, a los 38 segundos de comenzado el video, la pantalla se divide en dos, y aparece Jordan Peele moviendo los labios y replicando exactamente todo lo que está diciendo Obama en la otra mitad de la pantalla. Si uno mira a uno y a otro, no puede distinguir ninguna diferencia. Podría estar hablando cualquiera de los dos, pero con la voz de Obama.

[3] La traducción de dystopia en castellano sería algo así como lo opuesto contrario a una utopía, un lugar terrible en donde todo el mundo vive mal.

[4] Adobe After Effects y la herramienta que ‘intercambia’ caras usando AI (inteligencia artificial) que se llama FakeApp.

[5] El artículo del cual extraje esta información está acá: https://www.creativebloq.com/news/adobe-prototypes-photoshop-for-audio

 

 

--------------------------------

Para suscribirte con $ 250/mes al Cohete hace click aquí

Para suscribirte con $ 500/mes al Cohete hace click aquí

Para suscribirte con $ 1000/mes al Cohete hace click aquí

13 Comentarios
  1. [email protected] dice

    La misma tecnología que creó el video usando a Obama como ejemplo, se la puede utilizar para autenticar si es Obama realmente, ¿cómo?, bueno, para crear este video se utilizó Deep Learning, se entrenó un software para generar expresiones del rostro de Obama, se puede entrenar al mismo software para reconocer si las expresiones son artificiales, lo mismo pasa con la vos. La misma tecnología que genera el engaño es la misma que lo puede desmentir.
    Muchas de estas «nuevas tecnologías» fueron desarrolladas para películas como Terminator 2 o Parque Jurásico, los primeros programas de reconocimiento de escritura usaban redes neurales, los primeros celulares que incorporaban reconocimiento de vos también usaban redes neurales. No fue hasta que los avances científicos, los gurues tecnológicos y los fondos de inversión hicieron que la burbuja empiece a inflarse y ciertamente el Brexit demostró que las tecnologías creadas para analizar estrellas o calcular la dispersión de calor en determinados materiales era util para forzar el voto separatista de la UE. Las neurociencias también jugaron un papel importante, ya que se manipulo al electorado entendiendo como funcionan ciertos aspectos del cerebro como : la empatía, la indignación, la ternura, instintos gregarios, etc.
    Al entender cómo se dieron los echos del Brexit, uno no puede dejar de preguntarse si nuestro futuro será tan distópico como el de las novelas ciberpunk.
    Ciertamente la sociedad no dejará de tecnificarse cada vez mas y se vuelve central en cerrar la brecha digital y concientizar a las personas acerca de las consecuencias de la tecnificación.

  2. Jorge Garnero dice

    Otra cosa que tambien ya sucede es apagar historia. Agarran un cacho de historia y por algun motivo la apagan. Por ejemplo, yo quise buscar, an~os depues de haberla visto, una fotito extraordinaria en la que estaban los dos hijitos de De la Rua, y Felipito Gonzalez. Era una foto muy simple, y queria refrescarsle la memoria a un adherente a la Union Civica Banelco. Ni en google ni en yahoo la pude encontrar. Otra vez encontre una nota en Clarin en donde se hablaba (mal) de Hector Timerman, un hombre al que venia prestandole atencion, creo que la primera vez que le preste atencion fue en un programa de tv que se llamaba «Cafe Las Palabras», con este hombre Eduardo Valdez. Se hacia referencia a uno de esos blogs gratis que ofrecen algunos medios, en este caso el propio Clarin. La nota no decia exactamente que demonios decia el susodicho blog, que aparentemente era muy grave. Creo que Timerman se habia quejado de que Clarin prohijaba un blog un poquito esterhazy, y Clarin se defendia. No entendi bien. Creo que el apellido del que lo habia creado era Arrillaga o algo asi. En ese momento tenia el apellido del tipo, que figuraba en la nota. Un apellido fenomeno para buscar. Una ortografia inusual. Busque el blog. Cualquier otra pagina, nada, ni por asomo. Habia desaparecido de la faz de internet, al menos si uno la ve a traves de google o yahoo. En la «internet oscura» nunca estuve. Pero evidentemente alguien borro todo rastro de dicha informacion en la red como se ve por estos dos buscadores clasicos. Como en la fotito de nuestro querido amigo Felipito. Muy buena la nota.
    Jorge Garnero.

  3. Ernesto Oscar dice

    Gracias por el alerta Adrián.

Dejá tu comentario

Su dirección de correo electrónico no será publicada.