“Necesitamos pensar en todas las consecuencias
de nuestro trabajo y no sólo intentar, sino
asegurarnos de no crear sistemas que conviertan
en víctimas a los débiles y desprotegidos”.
Laura Nolan
El solo nombre suena descabellado. ¿Quién en su sano juicio hablaría de algo como los “robots asesinos”? Hasta hace unas décadas, sólo un escritor de ciencia ficción. Durante años, hemos soñado con la inteligencia artificial y la hemos idealizado. No es extraño, pues la sociedad occidental rinde culto a la racionalidad y ha asumido como eje conductor la abrumadora lógica cartesiana (“cogito; ergo sum”), que pretende imponer que la existencia está ligada a su majestad la razón y que de ésta se desprende el ser. Quizá hay que tener presente, ante la premisa cartesiana, la profunda existencia del reino de las pasiones y el poder de la inteligencia emocional.
¿Inteligencia artificial? ¿Las máquinas piensan como seres humanos? No hemos contado mil y una historias en las que inteligencia artificial se revela contra sus creadores. Lo cierto es que la inteligencia artificial ya no es cosa del futuro: está en nuestro presente y sus riesgos son en verdad plausibles. Sin embargo, éstos no se parecen a los que hemos visto en las películas de Will Smith: son mucho menos extravagantes, pero quizá igualmente destructivos.
Laura Nolan no es alguien que ha perdido la razón y anuncia el día del juicio final paseándose en el metro de un vagón a otro, sino una especialista con todas las credenciales para hablar del tema. Formada en el Trinity College Dublin, durante cuatro años trabajó en Google, donde era considerada una de las mejores ingenieras de software que la empresa tenía en Irlanda. Nolan ingresó a las filas del gigante tecnológico para participar en el llamado Project Maven, el cual pretende usar la inteligencia artificial para interpretar videos. Sumado a otras aplicaciones, este proyecto, que se desarrolla en colaboración con el Pentágono, haría más eficientes los ataques militares que se hacen a través de drones. Habiendo ya abandonado su cargo en Google, Nolan advierte ahora al mundo sobre las dramáticas consecuencias que podría tener el Project Maven.
Laura Nolan advirtió hace unos días, ante diplomáticos de la ONU, que los “robots asesinos” podrían empezar una guerra o causar atrocidades nunca antes vistas si no se prohíben o por lo menos se regulan. Según el diario The Guardian, Nolan renunció a Google precisamente porque no estaba de acuerdo con el Project Maven. Para la ingeniera, este tipo de armas deberían ser rechazadas por la comunidad internacional de la misma manera que las armas químicas. The Guardian asegura, sin embargo, que no hay evidencias de que Google se esté involucrando en la generación de este tipo de armas y que, por lo contrario, la empresa parece promover usos responsables de la inteligencia artificial. Vale la pena aclarar que Nolan no está hablando de máquinas malvadas que se revelan para hacer una revolución, sino de la mayor probabilidad de accidentes desastrosos de grandes proporciones si se permite el uso de armas que no requieran de la mediación humana.
Los escenarios son variados según Nolan. Podría pasar que una máquina apunte a civiles en vez de a ejércitos enemigos, lo cual ya ha sucedido antes: “¿Cómo se prepara un sistema que se ejecuta únicamente en software para detectar comportamientos humanos sutiles o discernir la diferencia entre cazadores y enemigos? ¿Cómo distingue la máquina de matar entre el combatiente de 18 años y el joven de 18 años que está cazando conejos?”. Nolan advierte también que estas máquinas sólo pueden ser puestas a prueba en zonas de combate real, por lo que sus efectos no serían conocidos sino hasta que el desastre esté hecho. Jean-Paul Sartre lo dijo insuperablemente: “El infierno son los demás”.
No es difícil imaginar cómo va a responder el mundo ante advertencias de esta naturaleza. Lo más probable es que Nolan simplemente sea ignorada y que, con toda tranquilidad, Google prosiga su proyecto con el Pentágono. Pero que no se diga que nadie nos lo advirtió.
Manchamanteles
El pasado jueves se efectuó el tercer debate del Partido Demócrata rumbo a la contienda presidencial que tendrán los Estados Unidos en 2020. Los temas tratados fueron desde lo más personal hasta lo más preocupante para la ciudadanía estadounidense en estos días. El exvicepresidente Joe Biden fue increpado por su contrincante Julián Castro debido a su edad (aseguró que se les estaban empezando a olvidar las cosas). El ataque fue sin duda muy bajo, pero pone en la mesa un tema que, nos guste o no, preocupa a la gente: si la edad de Biden le permitirá completar sano su periodo (el cual, ambiciosamente, debe preverse de ocho años, pensando en una reelección). Si éste es el fuego amigo, ya podemos imaginarnos cómo serán los ataques de Trump, quien no dejará de hablar de la edad de Biden en caso de que les toque a ambos disputarse la presidencia. Pero no todo fueron golpes bajos: otro de los temas que marcó la agenda fue el control de armas. A pesar de los múltiples tiroteos que mensualmente se viven en los EE. UU., el control de armas sigue siendo una fantasía. La postura que tome el partido demócrata será definitoria, porque el tema divide a la gente, y el enemigo no es fácil.
Narciso el Obsceno
La psicóloga Pat MacDonald, en su libro Narcisismo en el mundo moderno (2014), señala: “Gran parte de nuestra angustia proviene de una sensación de desconexión. Tenemos una sociedad narcisista donde la autopromoción y la individualidad parecen ser esenciales, pero en nuestros corazones eso no es lo que queremos. Queremos ser parte de una comunidad, queremos ser apoyados cuando estamos luchando, queremos un sentido de pertenencia. Ser extraordinario no es un componente necesario para ser amado”. ¿Será que Narciso cambia de un espejo plano a uno convexo? O ¿la alucinación de las redes desborda su locura? El vidrio, base de los espejos, muestra ahora símbolos de una aparente luz propia íntegra y total, pero Narciso sabe que la perfección está muy lejos de lo que pregonan las comunidades virtuales.