Inteligencia Artificial Según: Juval Harari.

«Esta es la primera tecnología en la historia en crear historias», dice Harari, de 47 años, hablándome desde su casa en las afueras de Tel Aviv. Para él, nada podría ser una mayor demostración de poder. Porque en su opinión, nuestra creencia colectiva en «historias» – de fe, finanzas y nación entre otras – ha alimentado la dominación de la Tierra por parte de la humanidad. El dinero nos ha permitido prosperar, por ejemplo, pero ¿qué valor tiene el quinto en su bolsillo si el comerciante lo descarta como un poco de papel azul?

Ahora la IA también puede tejer tales hechizos, mostrando que el potencial de la tecnología tanto para un gran bien como para un daño, una vez considerado distante y teórico, ahora es inmediato y real. Es por eso que Harari agregó su nombre a una carta el mes pasado, firmada por miles de expertos, incluido Elon Musk, pidiendo una moratoria en la investigación de software como Chat GPT, un modelo de IA que puede interactuar con los humanos en un texto creativo casi inquietantemente matizado.

Otros programas pueden hacer lo mismo con imágenes y sonidos. «La nueva generación de IA no solo está difundiendo el contenido que producen los humanos. Puede producir el contenido por sí mismo», dice Harari. «Trate de imaginar lo que significa vivir en un mundo donde la mayoría de los textos y melodías y luego las series de televisión e imágenes son creadas por una inteligencia no humana. Simplemente no entendemos lo que significa. ¿Cuáles podrían ser las consecuencias de que la IA se haga cargo de la cultura?»

Ya existen ejemplos triviales. La semana pasada, una revista alemana fue criticada por publicar lo que parecía ser una entrevista exclusiva con Michael Schumacher, cuando en realidad el texto fue generado por AI imitando al ex piloto de carreras paralizado. Harari sugiere que la IA pronto irá mucho más allá, evocando un mundo en el que «te conectas y discutes con alguien sobre algún tema político. Tal vez incluso te envíen un video de sí mismos hablando. Pero no hay ninguna persona detrás de esto. Todo es IA».

Tampoco, en su distopía, la falsificación digital sintética sería de cualquier ser humano. Debido a que estamos influenciados de manera única por personas cercanas a nosotros, puede parecer un amigo o pariente, tratando de convencerlo del mérito de un producto, o su posición sobre el cambio climático, las vacunas o la inmigración. Sería, dice, un poder para manipular el discurso público nunca antes visto, y que haría que los escándalos de influencia de las redes sociales de los últimos 10 años, que ya se cree que han jugado un papel en las elecciones desde Brasil hasta Estados Unidos, parezcan triviales. Jeremy Fleming, jefe de GCHQ, ha advertido al gabinete que la desinformación de IA representa una amenaza significativa.

«Esto es especialmente una amenaza para las democracias más que para los regímenes autoritarios porque las democracias dependen de la conversación pública», dice Harari. «La democracia básicamente es conversación. Personas hablando entre sí. Si la conversación es asumida por la IA, la democracia ha terminado».

Pero ¿qué efecto podría tener la tecnología si se desata maliciosamente en el campo de batalla por regímenes totalitarios? Un sistema de inteligencia artificial de Google, por ejemplo, aprendió bengalí sin ser entrenado para hacerlo.

«El régimen nazi se basaba en tecnologías como los trenes, la electricidad y las radios. No tenían herramientas como la inteligencia artificial», dice Harari. «Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Por lo tanto, las consecuencias podrían ser mucho más desastrosas. Esto es algo que no sé si la humanidad puede sobrevivir».

Incluso las consecuencias más banas tienen el potencial de ser revolucionarias, dice. «Otro peligro es que muchas personas podrían encontrarse completamente sin trabajo, no solo temporalmente, sino sin las habilidades básicas para el futuro mercado laboral. Podríamos llegar a un punto en el que el sistema económico vea a millones de personas como completamente inútiles. Esto tiene terribles ramificaciones psicológicas y políticas».

Es la autonomía de la IA lo que la hace tan diferente. Sin embargo, incluso Harari, quien ha hecho fama al simplificar temas complejos, parece frustrado por su incapacidad para hacer que el resto de nosotros vea esto de manera tan profunda como él.

«Necesitamos entender que la IA es la primera tecnología en la historia que puede tomar decisiones por sí misma. Puede tomar decisiones sobre su propio uso. También puede tomar decisiones sobre ti y sobre mí. Esto no es una predicción futura. Ya está sucediendo».

Discute casos notorios en los que el software de IA se ha utilizado para evaluar solicitantes de préstamos o decidir si los presos deben recibir libertad condicional. «Por lo tanto, el poder se está desplazando por primera vez en la historia. Inventamos algo que nos quita el poder. Y está sucediendo tan rápido que la mayoría de las personas ni siquiera entienden lo que está sucediendo. Debemos asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas. Esto es algo que estamos muy lejos de resolver».

Al igual que otros, ahora defiende la regulación para gestionar el poder de la IA, aprovechando su promesa y previniendo catástrofes. En la mente de Harari, tales reglas imitarían las salvaguardias médicas. «Una compañía farmacéutica no puede lanzar un nuevo medicamento al mercado sin pasar primero por un largo proceso regulatorio. Es realmente extraño y aterrador que las corporaciones puedan lanzar herramientas de IA extremadamente poderosas al espacio público sin medidas de seguridad similares»

Tales medidas tendrían que ser aplicadas por el gobierno, insiste. Esperar que la industria tecnológica se regule a sí misma es para las aves. «Con el debido respeto a Elon Musk y Zuckerberg o los otros jefes de las grandes compañías tecnológicas, no son elegidos por nadie, no representan a nadie excepto a sus accionistas y no hay razón para confiar en ellos». Como para probar el punto de Harari, Musk anunció su propio chatbot de IA pocos días después de firmar la carta denunciando la investigación de otros.

Tal vez no sea una sorpresa entonces, que Harari mantenga su propio teléfono apagado, «en un cajón». Lo llama «un teléfono inteligente de emergencia» para cuando viaja al extranjero, que es considerablemente más en la última década, desde que se convirtió en una superestrella intelectual global.

«Se ha vuelto realmente imposible hacer algunas cosas sin un teléfono inteligente». Uno piensa en él tratando de pedir un taxi en un viaje al extranjero, y fracasando. Lo que no extraña de su pantalla de bolsillo, sin embargo, es la inundación de información que distrae en su cerebro. Se declara a sí mismo en «una dieta de información».

«Hay demasiada información basura», dice. «Es como la comida. Durante la mayor parte de la historia humana, estábamos tratando desesperadamente de obtener más comida. Y ahora estamos en la situación opuesta. Tenemos que ser muy cuidadosos tanto con las cantidades como con la calidad de los alimentos que ingerimos«.

Él contrasta el enfoque y la elección activa involucrados en la «lectura» con este «consumo» pasivo y con ojos de gafas. Es difícil imaginar a Harari haciendo algo de una manera tan irreflexiva. Le gusta el tiempo y la paz para componer sus pensamientos, y durante mucho tiempo ha estado interesado en la meditación para asegurarse de que está mentalmente sintonizado para mantener a raya las distracciones. «Acabo de regresar de un retiro de meditación de dos meses», dice. «Se puede decir que es parte de la dieta informativa… un período para desconectarse y permitir que la mente se desintoxique de toda la basura que ingerimos«.

Harari puede tomarse tanto tiempo dada la seguridad financiera que su fama ha traído (en un perfil del New Yorker, se sugirió que su tarifa por un solo discurso de 24 minutos ascendía a varios cientos de miles de dólares). Pero su interés en la meditación es anterior a su éxito, y su instinto de hacer una pausa, reflexionar sobre grandes temas y hacer conexiones entre ellos se remonta aún más atrás, cuando descubrió que crecer como gay lo convertía en algo extraño, mirando al resto de la sociedad, tratando de explicarlo. «El Israel de la década de 1980 era tan homofóbico», dice.

«Mi vida cambió completamente [con la fama]», dice. «Hace diez años nadie quería entrevistarme sobre nada. Así que tuve mucho tiempo para leer libros y luego escribir mis cosas. La fama a nivel personal, por lo general, solo crea más problemas». Sin embargo, en general, los amigos, la meditación y la terapia, y deshacerse de las ansiedades de la juventud significan «Ahora soy más feliz».