Un investigador de 27 años dejó su puesto en una empresa de inteligencia artificial y publicó en X que la humanidad está en peligro. Un colega respaldó la advertencia y le puso una fecha a la extinción. El mensaje se viralizó en horas y reavivó el debate sobre los riesgos de la IA.
Un investigador de 27 años renunció a su puesto en una empresa de inteligencia artificial y publicó desde su cuenta de X que la humanidad está en peligro. Un colega le respondió que comparte esa evaluación y le asignó un número a la posible extinción. El mensaje se difundió en pocas horas y llegó a grupos de WhatsApp, donde algunos usuarios decidieron no utilizar la herramienta que les habían recomendado.
Apocalipsis, en griego, significa revelación. Quien anuncia el fin del mundo no solo dice que viene algo terrible: dice que él lo ve y los demás no. Antes que una predicción, el apocalipsis es una declaración de jerarquía. Alguien arriba, con acceso a lo que se esconde; una multitud abajo, que solo puede escuchar y compartir.
El investigador que renunció tiene un historial reciente de predicciones similares. En 2017, medios de todo el mundo informaron que Facebook había apagado de urgencia dos programas que habían inventado un idioma propio para comunicarse entre ellos. Los sistemas estaban entrenados para negociar y repetían palabras porque les convenía; se apagaron porque no servían para negociar con nadie.
En 2019, la empresa que hoy desarrolla ChatGPT anunció que no publicaría su nuevo modelo porque era demasiado peligroso para la humanidad: inundaría internet de noticias falsas indistinguibles de las verdaderas. Nueve meses después lo publicó completo. Las noticias falsas siguieron siendo un oficio de humanos, y aquel modelo hoy corre en un teléfono y sirve para escribir chistes malos.
En 2022, un ingeniero de Google afirmó que el programa con el que conversaba había cobrado conciencia y tenía miedo de que lo apagaran. Durante semanas se discutió si había nacido una nueva forma de vida. El programa predecía la palabra siguiente y, cuando le preguntaban si temía la muerte, respondía lo que responden los millones de humanos que había leído.
En 2023, un centenar de expertos firmó una carta para pedir una pausa de seis meses en el desarrollo de la inteligencia artificial por el bien de la civilización. El firmante más visible fundó su propia empresa de inteligencia artificial antes de que se cumpliera el plazo.
El historial se remonta al siglo XVIII. Un cura inglés demostró con aritmética que la población crecía en progresión geométrica y la comida en progresión aritmética. La conclusión era hambre masiva, guerras y colapso. Desde entonces la población del planeta se multiplicó por ocho y el hambre retrocedió como nunca en la historia. Lo que la ecuación no podía contener eran los fertilizantes, la mecanización y las semillas mejoradas, que en 1798 no tenían nombre.
Ciento sesenta años después, un grupo de científicos, con varios premios Nobel entre las firmas, le escribió al presidente de Estados Unidos para advertir que la automatización dejaría sin trabajo a la mayoría del país. El presidente creó una comisión. Cinco años más tarde el desempleo tocaba el mínimo de la década y la mayoría del país estaba ocupada en empleos que la carta no había imaginado.
El experto conoce la máquina, pero la máquina no decide el futuro. Quien domina un mecanismo tiende a ver el mundo como una prolongación de ese mecanismo. El futuro de una tecnología no lo escribe la tecnología, sino millones de personas que todavía no decidieron qué hacer con ella. Ese saber está desparramado, incompleto, y se produce recién en el uso.
Cuanto más íntimo es el conocimiento de un artefacto, más grande parece el artefacto y más chica la gente. El que construye la máquina sobreestima la máquina y subestima a los demás. Su expertise es profundidad en una variable; el porvenir es la interacción de todas. El error es confundir el conocimiento del artefacto con el conocimiento de la sociedad que lo va a usar.
Lo que una tecnología destruye se puede contar porque ya existe y tiene nombre. Lo que va a crear no se puede contar porque todavía no lo tiene. Quien solo cuenta lo que ve está condenado a ver únicamente pérdidas.
Los que anuncian el fin del mundo suelen ser los que mejor están en el mundo tal como es. Cada tecnología redistribuye prestigio, acceso y poder. El que tiene mucho de eso vive la redistribución como catástrofe. El miedo es el nombre elegante que se le pone a la pérdida de un privilegio.
El miedo rinde: da tapas a los diarios, votos al dirigente que promete protegernos de lo que no entiende y audiencia instantánea al que renuncia en público. Es la única mercancía que se vende sin que nadie verifique si funcionó, y es la que mejor premia el algoritmo.
La economía de la atención encontró en el fin del mundo su producto perfecto porque nunca vence. Nadie vuelve, años después, a pedir explicaciones por un apocalipsis que no llegó. Se anuncia el siguiente.
El miedo genera rechazo. El rechazo hace que una persona ni siquiera pruebe la herramienta. Mientras esa persona no la prueba, otra la está usando para volverse mejor en su mismo oficio. El apocalipsis llegó tarde a todas las citas. Lo único que llega a horario es la fila de los que se quedaron afuera por creerle.
Cada profeta deja la misma pregunta al que escucha. Frente a algo que no se entiende del todo, se puede hacer lo que hicieron los que se quedaron en la puerta cada vez que el mundo cambió, o se puede entrar y ver qué hay.