Hace unos días comenzó a circular en TikTok un video que llamó mi atención por la manera en que plantea el nuevo discurso apocalíptico alrededor de la Inteligencia Artificial. El video, publicado por la cuenta @lauti.zip, recupera la historia de un joven de 27 años, ex empleado de Anthropic, que habría advertido públicamente sobre los riesgos que representa el desarrollo acelerado de la IA. Lo interesante no es solamente la advertencia en sí misma, sino el contexto en el que aparece y, sobre todo, la manera en que estas historias empiezan a circular y a convertirse rápidamente en parte de la conversación pública. El video puede consultarse en TikTok.
Porque algo curioso está ocurriendo en Silicon Valley. Después de varios años vendiéndonos el advenimiento inminente de la superinteligencia, algunos de los principales protagonistas de la industria parecen estar cambiando de estrategia narrativa. Ya no hablan solamente de la máquina que va a curar el cáncer, resolver nuestros problemas y llevarnos a una era de abundancia. Ahora también hablan, con creciente insistencia, de la máquina que podría acabar con nosotros. Y aunque ambas cosas pueden parecer contradictorias, en realidad podrían ser dos caras de la misma estrategia de comunicación: primero convencer al mundo de que la tecnología será extraordinariamente poderosa y después advertirle que precisamente por eso debemos tener miedo de ella.
Durante los últimos años, el gran producto de Silicon Valley no fue solamente la inteligencia artificial. Fue la promesa de la inteligencia artificial. La superinteligencia estaba siempre a la vuelta de la esquina y cada nueva generación de modelos parecía acercarnos un poco más a ese momento en el que las máquinas serían capaces de hacer prácticamente cualquier cosa que hoy consideramos una actividad exclusivamente humana. Dario Amodei, Sam Altman, Elon Musk y muchos otros contribuyeron, cada uno a su manera, a construir esa expectativa. Se habló de abundancia, de productividad ilimitada, de curar enfermedades, de automatizar buena parte del trabajo intelectual e incluso de sistemas capaces de escribir cantidades enormes de código en tiempos que hasta hace poco parecían absurdos. El problema con las profecías tecnológicas es que llega un momento en que alguien tiene que cumplirlas. Y mientras la inteligencia artificial ha avanzado de manera extraordinaria, también ha quedado claro que existe una distancia considerable entre los modelos que tenemos hoy y esa especie de inteligencia casi omnipotente que durante años se utilizó para describir el futuro inmediato.
El problema se vuelve todavía más interesante cuando recordamos que detrás de esas promesas existen empresas que necesitan justificar inversiones gigantescas. Los costos de cómputo son enormes, la competencia por los chips y la infraestructura es feroz y las valuaciones de las compañías dedicadas a la inteligencia artificial dependen, en buena medida, de expectativas sobre lo que serán capaces de hacer en el futuro. En algún momento los inversionistas dejan de conformarse con demostraciones espectaculares y empiezan a preguntar cosas bastante menos filosóficas: cuánto cuesta, cuánto produce y cuándo va a ganar dinero. Si la superinteligencia no aparece en el plazo anunciado, hay que explicar por qué. Y aquí es donde el cambio de narrativa resulta particularmente conveniente. Si antes la explicación era que estábamos a punto de alcanzar una revolución tecnológica sin precedentes, ahora existe otra posibilidad mucho más sofisticada: quizá podríamos avanzar más rápido, pero hemos decidido no hacerlo porque tenemos una responsabilidad moral con la humanidad.
Es una explicación extraordinariamente útil porque transforma una posible limitación técnica en una virtud ética. Ya no somos incapaces de llegar a la superinteligencia en el plazo prometido; somos demasiado responsables para hacerlo. Ya no estamos ante una tecnología que tarda más de lo previsto; estamos ante una tecnología tan poderosa que sus propios creadores se ven obligados a frenar voluntariamente. La diferencia parece pequeña, pero desde el punto de vista de la narrativa corporativa es enorme. Una empresa que reconoce que no puede hacer algo está admitiendo una limitación. Una empresa que dice que podría hacerlo, pero que deliberadamente decidió no hacerlo para proteger a la humanidad, está convirtiendo esa misma limitación en una demostración de poder y responsabilidad.
Y aquí aparece la parte más interesante: el miedo también vende. Si una inteligencia artificial es capaz de destruir la civilización, entonces necesariamente estamos hablando de una tecnología extraordinariamente poderosa. La amenaza termina funcionando como una especie de certificación involuntaria de la magnitud del producto. Si lo que estamos construyendo puede acabar con la humanidad, entonces las cantidades multimillonarias que se están invirtiendo dejan de parecer completamente delirantes. El discurso apocalíptico, paradójicamente, puede reforzar el discurso de grandeza tecnológica que lo precedió. Primero nos dicen que están construyendo algo capaz de transformar el mundo y después nos explican que es tan poderoso que podría destruirlo. En ambos casos, la conclusión comercial es bastante parecida: estamos construyendo algo extraordinario y, por lo tanto, vale muchísimo dinero.
Pero existe una segunda ventaja, todavía más conveniente. El apocalipsis también sirve para explicar el retraso. Imaginemos que una empresa prometió una transformación tecnológica monumental y que esa transformación no llegó en el plazo esperado. Hay una explicación bastante aburrida: la tecnología es más difícil de desarrollar de lo que pensábamos, los costos son mayores, los modelos tienen limitaciones y todavía no sabemos resolver algunos problemas fundamentales. Existe, sin embargo, otra explicación mucho más heroica: podríamos haber avanzado, pero decidimos detenernos porque los riesgos eran demasiado grandes. Tuvimos que frenar. Tuvimos que ser responsables. Tuvimos que sacrificar velocidad, crecimiento y quizá billones de dólares para evitar una catástrofe. El retraso deja entonces de ser un problema técnico y se convierte en una decisión moral. El fracaso de una predicción se transforma en una demostración de prudencia.
Esto no significa que los riesgos de la inteligencia artificial sean inventados. Sería absurdo sostener algo semejante. Ni siquiera necesitamos una superinteligencia para tener problemas bastante serios. La desinformación automatizada, la manipulación política, la sustitución de empleos, la concentración de poder tecnológico y la capacidad de producir cantidades industriales de basura digital son problemas perfectamente reales. Tampoco hace falta imaginar un robot consciente tomando el control de los misiles nucleares para entender que estamos frente a una tecnología capaz de modificar profundamente la economía y la sociedad. El asunto que merece cierta sospecha es otro: que aceptemos sin demasiadas preguntas el relato de quienes tienen intereses económicos directos en que consideremos extraordinariamente poderosa la tecnología que están desarrollando.
Porque hay algo curioso en el discurso apocalíptico de Silicon Valley. Los mismos hombres que durante años nos explicaron que estaban construyendo la tecnología capaz de transformar radicalmente la humanidad ahora pueden explicarnos, con igual convicción, que esa misma tecnología es demasiado peligrosa para ser desarrollada demasiado rápido. Y ambas cosas pueden ser ciertas. Una tecnología puede ser revolucionaria y peligrosa al mismo tiempo. El problema aparece cuando quienes controlan esa tecnología también controlan buena parte de la narrativa sobre sus capacidades, sus riesgos y la velocidad con la que debería desarrollarse.
En el teatro corporativo, la ética es un disfraz particularmente elegante. Permite decir “no podemos hacerlo todavía” sin tener que decir “todavía no sabemos hacerlo”. Permite convertir una limitación tecnológica en una decisión moral y, de paso, mantener intacta la narrativa de que estamos a unos cuantos años —o meses, o semanas— de cambiar la historia de la humanidad. Y mientras el público discute si la máquina será amiga o enemiga, las empresas pueden seguir recibiendo capital para construirla.
Por eso quizá la pregunta más interesante no sea si la inteligencia artificial va a destruir el mundo. Esa pregunta, además de imposible de responder, nos distrae con facilidad. La pregunta interesante es mucho más pequeña y mucho más vulgar: ¿quién gana si creemos que puede hacerlo?
Porque si la respuesta incluye a las mismas empresas que necesitan convencernos de que han construido algo casi divino, quizá convenga escuchar sus advertencias con la misma atención con la que escuchamos sus promesas. No para negar los riesgos, sino para recordar algo que suele perderse en medio de la fascinación tecnológica: detrás de cada profecía sobre el futuro hay personas, empresas, inversiones y mercados que tienen bastante interés en que nosotros también creamos en ella.
Después de todo, en Silicon Valley hasta el apocalipsis tiene modelo de negocio.
Y, por supuesto, también cotiza en bolsa.