AMBIENTACIÓN: Una biblioteca vasta y silenciosa.

Mote de polvo flotan a través de las columnas de luz del sol de la tarde.

El aire huele a papel envejecido y cuero seco.

Rea cierra lentamente un libro de poesía con una expresión levemente curiosa.

Rea: (pausando tras leer el poema y frotándose las sienes) Este poema habla de posibilidades hermosas. Sin embargo, no estoy seguro de que nuestra especie haya evolucionado lo suficiente como para alcanzar niveles superiores de conciencia. Para lograrlo, se necesita una reingeniería social radical. (levantando la cara, notando que el polvo baila a la luz) ¿Quizás una IA superinteligente podría guiarnos y ayudarnos a superar nuestras tendencias más destructivas?

Min: (bocetando una ilustración en una libreta electrónica mientras asiente lentamente) Sí. A la luz de la historia humana hasta ahora, no estoy seguro de que eso sea posible. Hemos dejado atrás un historial devastadoramente mixto. Mostramos momentos de grandeza, pero también otros de pereza, crueldad o estupidez.

Tim: (de pie junto a un alto ventanal, silueteado contra el brillante mundo exterior, su voz mesurada y escalofriantemente tranquila) Rea tiene razón: la única solución lógica sería que un sistema de IA superinteligente controlara el mundo. Es un giro curioso a la propuesta de Thomas Hobbes de 1651 en el "Leviatán". Sin embargo, en lugar de tener monarcas terrenales, quizás necesitemos que un sistema de IA superinteligente tome el timón. Creo que necesitamos una IA que actúe como soberano supremo y benigno del mundo porque los humanos son sencillamente demasiado estúpidos para gestionar el planeta entero. Homo sapiens podría operar libremente dentro de pequeñas comunidades discretas y básicamente independientes, como “cajas de arena”. Parece que nos va mejor en comunidades minúsculas, autosoberanas, amuralladas, como cajas de joyas.

Tǐng: (con una risa ligera y despectiva) ¡Oh, Tim, mi filósofo-rey! Has estado leyendo demasiada ciencia ficción. Sin embargo, tu punto es válido: nuestro rumbo actual simplemente no es viable a largo plazo.

Tim: (apartándose de la ventana, con un destello de orgullo en la mirada) Tal vez. Pero dime, Tǐng: ¿no es cierto que la ciencia ficción más audaz de hoy suele convertirse en el hecho de mañana?

¿No son acaso las semillas de las visiones y realidades de mañana —tanto utópicas como pesadillescas— concebidas e inventadas primero en los paisajes del presente?

A conversation about A.I., science fiction, and human limitations

SETTING: A vast, silent library. Dust motes drift through columns in the afternoon sun.

The air smells of aged paper and dry leather. Rea slowly closes a book of poetry with a expression mildly curious.

Rea: (pausing after reading the poem and rubbing his temples) This poem speaks of beautiful possibilities. However, I'm not sure our species is evolved to reach higher levels of consciousness.

To achieve that, it seems that radical social re-engineering is needed. (looking up, his eyes catching dust motes flickering in Brownian motion in the afternoon light) Perhaps an AI, a mind vast enough to comprehend our flaws, could actually reprogram some of our most destructive tendencies?

Min: (sketching an artwork in a electric notebook while nodding slowly) Aye. In light of human history so far, I'm not sure that is possible. We have left behind a devastatingly mixed record: moments of astonishing, heaven-scraping greatness, scarred by equal measures of vile cruelty.

Tim: (standing by a tall window, silhouetted against the bright outside world, his voice measured and chillingly calm) Rea is right: the only logical solution would be to have a superintelligent AI system control the world. It is a curious twist on Thomas Hobbes' 1651 proposal in "Leviathan." However, instead of having earthly monarchs, perhaps we need a superintelligent AI system take the helm. I think we need a AI to act as the world's ultimate, benign sovereign because humans are simply too stupid to manage of the whole planet. Homo sapiens could operate freely within small discrete and basically independent "sandbox" communities. It seems we do best in tiny, self-sovereign, walled-off jewel-box communities.

Tǐng: (with a light, dismissive laugh) Oh, Tim, my philosopher-king! You've been reading too much science fiction! However, you make a solid point: our current path is simply not viable in the long-term.

Tim: (turning away from the window, a flicker of ride in his gaze) Perhaps so. But tell me this, Ting isn’t it true that today’s most audacious science fiction often becomes tomorrow’s fact? Aren’t the very seeds of tomorrow’s visions and realities—both utopian and nightmarish—always first conceived and invented in the landscapes of the present?