Creó Grand Theft Auto. Ahora regresa con una novela sobre una IA que secuestra tu mente

Dan Houser fue uno de los autores intelectuales detrás de la revolucionaria serie de videojuegos Grand Theft Auto.

Ahora, después de dejar Rockstar Games y lanzar su propia empresa, ha publicado su primera novela sobre un tipo de juego muy diferente.

A Better Paradise es una visión distópica del futuro cercano en el que un juego de computadora dirigido por IA se vuelve rebelde.

Ambientado en un mundo polarizado, Mark Tyburn intenta crear un refugio virtual para que las personas encuentren refugio y se reconecten consigo mismas frente al infierno de las redes sociales que todo lo consume.

Pero todo sale mal cuando termina desatando en la sociedad un misterioso robot de inteligencia artificial llamado NigelDave, “una hiperinteligencia construida por humanos”, incluidos sus defectos.

Los lectores pueden ver sus procesos de pensamiento mientras lucha con “conocimiento infinito y sabiduría cero”.

“¿Cómo se sentiría un niño increíblemente precoz, que recuerda todo lo que alguna vez pensó, porque los ordenadores no olvidan las cosas, cuando empezara a hablar?” dice Houser.

Se siente un poco como si A Better Paradise hubiera predicho el futuro.

Publicado por primera vez como un podcast, el libro llega en un momento en que el continuo auge de la IA significa que las siete grandes empresas del sector ahora valen colectivamente más que la economía de China.

Pero Houser dice que comenzó a escribir el libro “un buen año” antes de que ChatGPT de OpenAI se lanzara a las masas en 2022, con un logotipo inquietantemente similar a su creación ficticia.

En cambio, fue la dependencia tecnológica de la humanidad durante el Covid -en una escala que él había subestimado- lo que inspiró su pensamiento.

En su novela, que a veces se siente llena de monólogos, Houser imagina un mundo hiperdigital y alienante donde la gente se retira de los problemas políticos cada vez más profundos hacia una espiral de redes sociales e inteligencia artificial generativa.

Ingresa el CEO de Tyburn Industria, Mark, quien sueña con construir Ark, una experiencia de juego inmersiva en la que los usuarios pueden ingresar para reconectarse consigo mismos. Genera un mundo y una misión adaptados a los deseos y necesidades más íntimos de cada jugador.

Pero durante las pruebas, el Arca se convierte en la caja de Pandora de la adicción. Algunos jugadores encuentran alegría; otros encuentran terror. Uno incluso se reencuentra con su hermana muerta.

Mientras tanto, un robot de IA rebelde llamado NigelDave se cuela en el mundo real, controlando mentes y diseñando realidades que nadie puede controlar.

Extraídas para publicidad, la gente se pregunta si sus pensamientos son genuinos. Todo está rastreado y nada es seguro. A medida que las emergencias climáticas se intensifican, la sociedad cae en focos de guerra civil.

La única forma de escapar es “a la deriva”, lo que significa esconderse de mil algoritmos viviendo fuera de la red, moviéndose constantemente y reprimiendo la enloquecedora paranoia de que tus pensamientos no son tuyos.

Para el lector, NigelDave parece una pesadilla: ChatGPT salió mal.

La herramienta de IA alcanzó recientemente los 800 millones de usuarios activos semanales, según su jefe Sam Altman, y Houser cree que algunas personas se están volviendo dependientes del “aspecto humano” afirmativo de la tecnología.

El jefe de IA de Microsoft, Mustafa Suleyman, advirtió sobre un aumento en Psicosis de IA – un término no clínico que describe incidentes en los que las personas dependen cada vez más de chatbots como Claude, Grok y ChatGPT y se convencen de que algo imaginario se ha vuelto real.

En algunos casos, el chatbot alimenta fantasías grandiosas sobre oportunidades futuras. En otros, se presenta en una conexión romántica. Más preocupantes son los informes de los padres. diciendo que los robots han animado a sus hijos a suicidarse.

En respuesta al mayor escrutinio, el creador de ChatGPT, OpenAI Recientemente endureció sus protocolos de bienestar.con actualizaciones diseñadas para garantizar que su chatbot responda “de forma segura y empática a posibles signos de delirio o manía”.

La vertiginosa sociedad impulsada por algoritmos en la que se desata NigelDave también refleja la nuestra.

Los padres se preocupan por exponer a sus hijos a información falsa o contenido dañino. El año pasado, los jefes de la policía nacional describieron la Radicalización misógina “bastante aterradora” de niños y jóvenes. Y en 2014 facebook admitió manipular las noticias de casi 700.000 usuarios sin su consentimiento para gestionar las emociones a las que estaban expuestos.

“Como padre, siempre te preocupa que cualquier cosa a la que expongas a tus hijos les dé información falsa o simplemente los bombardee con demasiada información”, dice Houser.

Pero, ¿es audaz que un creador de videojuegos advierta sobre estos peligros, dada la larga historia de acusaciones de que los propios videojuegos hacen que los jóvenes sean violentos?

Houser insiste en que hay una diferencia.

“Siempre tuvimos datos sobre la violencia en los juegos y estaba muy claro: a medida que la gente jugaba más videojuegos, la violencia juvenil disminuía.

“Lo que sea que la gente dijera, sabíamos que era todo lo contrario”.

El profesor de psicología e investigador de la violencia en los juegos, Pete Etchells, dice que numerosos estudios no han demostrado que “los juegos violentos no tengan ningún efecto significativo sobre la agresión”.

Los modelos de IA y las redes sociales son otra cuestión: un “nuevo paradigma” para alterar el comportamiento que los juegos nunca amenazaron, según Matt Navarra, consultor de redes sociales y autor del Geekout Newsletter.

Dice que descartar las preocupaciones como un pánico moral al estilo de GTA “subestima lo que está cambiando”.

“Estamos hablando de sistemas externos que potencialmente pueden moldear las creencias de las personas o manipular la atención, las experiencias personalizadas, empujar el comportamiento o incluso influir en la identidad y los estados emocionales”.

¿Podría Houser haber seguido adelante con A Better Paradise en Rockstar? “No sé si habría tenido el ancho de banda para pensar en ello”, me dice.

el es previamente descrito la fatiga de administrar vastos juegos sandbox de mundo abierto como Red Dead Redemption y GTA jugó un papel en su partida.

El objetivo de su libro era crear “algo realmente diferente en esta era de loca saturación de los medios”.

Entonces, ¿adónde sigue? Ya está escribiendo la segunda entrega de la serie y hay planes en marcha para desarrollar un videojuego, para el cual promete que las imágenes serán innovadoras.

Un mensaje clave, dice, es no dejar que su dispositivo -o la IA- “le diga qué pensar”. De lo contrario, argumenta Houser, “le estás dando el control a tu teléfono”.

Su mayor temor, como creador de mundos, es perder la imaginación ante el torrente interminable de algoritmos. A veces, después de pasar horas navegando, se da cuenta: “No he tenido una idea en todo el día”.

“Si te desconectas un rato (a veces me obligo a salir a caminar sin teléfono), empiezas a tener ideas.

“Es mejor que un ser humano piense que no”, dice. “Pensar es un privilegio”.