La IA debe fomentar los “instintos maternos” o corremos el riesgo de extinguirnos, advierte Geoffrey Hinton

Geoffrey Hinton, a quien muchos consideran el padrino de la inteligencia synthetic, cube que si la IA continúa desarrollándose sin las barreras adecuadas, el peor de los casos podría conducir a la extinción humana.

Pero él tiene una solución.

Hinton es coganador del Premio Nobel de Física 2024 y cofundador de la AI Security Basis.

Como le explica a IDEAS La presentadora Nahlah Ayed, entrenar IA para desarrollar instintos maternos podría ser lo que salve a la raza humana. Aquí hay una parte de esa conversación.

¿Cuál es el peor escenario que puedas imaginar aquí?

Bueno, hay muchos escenarios malos en el corto plazo que no implican que la IA tome el management. Por eso es difícil elegir el peor.

Pero, por ejemplo, los terroristas utilizan la IA para crear nuevos virus desagradables. Les resulta mucho más fácil hacerlo. Y eso da mucho miedo. Obtendremos colaboración internacional sobre cómo intentar prevenirlo, pero es posible que no podamos hacerlo. Entonces ese es un riesgo a corto plazo. Se utiliza IA para corromper la democracia con vídeos falsos.

Pero lo que más me preocupa sigue siendo el riesgo a largo plazo, que me parece bastante inevitable, de que las IA se vuelvan más inteligentes que nosotros y no sepamos cómo podremos coexistir con ellas. No sabemos si realmente nos sustituirán.

Déjame preguntarte sin rodeos. ¿Cuáles son las probabilidades de que la IA conduzca realmente a la extinción humana en este siglo?

Bien, creo que la única respuesta honesta es que esto es algo que probablemente no sucederá hasta dentro de 10 o 20 años. Y tenemos muy poca concept de cómo serán las cosas dentro de 10 o 20 años. Si simplemente miras hacia atrás 10 años, nadie tenía concept de que tendríamos chatbots tan buenos como los que tenemos ahora.

Entonces, si el progreso es sólo lineal, podemos esperar que en 10 a 20 años las cosas sean muy diferentes de cómo son ahora y tendremos todo tipo de avances que no podríamos haber predicho. La respuesta más honesta es que no tenemos ni concept.

Y no quiero detenerme en lo negativo, pero ¿es en el otro extremo de su horizonte de miedo donde podría conducir a la extinción de los humanos?

Oh, ciertamente podría, sí. Creo que cualquiera que diga que no hay manera de que esto conduzca a la extinción de los humanos simplemente no se enfrenta a la realidad.

VER | Un llamado a una IA más amable con los humanos en el futuro:

¿Qué pasaría si construyéramos la IA para que tuviera instintos maternos?

Geoffrey Hinton, coganador del Premio Nobel de Física 2024, es conocido por muchos como el “padrino de la IA”. Habló con Concepts sobre cómo podríamos entrenar la IA para que sea más amable con los humanos.

Me pregunto cómo podríamos moldear el futuro de la IA para asegurarnos de que sea más amable con nosotros. ¿Hay alguna manera?

Puede que lo haya. Siento que deberíamos esforzarnos mucho en investigar eso. Entonces, si miras a tu alrededor y dices: “¿Dónde hay un ejemplo de algo más inteligente controlado por algo menos inteligente?” El mejor ejemplo que conozco y quizás el único en el sentido en el que estamos hablando es cómo un bebé controla a su madre y eso se debe a que la evolución incorporó cosas a la madre.

No puede soportar el llanto del bebé. Obtiene todo tipo de recompensas hormonales por ser amable con el bebé. Obviamente, period muy importante para la evolución permitir que el bebé controlara a la madre para la supervivencia de la especie.

Quizás podamos hacer lo mismo con la IA. Aunque será más inteligente que nosotros, si pudiéramos hacer que se preocupara más por nosotros que por sí mismo, surgirían algunas cosas buenas de eso.

Se daría cuenta de que nuestras capacidades intelectuales son bastante limitadas, pero querría [us] desarrollarse tanto como [we] podría de todos modos. Si tomas a una madre regular y le dices: “¿Te gustaría apagar tus instintos maternales? ¿No sería mucho más fácil tu vida si te despertaras en mitad de la noche y dijeras: ‘Oh, el bebé está llorando otra vez’ y volvieras a dormir? ¿No sería agradable?”.

La mayoría de las madres dirían que no, porque realmente se preocupan por el bebé y se dan cuenta de que eso sería muy malo para ellas. La mayoría de ellos no querrán desactivar esos instintos, aunque podrían hacerlo si quisieran porque pueden acceder a su propio código.

Me sorprende que, para empezar, eso no fuera parte del desarrollo de la IA. ¿Por qué no hemos pensado en garantizar que la IA sea más amable con nosotros?

Oh, porque el principal impulso de la IA hasta hace muy poco ha sido [that] queremos asistencia inteligente.

No necesitas que sea amable, sólo necesitas que sea eficiente y que haga lo que tú dices. Y esa ha sido la visión de cómo podemos desarrollar la IA desde las grandes empresas tecnológicas.

Hasta que se vuelva más inteligente.

Y no creo que sea sostenible cuando se vuelva más inteligente. Creo que debemos replantearlo por completo, ya que no seremos el jefe y la IA será nuestro asistente inteligente. La IA nos cuidará. ¿Cómo haces eso? ¿Cómo le damos a la IA instintos maternos para que sea más amable con nosotros?

Bueno, recuerda, lo estamos desarrollando. Lo estamos creando. Todavía tenemos una posibilidad de hacerlo. Que tengamos éxito o no depende en parte de cuánto lo intentemos. Puede que no sea posible.

Podría ser que una vez que se desarrolla una IA superinteligente, se energetic y haga lo suyo y seamos sólo una fase pasajera en el desarrollo de la inteligencia. Pero si es posible desarrollarlo de manera que se preocupe por nosotros más que por sí mismo, sería muy tonto si nos extinguiéramos porque no lo intentamos.

¿Cuántas personas están realmente trabajando en ese aspecto de las cosas hoy?

Probablemente menos del uno por ciento de los investigadores trabajan en IA, lo cual es una locura.

*Preguntas y respuestas editadas para mayor claridad y extensión. Este episodio fue producido por Nicola Luksic.

Descarga el Podcast IDEAS para escuchar la conversación completa.