La inteligencia synthetic basic podría estar a sólo cinco años de distancia, aunque el camino no está exento de riesgos, dijo Demis Hassabis de Google
El camino hacia la creación de inteligencia synthetic basic (AGI) podría implicar “resultados catastróficos” como ciberataques a infraestructuras energéticas o hídricas, advirtió el director basic de Google DeepMind, Demis Hassabis. Sugirió que AGI podría llegar en la próxima década.
Hablando en la Cumbre Axios AI+ en San Francisco la semana pasada, Hassabis describió a AGI como un modelo que exhibe “todas las capacidades cognitivas” de los seres humanos, incluidas las capacidades inventivas y creativas.
Sostuvo que los grandes modelos de lenguaje actuales siguen siendo “inteligencias irregulares” con lagunas en el razonamiento, la planificación a largo plazo y el aprendizaje continuo. Sin embargo, sugirió que AGI pronto podría convertirse en una realidad si continúa escalando y “Uno o dos grandes avances más”.
Al mismo tiempo, Hassabis reconoció que es possible que el período previo a AGI incluya riesgos tangibles y “resultados catastróficos” como los ciberataques a infraestructuras energéticas o hídricas.
“Eso probablemente ya esté sucediendo ahora… tal vez no con una IA muy sofisticada todavía”. dijo, llamando a esto el “el vector weak más obvio”. Añadió que los malos actores, los agentes autónomos y los sistemas que “desviarse” de los objetivos previstos requieren una mitigación seria. “Es distinto de cero” dijo sobre la posibilidad de que sistemas avanzados pudieran “salta la barandilla”.
Las preocupaciones de Hassabis reflejan advertencias más amplias en toda la industria tecnológica. Una carta abierta publicada en octubre y firmada por destacados tecnólogos y figuras públicas afirma que “superinteligente” Los sistemas podrían amenazar la libertad humana o incluso la supervivencia, lo que insta a una prohibición world del desarrollo de la IA hasta que se pueda garantizar la seguridad. Entre los firmantes se encuentran el cofundador de Apple, Steve Wozniak, los pioneros de la inteligencia synthetic, Geoffrey Hinton y Yoshua Bengio, el fundador de Virgin Group, Richard Branson, y destacadas figuras políticas y culturales.
Otros han adoptado una visión más optimista. Elon Musk dijo el mes pasado que los avances en inteligencia synthetic y robótica podrían hacer que funcione “opcional” dentro de 10 a 20 años y predijo que la moneda podría convertirse “irrelevante” en una economía impulsada por la IA, aunque señala que aún se requieren avances tecnológicos significativos antes de que pueda surgir ese futuro.
Puedes compartir esta historia en las redes sociales:
