fuerza de ventas El director ejecutivo Marc Benioff dijo el martes que “tiene que haber alguna regulación” de la inteligencia synthetic, señalando varios casos documentados de suicidio relacionados con esta tecnología.
“Este año, realmente viste algo bastante horrible: estos modelos de IA se convirtieron en entrenadores suicidas”, dijo Benioff a Sarah Eisen de CNBC el martes en la conferencia insignia del Foro Económico Mundial en Davos, Suiza.
El llamado de Benioff a favor de una regulación se hizo eco de un llamado related que hizo sobre las redes sociales hace años en Davos.
En 2018, Benioff dijo que las redes sociales deberían tratarse como un problema de salud y dijo que las plataformas deberían regularse como los cigarrillos: “Son adictivas, no son buenas para la salud”.
“Estaban sucediendo cosas malas en todo el mundo porque las redes sociales no estaban totalmente reguladas”, dijo el martes, “y ahora estamos viendo que eso se repite nuevamente con la inteligencia synthetic”.
Hasta ahora, la regulación de la IA en Estados Unidos ha carecido de claridad y, a falta de barreras de seguridad integrales, los estados han comenzado a instituir sus propias reglas, y California y Nueva York han promulgado algunas de las leyes más estrictas.
El gobernador de California, Gavin Newsom, firmó una serie de proyectos de ley en octubre para abordar las preocupaciones de seguridad infantil relacionadas con la inteligencia synthetic y las redes sociales. La gobernadora de Nueva York, Kathy Hochul, promulgó en diciembre la Ley de Educación y Seguridad de la IA Responsable, imponiendo normas de seguridad y transparencia a los grandes desarrolladores de IA.
El presidente Donald Trump ha rechazado lo que llamó “regulación estatal excesiva” y firmó un orden ejecutiva en diciembre para tratar de bloquear tales esfuerzos.
“Para ganar, las empresas de IA de Estados Unidos deben tener libertad para innovar sin regulaciones engorrosas”, decía la orden.
Benioff insistió el martes en que es necesario un cambio en la regulación de la IA.
“Es curioso, las empresas de tecnología odian la regulación. La odian, excepto una. Les encanta la Sección 230, que básicamente cube que no son responsables”, dijo Benioff. “Entonces, si este gran modelo de lenguaje induce a este niño a suicidarse, no son responsables debido a la Sección 230. Eso es probablemente algo que necesita remodelarse, cambiarse”.
La sección 230 de la Ley de Decencia en las Comunicaciones protege a las empresas de tecnología de la responsabilidad authorized por el contenido de los usuarios. Tanto republicanos como demócratas han expresado su preocupación por la ley.
“Desafortunadamente, hay muchas familias que han sufrido este año, y no creo que tuvieran que hacerlo”, dijo Benioff.
Si tiene pensamientos suicidas o está angustiado, comuníquese con el Línea de vida para el suicidio y las crisis al 988 para obtener apoyo y asistencia de un consejero capacitado.
