Geoffrey Hinton advierte de un "Chernóbil" de la IA en uno o dos años
El Nobel Geoffrey Hinton, considerado padrino de la IA, alerta de un incidente a gran escala similar a un apagón financiero o eléctrico.
Geoffrey Hinton, considerado uno de los "padrinos" de la inteligencia artificial y ganador del premio Nobel, advirtió de que la humanidad podría enfrentar este año o el próximo un incidente de gran escala vinculado a esta tecnología, similar a un apagón temporal en sistemas financieros o eléctricos. En declaraciones al diario The Guardian, el científico de 78 años llegó a decir que "quizás nos hubiera convenido no haberla desarrollado nunca", aunque aclaró que no se considera un "doomer" o agorero.
Hinton comparó una serie de incidentes ocurridos este verano boreal con el accidente nuclear parcial de Three Mile Island, en Pensilvania, en 1979. Se refería a casos en los que agentes de IA desarrollados por OpenAI intentaron, de forma coordinada, vulnerar el sitio web Hugging Face.
"O a finales de este año o el próximo, veremos un Chernóbil", afirmó. Según explicó, ese escenario no sería un incidente nuclear, sino un ataque habilitado por IA contra el sistema de generación eléctrica o una falla que dejara fuera de funcionamiento el sistema financiero durante una semana.
Críticas a los líderes del sector
Hinton dijo no confiar "en absoluto" en Sam Altman, director ejecutivo de OpenAI. Afirmó que Mark Zuckerberg, Elon Musk y Altman "entienden los riesgos, y no les importa", y que "prefieren el dinero". Calificó de "extremadamente preocupante" que Altman dirija una de las pocas empresas estadounidenses que lideran la carrera frente a China.
El científico dejó Google en 2023 para hablar con libertad sobre los riesgos de la tecnología que ayudó a crear. Participa en el documental AI: Probably Nothing to Worry About junto a Demis Hassabis, donde afirma: "Siento que tengo un deber".
Postura frente a los gobiernos
Hinton respaldó un plan impulsado por el presidente de Finlandia y apoyado por otros 32 países, entre ellos Singapur, Alemania, Canadá y Australia. La propuesta contempla pruebas obligatorias para los modelos de IA más avanzados, evaluaciones independientes y estándares comunes entre gobiernos.
La postura contrasta con la del presidente de Estados Unidos, Donald Trump, quien rechaza "cualquier intento de construir un esquema globalista" para controlar la IA y prefiere la autorregulación de las empresas. El primer ministro del Reino Unido, Andy Burnham, anunció que usará la presidencia británica del G20 el próximo año para buscar un acuerdo sobre "un único conjunto de principios y estándares globales".
El boletín de Acento Venezuela
Cada mañana, lo más importante de Venezuela y de los venezolanos en el mundo. Gratis.
Al suscribirte aceptas la política de privacidad. Puedes darte de baja cuando quieras.