El avance acelerado de la inteligencia artificial y la competencia desenfrenada en el sector tecnológico generan graves interrogantes sobre la seguridad, la capacidad de decisión y la supervivencia de la humanidad. La advertencia fue realizada por el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, quien subrayó la urgencia de establecer límites éticos y normativos globales ante la falta de supervisión pública.
El alto funcionario reconoció que la herramienta ofrece oportunidades de progreso en áreas fundamentales como la ciencia, la salud, la educación y los servicios públicos. Sin embargo, enfatizó que las plataformas actuales son desarrolladas por un grupo reducido de actores y ejecutan acciones que sus propios creadores no pueden prever ni gestionar por completo. Esta falta de control incrementa el riesgo de fallos accidentales y usos malintencionados capaces de vulnerar la privacidad, la igualdad y el debate público.
Türk alertó sobre el impacto de la tecnología en sectores sensibles, señalando que la automatización puede privar a poblaciones de servicios esenciales o alterar de forma dramática los conflictos armados. Ante este escenario, reclamó medidas urgentes para prohibir que sistemas automatizados tomen decisiones letales sobre la vida humana y llamó a colocar los derechos humanos como eje central del desarrollo científico.
Estoy de acuerdo con el Türk, que es Austriaco. Algún regalo de Solimán que quedó en Viena. Pero se está exagerando el peligro de algo que no tiene ni cuerpo. Ni forma de determinar por sí misma la verdad de algo. Por ejemplo: le dicen que «la luna es de queso». Y se lo comerá, porque no tiene manera de saber si es así, o no. No tiene ojos, manos, cuerpo, mente. Necesita humanos para eso. Esa es fácil de ver. Yo la pondría a resolver una paradoja lógica, a ver si puede. La de Russell. O calcular Busy Beaver de 10 (es una función que crece extremadamente rápida y les puedo asegurar que tardará su tiempo en hacerlo).
Ahora bien. No creo que de eso salga un Skynet. Es difícil lograr la autoconciencia cuando no tienes ni cuerpo. Diferente es que algún humano malintencionado lo use para imitar al Doctor Evil de Austin Powers. Aun así, hay límites matemáticos y lógicos que ese «dios digital» nunca podrá pasar. Y eso sirve para limitarlo. Al dios, y a nosotros.
Suena a excusa para meter controles del estado y limitar competidores de esa manera.