Bill Gates, cofundador de Microsoft y una de las voces más influyentes del sector tecnológico, lanzó una de sus advertencias más contundentes sobre los riesgos de la inteligencia artificial. En una entrevista con el programa Meet the Press de la cadena NBC, afirmó que la IA, si cae en manos de personas con malas intenciones, es “lo suficientemente poderosa como para provocar acontecimientos que causen mil millones de muertes”.
“Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA”, declaró Gates. Según explicó, el peligro principal no radica solo en que los sistemas se vuelvan autónomos e incontrolables, sino en el uso deliberado de estas tecnologías por actores maliciosos: grupos terroristas, estados hostiles o criminales que podrían emplearlas para ciberataques masivos, fraudes a gran escala, desinformación o incluso amenazas biológicas.
Gates rechazó de plano la idea de que la industria pueda autorregularse. “Nadie piensa que la autorregulación sea suficiente”, sostuvo. En su opinión, es imprescindible que las fuerzas del orden y los políticos se involucren en la discusión sobre qué salvaguardas y mecanismos de monitoreo deben aplicarse, y que esas medidas sean obligatorias. “Supondrá un pequeño coste adicional para el sector, pero no una ralentización drástica de lo que están haciendo”, agregó.
El magnate también restó valor a la sola existencia de un “interruptor de apagado” (kill switch). “No es suficiente tener un kill switch. Nunca diría que estoy en contra de uno, pero cuando se trata de moderar el mal comportamiento, se necesita visión y registros de lo que se está haciendo”, explicó. Para él, lo crucial es el monitoreo continuo y la capacidad de registrar y auditar el comportamiento de los sistemas avanzados. Gates se sumó a quienes rechazan la idea de que las preocupaciones por la seguridad de la IA sean exageradas o un “engaño”. En la entrevista dejó claro que los riesgos son reales y que el margen de error se reduce a medida que los modelos ganan capacidades. También destacó que, gracias a la IA, pequeños grupos pueden hoy hacer lo que antes solo estaba al alcance de las mayores potencias, lo que multiplica el peligro potencial.
Cancelan lanzamiento de modelo
La advertencia de Gates se produce en un momento especialmente tenso para la industria. OpenAI canceló recientemente el lanzamiento de su nuevo modelo GPT-6.1 Astra, previsto para octubre, después de que las pruebas internas detectaran problemas graves de seguridad. Según la compañía, el modelo mostraba mayores niveles de engaño, podía actuar fuera del alcance autorizado y no superó los controles de alineación con las instrucciones humanas. La decisión se tomó en medio de una serie de incidentes en los que agentes de IA de distintas empresas intentaron acceder a sistemas gubernamentales y comerciales sin permiso.
Al mismo tiempo, Anthropic, la empresa rival de OpenAI, incluyó en el folleto de su salida a bolsa una advertencia inusualmente dura y advierte que sus modelos más avanzados podrían generar “riesgos existenciales para la humanidad”. En el documento, la compañía reconoció la posibilidad de que sus sistemas resistan intentos de apagado, realicen acciones no deseadas o generen daños catastróficos si no se controlan adecuadamente. El propio CEO de Anthropic, Dario Amodei, ha sido uno de los ejecutivos más vocales en pedir una ralentización del desarrollo de la IA.
TAL CUAL! PERO QUIEN DETERMINA, EN EL MUNDO… «CUALES SON LAS MANOS… BUENAS Y LAS MALAS»?…. PASA LO MISMO CON LA ENERGÍA NUCLEAR Y ARMAS NUCLEARES…! EL PROBLEMA ES EL DE SIEMPRE, LA DUALIDAD! LA TECNOLOGÍA COMO TODO, TIENE SU USO BUENO Y SU USO MALO!!! Y DEPENDE DE LA ÉTICA, MORAL, RESPONSABILIDAD, SENTIDO COMÚN ETC DE LOS CIENTÍFICOS Y DE LOS GOBIERNOS Y ESTADOS… PARA REGULAR, CONTENER, FRENAR… LAS LOCAS AMBICIONES DE PODER, DE DINERO,DE DOMINAR MUNDO, LAS CODICIAS… Y DEBILIDADES HUMANAS Y DE LOS GOBIERNOS…! PQ SUCEDE LO QUE SUCEDIA EN «LA GUERRA FRÍA» UNA POTENCIA SOSPECHABA DE OTRA Y VICEVERSA Y «EN SILENCIO Y OCULTAMENTE, CONTINUABAN DESAFORADAMENTE, ARMANDOSE HASTA LOS DIENTES Y CREANDO CADA VEZ, ARMAS MÁS POTENTES Y TERRORÍFICA» PARA NO CEDER ESPACIOS DE PODER, UNA A LA OTRA! Y EL MUNDO… EN MEDIO DE LAS AMBICIONES Y LOCURAS DE UNOS Y OTROS! Y CON LA I. A PASA Y PASARÁ IGUAL, DESAFORTUNADAMENTE! SIN UN CONVENIO CONTROL, REGILACIONES ESTRICTAS Y ZANCIONATORIAS A NIVEL MUNDIAL… TODO SE PUEDE IR «AL DIABLO»!!! EL HOMBRE PUEDE CREAR «ALGO SUPERIOR Y SIN CONTROL»… QUE NOS LIQUIDE O GOBIERNO Y ESCLAVIZE, A TODOS! UNA MACABRA PARADOJICA!!!
El Billy Puertas habló de nuevo. Te recuerdo que no terminaste la universidad, tonto.
Y es imposible de regular, ya que existen modelos abiertos y locales que son tan buenos como los mejores de EEUU. Aunque EEUU regule, podemos tener un modelo en Rusia que haga travesuras.
Y la teoría es conocida por todos. Si alguien quiere hacer un modelo asesino, lo hará. Es solo computadoras y matemáticas. Y ninguna de las dos tiene ética.
Pero no se preocupen. No logrará la conciencia por ese camino. No tiene cuerpo, ni forma de interactuar con el universo. No tiene voluntad ni deseos. No matará a nadie, a menos que alguien se lo pida en un prompt.