Anthropic, creadora del asistente de IA ‘Claude’, ha frustrado en lo que llevamos de año al menos cinco investigaciones científicas potencialmente relacionadas con el desarrollo de armas biológicas, algunas con alto potencial pandémico.
Según se desprende del informe ‘Detectar y combatir el mal uso de la IA’ publicado este jueves, un mínimo de cuatro casos tuvieron vinculación con organismos estatales que Anthropic ha elegido no revelar ante la posibilidad de que se tratasen de estudios puramente académicos. En el primero de los ejemplos, la investigación decía enmarcarse dentro de una solicitud para solicitar fondos para labores de I+D que harían al virus del chikunguña más transmisible y resistente al sistema inmunitario.
«La subvención tenía como objetivo identificar mutaciones potenciadoras en el virus del chikunguña, transformarlas en clones infecciosos y seleccionar las más virulentas ‘in vivo’. En otras palabras, el virus se volvería progresivamente más dañino a medida que infectara repetidamente a animales vivos y los investigadores conservarían las variantes más patógenas en cada iteración», ha resumido el documento.
La multinacional ha destacado que el conocimiento obtenido podría emplearse en la creación de vacunas o tratamientos, si bien el hecho de que el formulario de la subvención indicase que los científicos serían civiles, pero que los hallazgos se reproducirían en un laboratorio militar, precipitó el bloqueo de la cuenta de Claude. Según la Organización Mundial de la Salud (OMS), el chikunguña es una enfermedad transmitida por mosquitos que provoca fiebres y un dolor «incapacitante» en las articulaciones que remite a los días, pero que puede persistir durante meses o años.
De su lado, Anthropic ha constatado el intento por parte de un organismo estatal de usar sus modelos de IA para estudiar venenos no contagiosos. Además, acabó bloqueando a otro usuario que investigaba toxinas bacterianas y proteínas de fiebres hemorrágicas virales con capacidad pandémica, léase el ébola.
La tecnológica estadounidense también ha detectado iniciativas similares, pero con fines menos sospechosos, para investigar el virus causante de la viruela o la adaptación de la gripe aviar a los mamíferos.
Es imposible combatir el «mal uso de la IA». Es la propia naturaleza del conocimiento. Es una herramienta. Como un cuchillo. Lo puedes usar para cortar carne o cortar el cuello de otro ser humano. El cuchillo es el mismo.
Lo estuve discutiendo con Gemini y, básicamente, me dijo que era imposible de detener. Basta un ataque coordinado, de diferentes personas, introduciendo «ruido» estadístico, preguntando partes de la «receta» de manera desordenada… no hay manera de detectarlo. O combatirlo.
¿Eso significa autodestrucción asegurada con el tiempo suficiente, le dije?
Me dijo que sí.
Sea por ingeniería genética o ingeniería nuclear. El fin es el mismo.
Nada que hacer. Solo disfrutar los segundos antes del fin de todo. Ahora tenemos el poder de destruirnos en serio.
De todas maneras, hagamos lo que hagamos: moriremos en pocos años. De viejos.
….bo gemini…batime la justa…she puede combatir…el uso chueco de la IA….dale bo nosheas ortiva loko….
En fin…dijo pichin…
No me digas nada: deterioro cognitivo por consumo excesivo de marihuana. Es normal que leas y te parezca algo sin sentido. Eres un analfabeto funcional. Lees, pero no comprendes.
Verás: Gemini no piensa. Como tu. Pero te dice «cosas probables» dados los valores de sus parámetros en su red neuronal y el texto de entrada.
¿Las diferencias? A veces Gemini dice algo con sentido. Y redacta mejor que tú.
Te va a dejar obsoleto. Apuesto a que no hay nada que tú hagas que Gemini no pueda hacer mejor. Salvo interactuar con el mundo real.
Si quieres pelear, dale nomás. Será como ganarle al ajedrez a un niño con Down.
Matu: ¿Quién es el nerd que tienes de avatar? Me pareció que era Aleister Crowley, pero no. Parece un intelectual de la etnia de los elegidos de lentes. Como Trotski, con esos lentes circulares.
Te debo caer mal por las cosas que he dicho de tu tribu.
Me alegro de haberte hecho llorar, jabón no asumido.
Matu: decime que estás vacunado con Pfizer y con todas las dosis de refuerzo. Es que … Me preocupa tu salud. Quiero que estés protegido de gripes leves y vivas largos años.
90% de probabilidad de que te dieras alguna dosis. Eso me tranquiliza.