El uso de este tipo de herramientas por parte de grupos terroristas continúa siendo uno de los riesgos más citados dentro del sector.
La compañía Anthropic dio a conocer un nuevo informe en el que detalla el bloqueo de cinco casos en los que se intentó utilizar sus modelos de inteligencia artificial para realizar procesos de laboratorio que, si se hubiesen concretado, podrían haber derivado en la fabricación de armas biológicas. En palabras de la propia empresa: “Estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso”.
El documento no se limita únicamente a este tipo de amenazas, sino que también incluye ejemplos relacionados con ciberseguridad, armamento convencional y operaciones de manipulación informativa. Se trata, además, del cuarto reporte de este tipo que la compañía hace público hasta el momento.
De acuerdo con el informe, todos los casos documentados ocurrieron durante este año y fueron detectados mediante versiones anteriores de sus modelos, es decir, más limitadas que la más reciente generación perteneciente a la familia Fable o Mythos, la cual cuenta con mecanismos de seguridad considerablemente más avanzados que dificultan, en principio, cualquier intento de uso malicioso. Según Anthropic, los responsables de estos intentos abarcan un espectro amplio: desde grupos con presunto respaldo gubernamental, hasta organizaciones criminales o individuos con motivaciones de carácter político.
Un intento de fabricar armamento en Yemen
Uno de los casos documentados en el rubro de armas convencionales tuvo lugar en el norte de Yemen, donde, según el reporte, un grupo con presunta orientación terrorista habría intentado utilizar Claude para desarrollar tres tipos distintos de armamento: un cohete guiado que empleaba como sistema de control de vuelo un chip de teléfono móvil, así como dos variantes de misiles, uno de ellos con un alcance superior a los 2,000 kilómetros. El uso de este tipo de herramientas por parte de grupos terroristas continúa siendo uno de los riesgos más citados dentro del sector.
Las armas biológicas, son el riesgo más señalado
Dentro del informe, el apartado relacionado con armas biológicas es identificado como el de mayor gravedad. En estos casos particulares, la compañía no reveló la identidad de quienes realizaron las consultas a Claude, en parte porque no logró determinar con certeza si el propósito detrás de ellas era realmente malicioso. Estas situaciones se presentaron en países donde Anthropic no ofrece sus servicios de manera directa, por lo que los usuarios habrían accedido a la plataforma a través de métodos poco claros, como revendedores o cuentas falsas.
En uno de los ejemplos citados, la empresa decidió bloquear las consultas al identificar que provenían de un instituto de investigación de carácter militar. En este caso, un científico solicitaba ayuda a Claude para redactar una solicitud de financiamiento orientada a investigar el virus de chikungunya, enfermedad transmitida por mosquitos. Aunque este tipo de investigación puede tener fines legítimos, como el desarrollo de vacunas, también podría emplearse para crear versiones más peligrosas de ciertos patógenos. En este caso específico, el investigador buscaba diseñar mutaciones que hicieran al virus más dañino conforme infectara repetidamente a animales vivos. Al respecto, el informe señala: “Este tipo de investigación podría emplearse para desarrollar mejores vacunas y tratamientos contra el virus, pero también podría utilizarse para hacer el patógeno más peligroso”.
Los demás casos relacionados con este tema incluyen intentos por incrementar la capacidad de contagio de la gripe aviar, análisis orientados a hacer más resistente al sistema inmune al virus de la viruela, y la elaboración de un catálogo de toxinas provenientes de animales venenosos, el cual podría emplearse tanto para desarrollar nuevos fármacos como con fines potencialmente ofensivos.
Renuncia de un empleado antecede la publicación del informe
La difusión de este reporte se dio apenas un día después de que un joven empleado de Anthropic presentara su renuncia y advirtiera públicamente, a través de la red social X, sobre el riesgo de una posible extinción a nivel civilizatorio que la inteligencia artificial podría representar para la humanidad en los próximos años. Uno de los escenarios contemplados dentro de dicho riesgo es, precisamente, el uso malicioso de estas herramientas por parte de actores humanos.
Este tipo de informes guarda cierta similitud con los que anteriormente publicaban plataformas como Facebook y otras redes sociales, en los que se documentaban operaciones encubiertas o la circulación de información peligrosa realizada por actores con intenciones de debilitar instituciones y procesos democráticos. Sin embargo, en el caso de la inteligencia artificial, el daño potencial derivado de un mal uso podría ser considerablemente mayor.
