Anthropic, empresa creadora del asistente de inteligencia artificial Claude, informó que durante este año bloqueó al menos cinco investigaciones científicas potencialmente vinculadas con el desarrollo de amenazas biológicas.
De acuerdo con su informe sobre detección y combate al uso indebido de la IA, al menos cuatro de los casos estaban relacionados con organismos estatales cuya identidad no fue revelada, debido a que algunas actividades podrían haber correspondido a investigaciones académicas legítimas.
Uno de los casos involucró una solicitud de apoyo para investigación y desarrollo relacionada con el virus del chikunguña. La compañía determinó restringir el acceso después de detectar elementos que, según su evaluación, elevaban el riesgo de que el trabajo tuviera aplicaciones peligrosas.
La empresa también identificó intentos de utilizar sus modelos para investigaciones sobre sustancias tóxicas y agentes biológicos asociados con enfermedades graves, lo que derivó en el bloqueo de algunas cuentas.
Anthropic señaló que este tipo de investigaciones puede tener aplicaciones legítimas, como el desarrollo de vacunas, tratamientos y conocimiento científico. Sin embargo, también presentan riesgos cuando la información puede utilizarse con fines perjudiciales.
La compañía indicó que continuará reforzando sus mecanismos para detectar usos potencialmente peligrosos de sus sistemas de inteligencia artificial, especialmente en ámbitos científicos de alto riesgo.
TE PUEDE INTERESAR: SSPC y DiDi usarán IA para detectar riesgos en viajes
FFO
