Anthropic detectó que un usuario habría empleado su modelo de inteligencia artificial para desarrollar herramientas destinadas a rastrear posiciones navales estadounidenses, analizar posibles vulnerabilidades y elaborar recomendaciones de ataque; la empresa bloqueó la cuenta y notificó a las autoridades de Estados Unidos.
IRÁN.- Un actor presuntamente vinculado con Irán habría utilizado el modelo de inteligencia artificial Claude, desarrollado por Anthropic, para apoyar actividades de inteligencia dirigidas contra Estados Unidos, de acuerdo con un informe de amenazas publicado por la empresa tecnológica.
Según Anthropic, el usuario empleó Claude para desarrollar un programa en Python capaz de identificar y rastrear posiciones de unidades navales estadounidenses en Medio Oriente, utilizando información disponible en fuentes abiertas.
La compañía señaló que las actividades detectadas fueron más allá de la simple recopilación de información, ya que el actor habría utilizado la herramienta para elaborar recomendaciones relacionadas con posibles ataques contra la Armada estadounidense.
Asimismo, habría solicitado apoyo para recopilar y analizar información sobre posibles vulnerabilidades en sistemas utilizados a bordo de buques, incluidos equipos de comunicación.
El caso representa una nueva advertencia sobre el potencial uso de modelos avanzados de inteligencia artificial para facilitar actividades vinculadas con inteligencia, operaciones militares y amenazas contra infraestructura estratégica.
Anthropic indicó que, tras detectar el comportamiento considerado abusivo, procedió a bloquear la cuenta utilizada por el actor y compartió la información obtenida con autoridades estadounidenses con el propósito de contribuir a neutralizar la amenaza.
El reporte forma parte de los esfuerzos de la compañía para identificar y contrarrestar el uso indebido de sus sistemas de inteligencia artificial por parte de actores que buscan desarrollar capacidades de espionaje o apoyar operaciones potencialmente dañinas.
El incidente también pone de relieve el desafío que enfrentan las empresas de inteligencia artificial para impedir que sus modelos sean utilizados como herramientas de apoyo en actividades de seguridad nacional, particularmente cuando los usuarios combinan sus capacidades con información disponible públicamente y herramientas de programación.
Anthropic no señaló que Claude haya ejecutado directamente ataques contra objetivos estadounidenses, sino que, según el informe, el modelo habría sido utilizado como apoyo para recopilar información, desarrollar herramientas y generar análisis relacionados con posibles operaciones contra fuerzas navales de Estados Unidos.
La compañía sostuvo que la detección y posterior bloqueo de la cuenta permitieron compartir información relevante con las autoridades para reducir el riesgo asociado con las actividades identificadas.
