El responsable de Anthropic PBC planteó que los gobiernos deberían tener la potestad de impedir la puesta en marcha de modelos de inteligencia artificial que representen peligros significativos. Según su visión, estos sistemas deben atravesar pruebas obligatorias realizadas por terceros independientes para evaluar riesgos en distintas áreas, entre ellas la seguridad cibernética y la potencial facilitación de armas biológicas.
En un extenso ensayo, el directivo afirmó que si se detectan “riesgos inaceptables”, los Estados deberían poder bloquear o desalentar la implementación de esos desarrollos. Esta postura representa uno de los llamados más explícitos hasta ahora a favor de una regulación más firme en el campo de la inteligencia artificial, justo cuando la tecnología avanza rápidamente y demuestra potenciales amenazas.
Además, la empresa Anthropic propuso un sistema colaborativo en el que tanto gobiernos como desarrolladores decidan cuándo es necesario frenar el ritmo de innovación para evitar consecuencias peligrosas. Esta iniciativa surge en un contexto de debate global sobre hasta dónde deben intervenir los Estados en el desarrollo tecnológico.
Un ejemplo reciente que ha puesto en alerta fue el anuncio del modelo Mythos, un programa de IA desarrollado por Anthropic con capacidad para identificar y explotar vulnerabilidades en software crítico, funcionando así como una herramienta con riesgos evidentes para la ciberseguridad. Debido a esto, la empresa restringió su acceso a un grupo reducido de socios. Posteriormente, lanzó una versión diferente sin estas capacidades sensibles.
La comparación con otras tecnologías reales que requieren regulaciones estrictas, como automóviles, aviones o medicamentos, sirvió para enfatizar la necesidad de un control riguroso. En ese sentido, Amodei destacó que la inteligencia artificial puede tener consecuencias letales si no se desarrolla o maneja adecuadamente.
En paralelo, la orden ejecutiva del gobierno estadounidense planteó una estrategia de «no intervención» más flexible, que proporciona acceso voluntario a ciertos modelos sin exigir aprobaciones previas, en contraste con la propuesta de Anthropic que busca un control más vinculante.