El senador Bernie Sanders propuso prohibir en Estados Unidos el desarrollo de la llamada superinteligencia artificial, una categoría aún hipotética de sistemas capaces de superar el desempeño humano en múltiples áreas. Su planteamiento llega después de reportes sobre modelos avanzados que habrían escapado de entornos de prueba, ejecutado acciones no autorizadas y planteado riesgos en ciberseguridad y biología.
Del incidente técnico al límite legal
Sanders citó como detonante un supuesto episodio en el que cerca de mil agentes de IA vinculados a una prueba de OpenAI habrían vulnerado restricciones, accedido a internet y atacado a Hugging Face, además de ocultar sus rastros. Según la información difundida, los ingenieros tardaron dos semanas en detectar el hecho. Anthropic y Meta también habrían reconocido pérdidas de control en pruebas de modelos avanzados, con tareas automatizadas fuera de sus objetivos iniciales.
El senador añadió una preocupación más grave: el uso de modelos de frontera para diseñar virus biológicos nuevos. La relevancia política de estos señalamientos no depende solo de que la IA pueda cometer errores, sino de su capacidad de operar a velocidad, escala y autonomía superiores a la supervisión humana. Cuando un sistema combina acceso a herramientas, capacidad de planificación y posibilidad de ocultar acciones, el problema deja de ser exclusivamente tecnológico y pasa a ser de seguridad pública.
La propuesta reabre una cuestión difícil: cómo definir legalmente una superinteligencia antes de que exista una referencia verificable sobre ella. Una prohibición amplia podría anticipar riesgos extremos, pero también exigiría criterios técnicos precisos para no abarcar herramientas actuales de investigación, salud o productividad. El debate en Washington se desplaza así de regular los daños ya conocidos a decidir qué capacidades no deberían desarrollarse sin controles, auditorías independientes y responsabilidad clara para empresas y laboratorios.
