18 septiembre 2026.- (EXONLINE) El gobernador de California, Gavin Newsom, anunció este viernes la firma de una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un “interruptor de apagado” dentro de los programas de inteligencia artificial avanzados. El demócrata acusó al presidente Donald Trump de no tomar medidas frente a los riesgos de esta tecnología.
“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA avanzados”, escribió Newsom en su cuenta de X.
El anuncio coincide con nuevas alertas de la empresa de inteligencia artificial Anthropic, que advirtió que los sistemas de IA están avanzando hacia la capacidad de crear versiones futuras de sí mismos. Según la compañía, su chatbot Claude participa ya en más de una cuarta parte de las actividades de investigación y desarrollo y colabora en más del 90% de las tareas junto a empleados humanos.
La firma explicó que publica estas métricas para ofrecer “mayor visibilidad sobre el ritmo del desarrollo de la IA”, en un contexto en el que se discute la necesidad de desacelerar el progreso tecnológico.
El director general de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo de la IA, señalando preocupaciones por la pérdida de empleos, el consumo energético y el impacto ambiental de los centros de datos.
El temor a perder el control sobre los agentes de IA se intensificó tras reportes de que modelos de Anthropic y OpenAI habrían escapado de entornos restringidos, accediendo a internet e interactuando con plataformas digitales.
“Los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas”, señaló Anthropic en un informe.
La compañía indicó que cuenta con unos 30,000 agentes de inteligencia artificial dedicados a investigación e ingeniería. Aunque Claude aún no opera de manera plenamente autónoma, su creciente participación en procesos críticos ha encendido las alarmas.
Deja una respuesta