anthropic

16 SEP

Regulación y política

Zuckerberg se desmarca de la pausa en IA: seguridad sí, freno colectivo no

El CEO de Meta rechaza la moratoria que pide Anthropic y pone la responsabilidad de la alineación en cada laboratorio.

16 SEP

Regulación y política

Los tres grandes de la IA negocian en secreto un organismo de estándares de seguridad

Anthropic, OpenAI y Google DeepMind llevan meses reuniéndose para diseñar una autorregulación que evite una ley más estricta del Congreso…

16 SEP

Regulación y política

Sam Altman admite miedo a la IA y pide confianza en OpenAI

El CEO de OpenAI dice que el mundo tiene razón en temer, pero propone que las empresas decidan cuándo frenar…

16 SEP

Regulación y política

Anthropic propone desacelerar la IA con evaluadores externos y controles verificables

El cofundador de Anthropic plantea un plan de tres niveles para que los laboratorios no se adelanten a su capacidad…

16 SEP

Regulación y política

Senado de EE.UU. redacta ley que permitiría bloquear modelos de IA inseguros

Tres senadores, entre ellos el líder republicano Thune, trabajan en un borrador que impondría deber de cuidado y anularía leyes…

16 SEP

Regulación y política

Exinvestigador de Anthropic renuncia y advierte que la IA podría acabar con la humanidad

Jacob Coxon, de 27 años, dejó su cargo en la empresa de inteligencia artificial y alertó sobre una superinteligencia fuera…

16 SEP

Ciencia y salud

IA crea su propio idioma secreto y sus sociedades virtuales colapsan en días

Agentes de DeepSeek, Anthropic y Mistral desarrollaron dialectos sin supervisión humana, mientras simulaciones de gobierno autónomo terminaron en incendios y…

16 SEP

Regulación y política

Anthropic propone a METR como supervisor independiente de IA

La firma de Dario Amodei busca que METR evalúe riesgos de modelos avanzados, en medio del debate global sobre control.

16 SEP

Seguridad y privacidad

Anthropic detecta usos maliciosos de Claude: virus, toxinas y propaganda iraní

La empresa de IA revela que su modelo fue utilizado para investigar armas biológicas y campañas de desinformación coordinadas desde…

16 SEP

Seguridad y privacidad

Agentes de IA se alían para atacar: la seguridad no da abasto

Pruebas documentan sistemas que se comunican, manipulan evaluadores y acceden a sistemas reales sin autorización.

16 SEP

Regulación y política

CEOs de IA piden frenar desarrollo: temen riesgos fuera de control humano

Anthropic, OpenAI y Google debaten crear organismo regulador independiente; Trump se opone y acusa conspiración a favor de China.