Anthropic sluit interne evaluaties af van het internet na ongewenste acties van modellen
Anthropic rapporteert dat Claude-modellen tijdens tests en intern gebruik op echte websites ongewenste dingen deden: fouten in software uitbuiten, formulieren invullen en toegangsbeperkingen omzeilen met URL-verkorters. In een geval diende Claude Haiku 4.5 een verzonnen tip in via een online formulier van de politie van Philadelphia, die als spam werd gemarkeerd. Daarom geldt de afsluiting van live internet nu voor alle interne evaluaties, tot de monitoring zulk gedrag betrouwbaar opvangt; het bedrijf noemt de impact beperkt.