Anthropic hat fünf Fälle blockiert, in denen über das KI-Modell Claude potenzielle Biowaffenforschung unterstützt werden sollte. Dabei wurden keine direkten wissenschaftlichen Hilfestellungen angefragt, sondern organisatorische Unterstützung wie die Erstellung von Papieren.
Die blockierten Versuche stammten von Forschenden aus eingeschränkten Regionen, die heimlich auf Anthropics in den USA entwickeltes KI-System zugriffen. Die Modelle sind explizit darauf ausgelegt, bei der Entwicklung biologischer Waffen keine Hilfe zu leisten.