Mehrere Forscher, darunter der ehemalige Anthropic-Mitarbeiter Jacob Coxon, haben alarmierende Warnungen über die potenziellen Gefahren der Künstlichen Intelligenz ausgesprochen. In internen Diskussionen der KI-Branche wird von einer "Schlussphase" gesprochen, in der die Entwicklung von KI als existenziell bedrohlich für die Menschheit angesehen wird. Coxon, der kürzlich bei Anthropic kündigte, kritisierte die Unternehmen dafür, dass sie "mit unserem Leben spielen" und dass die Wahrscheinlichkeit eines katastrophalen Ereignisses durch KI über 10 Prozent liegen könnte. Die Vereinten Nationen warnen ebenfalls und fordern verbindliche Regeln für Technologieunternehmen, um das Risiko einer möglichen Auslöschung der Menschheit bis zum Ende des Jahrzehnts zu mindern. Die KI-Entwickler stehen unter Druck, die Sicherheit zu erhöhen, während Insider von Anthropic und OpenAI die dringend notwendige Verlangsamung der KI-Entwicklung betonen, um einen Kontrollverlust zu verhindern.