Subjektive Wahrscheinlichkeit einer KI-Katastrophe
Definition
p(doom) bezeichnet die subjektive Wahrscheinlichkeit, die jemand einem existenziell katastrophalen Ausgang durch KI für die Menschheit zuschreibt.
p(doom) ist eine subjektive Wahrscheinlichkeit dafür, dass künstliche Intelligenz existenziell katastrophale Folgen für die Menschheit hat. Was als „Doom“ gilt, variiert; meist sind Aussterben, dauerhafte Entmachtung der Menschheit oder ein Zusammenbruch der Zivilisation gemeint. Eine standardisierte Berechnungsmethode gibt es nicht.
Einfach erklärt
Wie eine persönliche Wettquote: Sie zeigt eine Einschätzung, ist aber keine Messung.
Warum das im Alltag wichtig ist
Hilft, öffentliche Debatten über KI-Risiken einzuordnen: Forschende, politische Entscheidungsträger und Branchenvertreter nutzen den Ausdruck, um ihre Einschätzung existenzieller KI-Risiken auszudrücken, auch wenn es keine standardisierte Methode gibt. Für konkrete Unternehmensprojekte ersetzt die Zahl keine eigene Risikobewertung.
Beispiel aus dem Mittelstand
Mögliches Beispiel (hypothetisch): In einer Schulung zur KI-Strategie erklärt ein Team, warum öffentlich genannte p(doom)-Werte Einschätzungen sind und keine Projektrisiken beschreiben.
Grenzen und Fallstricke
- Persönliche Schätzungen als Messwerte behandeln; Werte mit unterschiedlicher Definition von „Doom“ vergleichen; nicht klären, welche Annahmen (z. B. zu Entwicklungszeiträumen, Ausrichtungsschwierigkeit oder Governance) hinter einem Wert stehen; existenzielle Risiken mit Projektrisiken vermischen.
Entstehung & Geschichte
p(doom) wurde 2025 als Ausdruck subjektiver Einschätzungen existenzieller KI-Risiken beschrieben. Eine verwandte Befragung von 2.778 KI-Forschenden fand 2023 statt und wurde 2024 veröffentlicht; sie verwendete den Ausdruck selbst nicht.
Anwendung im Mittelstand
- Mögliche Anwendungen: Einordnung von Medienberichten in KI-Schulungen, Diskussion von KI-Sicherheit in Strategie-Workshops, Abgrenzung zum operativen KI-Risikomanagement.
Häufige Fragen
Ist p(doom) ein objektiver Messwert?
Nein, eine standardisierte Berechnung fehlt; der Wert drückt persönliche Annahmen aus.
Beschreibt er das Risiko eines Firmen-Chatbots?
Nein, er bezieht sich auf existenzielle Folgen für die Menschheit.
Was zeigt die Befragung von Grace und anderen?
Je nach Frage schätzten 37,8–51,4 Prozent das Risiko aussterbensähnlicher Folgen auf mindestens zehn Prozent. Die Autoren betonen, dass Expertenprognosen keine objektive Wahrheit garantieren.
Quellen
- The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats · Grey & Segerie (2025): The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats
- Thousands of AI Authors on the Future of AI · Grace et al. (2025): Thousands of AI Authors on the Future of AI
Quellen geprüft am 14.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: