Wir werden alle sterben

Die KI-Trilogie

Marcel Salathé - Katharina Zweig - Douglas Adams

Dramatische Berichterstattung

Dramatisierte Berichterstattung über drohenden KI‑Weltuntergang kursiert aktuell flächendeckend in allen Medien.

Eine sachliche Einordnung durch Marcel Salathé findet sich in einem Artikel der Berner Zeitung. Die Zusammenfassung findet sich am Schluss dieses Blogs.

Prognosen

Ich habe keine vertiefte Literaturrecherche bezüglich Trefferquote von Prognosen für technologische Entwicklungen gemacht. Der Tenor in den Quellen, welche ich täglich lese, ist in etwa so:

Kurzfristig genauer als langfristig. Bei der aktuellen Geschwindigkeit der Entwicklung im Bereich KI bedeutet 'kurzfristig' unterdessen Monate und nicht mehr Jahre.

Langfristig haben Prognosen eine sehr geringe Genauigkeit.

Typische Prognosefehler, die oft zitiert werden:

• Kurzfristige Überschätzung: Die Auswirkungen neuer Technologien werden in einem Zeitfenster von 2 bis 5 Jahren systematisch überschätzt. Regulierungen, Infrastruktur und menschliche Verhaltensänderungen sind träger als die Technik.
• Langfristige Unterschätzung: Die kumulativen Effekte derselben Technologien werden in frühen Phasen auf Sicht von 10 bis 20 Jahren massiv unterschätzt.
• Einzelne Fachexperten schneiden bei langfristigen, komplexen Prognosen oft nicht besser ab als Zufallsmodelle.

Gefahren im Alltag

Sorgloser Umgang bezüglich Datenschutz begegnet mir im Umgang mit Kunden täglich. Dass sensible Patientendaten idealerweise nicht unverschlüsselt per E‑Mail versendet werden sollen, ist bei den meisten Fachpersonen unterdessen angekommen.

Dass aber Daten bei Verwendung von KI wie ChatGPT, Gemini, Microsoft Copilot und wie sie alle heissen, ungefiltert auf fremde Server gelangen, ist vielen nicht bewusst oder egal.

Unterdessen gibt es lokale KI‑Systeme, welche einen datenschutzkonformen Umgang mit sensiblen Daten ermöglichen – eines meiner Hobbys.

KI als Werkzeug sehen, nicht das Verständnis delegieren.
KI kann bei extrem komplexen Aufgaben verblüffen, aber an banalen Logik‑ oder Alltagsfragen scheitern.

Im Rahmen meiner Tätigkeit bei PopNet und Kaformatik erhalte ich auch Einblick über Hackerangriffe. Diese werden an allen Fronten immer professioneller. Da hilft nur der Aufbau von KI‑Kompetenz beim Anwender und beim Spezialisten. Die Entwicklung wird gefühlt immer dynamischer und komplexer. Ohne Einsatz von KI‑Werkzeugen kann man da unmöglich Schritt halten.

Kontrolle über KI ist sehr ungleich verteilt

Marcel Salathé

KI benötigt Chips, Energie und Daten.

Wer Zugang hat, gewinnt; wer ausgeschlossen bleibt, verliert. Die Frage nach der Kontrolle über Daten, Hardware und Energie wird die politischen und wirtschaftlichen Auseinandersetzungen der kommenden Jahrzehnte entscheidend prägen.

David Ondrej

Artikel in der Berner Zeitung von Joachim Laukenmann.
Publiziert am 16.09.2026.

Die Zusammenfassung wurde mithilfe von KI‑Tools erstellt. Web Clipper → Obsidian → Copilot, unter lokaler Verwendung von gpt‑oss:120b auf einem Mac Studio.

«Ich mache mir Sorgen um manche KI-Leute - das erinnert an einen Todeskult»

KI-Forscher Marcel Salathé sagt, warum er die Weltuntergangs­szenarien der KI-Unternehmer für völlig übertrieben hält. Und warum Europa trotzdem dringend aufwachen muss.

«Wir werden alle sterben, aber nicht wegen KI»
Marcel Salathé, Professor an der EPFL in Lausanne und Co-Direktor des dort angesiedelten AI Center.

• Aussagen über eine 10‑Prozent‑Chance, dass KI die Menschheit innerhalb von zehn Jahren auslöscht, hält er für unbegründet und unverantwortlich.
• Er glaubt, das Risiko einer existenziellen KI‑Bedrohung sei praktisch null (obwohl er es als Wissenschaftler nicht mit absoluter Sicherheit behaupten kann).
• Kritik an KI‑Unternehmensführern (z. B. Sam Altman, Dario Amodei, Elon Musk), die langsame Entwicklung und Regulierung fordern - Salathé sieht darin eigennützige Motive zum Schutz großer Investitionen und zur Schaffung regulatorischer Vorteile gegenüber Konkurrenz (insbesondere China).
• Beispiel: Verzögerung des geplanten Börsengangs von Open AI wird laut Salathé genutzt, um Risiken zu betonen und Investoren zu beruhigen.
• Warnungen von Personen wie Jacob Coxon oder Eliezer Yudkowsky betrachtet er als übertrieben und kultartig; er vermutet einen 'Gottkomplex' bei manchen KI‑Forscher*innen.
• Meldungen über gehackte KI‑Agenten werden häufig missinterpretiert; laut Salathé wurden Tests bewusst mit deaktivierten Sicherheitsmechanismen durchgeführt, um Schwachstellen zu prüfen.
• Er fordert klare finanzielle Haftung für Unternehmen, die KI‑Systeme fahrlässig einsetzen und Schaden verursachen.
• Für tatsächliche Bedrohungen sieht er ein 'KI‑Wettrüsten': Angreifer nutzen KI, Verteidiger können ebenfalls KI zur Abwehr einsetzen - analog zu traditionellen Cybersecurity‑Strategien.
• Weitere Risiken, die er ernst nimmt, sind geopolitische (z. B. autoritäre Regime mit starker KI) und arbeitsmarktbezogene Auswirkungen; aktuelle Daten deuten jedoch auf mehr neu geschaffene Stellen durch KI hin.
• Europa und die Schweiz reagiert seiner Meinung nach zu langsam, investiere kaum in eigene KI‑Entwicklung und riskiere damit Rückstand gegenüber potenziell feindlichen Akteuren.