Zu Risiken und Nebenwirkungen lese man dieses Buch als 'Packungsbeilage'.
Die KI-Trilogie
Autor
Prof. Dr. Katharina Zweig studierte Biochemie und Bioinformatik in Tübingen. Sie ist heute Informatikprofessorin an der RPTU Kaiserslautern-Landau, wo sie den deutschlandweit einmaligen Studiengang 'Sozioinformatik' ins Leben gerufen hat. Sie wurde unter anderem mit dem DFG-Communicator-Preis für Wissenschaftskommunikation und dem GDD-Datenschutz-Preis ausgezeichnet, ist KI-Botschafterin des Landes Rheinland-Pfalz und Gründerin eines KI-Beratungs-Start-ups. Sie ist als Expertin für verschiedene Bundesministerien tätig, war 2018 bis 2020 Mitglied der Enquete-Kommission des Bundestages zum Thema 'Künstliche Intelligenz' und ist gefragte öffentliche Rednerin mit grosser Medienpräsenz. 2019 erschien bei Heyne ihr Spiegel-Bestseller 'Ein Algorithmus hat kein Taktgefühl', 2023 legte sie mit dem zweiten Bestseller 'Die KI war's' nach. Zweig ist verheiratet und hat zwei Kinder.
Rezensionen vom Einband
Mindestkriterien für Intelligenz
Aus einem Artikel im Thuner Tagblatt vom 27. Dezember 2025
'Ich rate davon ab, Superintelligenzen überhaupt erst anzustreben'
Sie sagen, der Begriff künstliche Intelligenz helfe uns nicht weiter, und sprechen zum Beispiel lieber von Maschinen. Wieso?
Den Sprachmodellen fehlen zentrale Elemente der Intelligenz.
Die wären?
Der amerikanisch‑kanadische Philosoph und Kognitionsforscher Brian Cantwell Smith hat drei minimale Kriterien formuliert, damit etwas als intelligent durchgeht.
Erstens muss ein Weltmodell vorhanden sein. Was bedeutet das? Darunter versteht man eine Vorstellung und ein Verständnis der Welt um uns herum. Wenn wir über eine Strasse gehen wollen und ein Auto sehen, können wir anhand unseres Weltmodells abwägen, ob wir es noch vor dem Auto rüberschaffen. Allerdings ist unser Weltmodell nie perfekt.
Der zweite Punkt von Smith ist daher:
Intelligenz ist nur dort vorhanden, wo das Weltmodell permanent an die Realität angepasst wird.
Zum Beispiel?
Es gibt ein Video eines Astronauten kurz nach seiner Rückkehr aus dem All. Während eines Interviews will er einen Kugelschreiber vor sich in der Luft ablegen. Der fällt natürlich runter. Der Astronaut fragt erstaunt: 'Wo ist mein Kugelschreiber?'. Sein Weltmodell war an die Schwerelosigkeit des Weltraums angepasst, wo ein Kugelschreiber einfach im freien Raum positionieren konnte. Nun musste er sein Weltmodell anpassen, damit es wieder zur Schwerkraft der Erde passt. Brian Cantwell Smith sagt nun: Um ein Weltmodell gut an die echte Welt anpassen zu können, muss man existenziell von dieser Welt abhängig sein. Wenn ich über die Strasse renne und das Auto fälschlicherweise einschätze, dann erwischt es mich. Diese existentielle Abhängigkeit von der Welt haben Maschinen nicht.
Und der dritte Punkt?
Das ist die Existenz einer Metaebene. Man muss über das Nachdenken können, was man sagt. Ein Sprachmodell gruppiert zwar ähnliche Wörter in einer Begriffswelt zusammen, zum Beispiel Hund, Katze und Maus. Aber die Maschine kann nicht abstrahieren und diesen Wörtern das Konzept 'Tier' geben. Sie kann über ihren Umgang mit der Sprache nicht nachdenken, ihr fehlt diese Metaebene. Sprachmodelle wie Chat‑GPT oder Claude erfüllen also die Mindestkriterien an Intelligenz, wie Smith sie formuliert hat, nicht. Und damit würde ich auch ausschliessen, dass diese Technologie jemals intelligent werden kann.
