Coding - Ontologies keep agents honest

Was ist eine Ontologie

Habe mir Ontologie von Claude Sonnet 4.6 erklären lassen unter Verwendung der Quelle Wikipedia: Ontologie (Informatik):

Eine Ontologie in der Informatik ist wie eine Landkarte für Wissen. Sie zeigt, welche Begriffe es in einem Bereich gibt und wie sie zusammenhängen. Es geht also nicht nur darum, Daten abzulegen, sondern auch darum, klarzumachen, was diese Daten eigentlich bedeuten.

Stell dir eine Schule vor. In einer Ontologie kann man festlegen:

• es gibt Schülerinnen und Schüler, Lehrpersonen, Unterrichtsfächer und Klassen
• eine Schülerin oder ein Schüler besucht eine Klasse
• eine Lehrperson unterrichtet ein Unterrichtsfach
• ein Unterrichtsfach gehört zu einem Stundenplan

So ist sauber beschrieben, wie alles zusammengehört.

Der Unterschied zu einer normalen Datenbank ist wichtig: Eine Datenbank speichert einfach Informationen, zum Beispiel Namen, Noten oder Geburtsdaten. Eine Ontologie ergänzt dazu die Bedeutung und die Beziehungen zwischen den Dingen. Dadurch können Programme Zusammenhänge leichter erkennen und manchmal auch logische Schlüsse ziehen.

Ein einfaches Beispiel:

• Bern ist eine Stadt
• Städte liegen in Kantonen
• Bern liegt im Kanton Bern
• Kantone liegen in der Schweiz

Dann kann man daraus schliessen, dass Bern ein Ort in der Schweiz ist. So ein Schluss heisst Inferenz.

Ontologien sind nützlich, wenn verschiedene Programme (oder auch verschiedene Teams) mit denselben Begriffen arbeiten und alle sicher sein wollen, dass sie dasselbe meinen. Man findet sie zum Beispiel in der Informatik, in der Medizin oder dort, wo viele Daten aus unterschiedlichen Quellen zusammenpassen müssen.

Kurz gesagt: Eine Ontologie ist ein geordnetes Wissensmodell. Sie zeigt nicht nur, welche Daten es gibt, sondern auch, was sie bedeuten und wie sie zusammenhängen.

Frank Coyle

Frank Coyle (drC) | Empower Your AI Journey — Get Started Today

Explore Dr. C’s insights on neuroscience, AI, and career adaptation. Learn to work with AI tools and embrace technological change effectively and confidently.

Frank Coyle (drC)

'Nothing is a MISTAKE. There is no WIN. There is no LOSE. Only MAKE!'

Der KI-Professor Frank Coyle zitiert auf seiner Website Cage, weil dessen Philosophie weit über die Musik hinausreicht. Besonders Cages Lebenseinstellung - Fehler nicht als Scheitern zu sehen, sondern als Prozess des Ausprobierens („Nothing is a mistake. There is no win and no fail, only MAKE!“) – nutzt Coyle als Metapher für das Lernen und Experimentieren mit Künstlicher Intelligenz.

Blog

Blog 1 | Share Your Story Now — Frank Coyle (drC)

Explore blog insights on AI, Consciousness, the Brain and the state of Generative AI today

Frank Coyle (drC)Frank Coyle

Video

Beschreibung

Hoffentlich verständlicher als das Original; umformuliert mit Claude Sonnet:

Ein probabilistischer Agent (also ein System, das oft ‘abschätzt’, was gemeint ist) kann Fehler machen wie: Eine Bestellung wird ‘zweimal erstattet’, eine Auszahlung geht ‘an den Support statt an die Kundin’, oder ein Bestellstatus wird als ‘wahrscheinlich versendet’ gespeichert, obwohl nur klare Status erlaubt sein sollten. Solche Fehler lassen sich mit einem Absatz ‘Bitte mach das nicht’ in den Anweisungen nicht zuverlässig verhindern.

Frank Coyle sagt: Viele dieser Agentenfehler passieren, weil eine wichtige Schicht fehlt, nämlich eine formale Ontologie. Das ist ein klar definiertes Regel- und Begriffsmodell, das ausserhalb des Sprachmodells liegt und wie Leitplanken funktioniert. Der Punkt ist: Sprachmodelle ‘denken’ in vielen Situationen wahrscheinlichkeitsbasiert über Bereiche nach, die sie nur teilweise verstehen, und selbst sehr gutes Prompt-Engineering kann diese Lücke nicht komplett schliessen.

Seine Idee ist neurosymbolisch: Innen darf das Modell flexibel und probabilistisch überlegen, aber aussen kontrolliert harte Logik, was wirklich erlaubt ist. Eine Ontologie besteht dabei aus sauber definierten Objekttypen (z.B. Bestellung, Kunde, Support-Mitarbeiter), Beziehungen (z.B. Kunde hat Bestellung) und Regeln/Einschränkungen (z.B. eine Bestellung darf nur einmal erstattet werden). Das kann man mit Standards wie RDFS und OWL ausdrücken. Damit kann man zum Beispiel festlegen: Ein Zahlungsstatus darf nur einer von drei Werten sein, Kunde und Support sind verschiedene Rollen, und pro Bestellung gibt es maximal eine Rückerstattung.

Praktisch heisst das: Man baut um den Tool-Loop (z.B. wenn Claude Tools aufruft) einen Validator. Wenn das Modell einen Tool-Aufruf vorschlägt, prüft man zuerst die Eingaben auf korrekte Typen (z.B. mit Pydantic) und danach die Resultate und Regeln gegen die Ontologie. Erst wenn alles passt, wird die Aktion wirklich ausgeführt. Dinge, die man sonst mühsam in natürlicher Sprache erklären müsste, werden so zu ein paar klaren, überprüfbaren Logikregeln.

RDFS: Resource Description Framework Schema.
OWL: Web Ontology Language.

Referat

Die Zusammenfassung wurde mithilfe von KI‑Tools erstellt. Web Clipper → Obsidian → Copilot, unter lokaler Verwendung von qwen3.6-35b-a3b-mlx auf einem Mac Studio.
YouTube hat kürzlich die Codierung geändert, der bisherige Code für das Transkript funktioniert nicht mehr. Diesen habe ich nun angepasst. Siehe hier:

Transkript

Einführung und die Philosophie eines Pädagogen

• Frank Coyle ist Pädagoge und Informatiklehrer mit rund 30 bis 35 Jahren Berufserfahrung.
• Ein Informatikabschluss garantiert heute nicht mehr automatisch einen Job; gleichzeitig gelten KI-Agenten für viele als wichtiger Zukunftstrend.
• Seine pädagogische Grundidee fasst er sinngemäss so zusammen: Es gibt keinen Sieg und keinen Fehler, nur das Erschaffen.
• Am besten lernt man, indem man praktisch arbeitet und konkrete Dinge baut.
• Handschriftliches Schreiben und Zeichnen fördern die Verarbeitung im Gehirn oft stärker als Tippen, weil dabei mehr Sinnes- und Bewegungsabläufe beteiligt sind.

Zwei Ansätze: Agenten und Ontologien

• Der Begriff ‘Agent’ stammt aus den frühen Tagen der KI und beschreibt Systeme, die wahrnehmen, entscheiden und handeln.
• Ontologien haben philosophische Wurzeln (oft bis Aristoteles zurückgeführt) und wurden später in der Informatik unter anderem durch Quine und Gruber geprägt und formalisiert.
• Eine Ontologie ist eine ‘formale Spezifikation einer gemeinsamen Konzeptualisierung’.
• Ziel ist, Agenten ein gemeinsames Begriffs- und Beziehungsmodell einer Domäne (also eines Themenbereichs) zu geben.

Neurosymbolische KI: Leitplanken für ein probabilistisches Modell

• Neurosymbolische KI kombiniert probabilistische neuronale Modelle (z.B. LLMs) mit symbolischen Systemen (z.B. Ontologien oder Wissensgraphen).
• Dieser Ansatz soll als Kontrollschicht dienen, damit ein LLM bei Entscheidungen und Tool-Aufrufen in sicheren Bahnen bleibt.
• ‘Halluzinationen’ sind bei LLMs kein reines Versehen, sondern eine Folge davon, dass sie auf Wahrscheinlichkeiten basieren und Inhalte generieren.
• Ontologien beschreiben Entitäten, Eigenschaften und Beziehungen und können so helfen, über die oft starren Strukturen klassischer relationaler Datenbanken hinauszugehen.

Was eine Ontologie eigentlich ist

• Graphdatenbanken erlauben es, Entitäten, Eigenschaften und Beziehungen flexibel zu ergänzen, ohne die komplette Struktur jedes Mal umbauen zu müssen.
• Relationale Datenbanken brauchen bei neuen Anforderungen hingegen oft Schemaanpassungen (z.B. neue Tabellen, Spalten oder Beziehungen).
• Ontologien bieten eine formale, aber trotzdem flexible Möglichkeit, Organisationswissen einheitlich abzubilden.

Der Aufbau einer Ontologie und das Zeitalter der Expertensysteme

• Ontologien kann man top-down (durch Analyse der Domäne durch Expertinnen und Experten) oder bottom-up (durch schrittweises Ergänzen aus vorhandenen Daten) entwickeln.
• Der top-down-Ansatz erinnert an die Expertensysteme der 1980er Jahre, die unter anderem wegen hoher Pflegekosten und begrenzter Skalierbarkeit an Bedeutung verloren.
• Der spätere Erfolg neuronaler Netze wurde stark durch GPUs und generell skalierbare Hardware begünstigt.
• Beim bottom-up-Ansatz werden vorhandene Daten nach und nach in einen Wissensgraphen überführt und dabei strukturiert.

Wiederverwendung bestehender Taxonomien

• Es lohnt sich, bestehende Taxonomien und Ontologien wiederzuverwenden, um Doppelarbeit zu vermeiden.
• Beispiele sind schema.org für allgemeine Begriffe, FOAF für soziale Netzwerke und Dublin Core für Metadaten wissenschaftlicher Publikationen.
• Wikipedia wird häufig im Zusammenhang mit DBpedia genannt, einem grossen, aus Wikipedia-Daten abgeleiteten Wissensgraphen.
• Wer etablierte Standards nutzt, kann neue Systeme leichter an bestehende Infrastrukturen anschliessen.

RDFS und OWL: Inferenz und Einschränkungen

• RDFS und OWL sind ergänzende Standards, die man über einen Graphen legt, um Schlussfolgerungen (Inferenz) und Regeln (Constraints) auszudrücken.
• Begriffe wie ‘Domain’ und ‘Range’ in RDFS ermöglichen automatische Ableitungen (z.B. wenn Bob etwas unterrichtet, kann daraus folgen, dass Bob eine Lehrperson ist).
• OWL unterstützt unter anderem transitive Eigenschaften (z.B. ‘ist Vorfahr von’) und funktionale Eigenschaften (z.B. ‘hat Vater’ höchstens einmal).
• Solche Regeln wirken wie Leitplanken und können zusätzlich neues, abgeleitetes Wissen im Graphen sichtbar machen.

Agenten, Schleifen und wie sie fehlschlagen

• Moderne KI-Agenten arbeiten oft in Schleifen, um komplexe Aufgaben in mehreren Schritten abzuarbeiten und dabei Tools wiederholt zu nutzen.
• Schleifen sind nützlich, aber riskant: Sie können in Endlosschleifen geraten, vom Ziel abweichen oder durch hohen Token-Verbrauch unnötige Kosten verursachen.
• Dieses ‘Looping’ erinnert in Teilen an Vorgehensweisen aus der symbolischen KI und den früheren Expertensystemen.
• Ein praktisches Beispiel mit einem Claude-Agenten zeigt typischerweise eine Python-Schleife, die Tool-Aufrufe koordiniert.

Ein Claude-Tool verwendet eine Schleife mit einem Ontologie-Validator

• Ein LLM führt nicht selbst Aktionen aus, sondern erzeugt Text (vereinfacht: es berechnet wahrscheinliche Fortsetzungen).
• Durch Tools kann ein LLM strukturierte Parameter vorschlagen, während die eigentliche Ausführung in externen Systemen passiert.
• Ein Ontologie-Validator kann Resultate der Tool-Ausführung prüfen, um die Plausibilität und Regelkonformität sicherzustellen.
• Wenn Resultate unzuverlässig sind, kann man den Schritt ans LLM zurückgeben, zusätzliche Prüfungen machen oder einen Menschen einbeziehen.
• Pydantic wird oft genutzt, um Eingaben und Parametertypen vor der Verarbeitung zu validieren.

Pydantic am Eingang, Ontologie im Hauptbuch

• Pydantic bringt Typprüfungen und Validierung in Python und macht Eingabedaten robuster.
• Die Ontologie dient danach als Kontrollinstanz für Logik, Bedeutungen und Regeln über die Daten.
• KI-Agenten sollten möglichst wenige Seiteneffekte haben (oder sie streng kontrollieren), damit das System stabil und nachvollziehbar bleibt.
• Bevor Daten endgültig in eine Datenbank geschrieben werden, sollten sie zuerst gegen die Ontologie-Regeln geprüft werden.

Die Fehler, die eine Ontologie erkennt, die Text allein schwer abfängt

• Ontologien können logische Fehler erkennen, die sich in reinem Text nur schwer zuverlässig absichern lassen.
• Typische Beispiele sind doppelte Rückerstattungen für dieselbe Bestellung oder Auszahlungen an die falsche Entität.
• Disjunkte Klassen in OWL trennen klar unterschiedliche Rollen, z.B. Kundschaft und Support-Mitarbeitende.
• Wertebereichs-Einschränkungen verhindern ungültige Status wie ‘wahrscheinlich versendet’, wenn nur definierte Statuswerte erlaubt sind.
• Ein ontologie-basierter Reasoner kann so als wirksame Leitplanke dienen, um LLMs bei Tool-Nutzung und Entscheidungen auf Kurs zu halten.