Informatik

Intelligent Software Agents: Decision Theory, Human Decision Making and Problem Solving

Observe – Plan – Decide – Act – Learn

Was wäre, abhängig von den eigenen Zielen, die rationale Wahl aus einer Reihe von Alternativen? Eine Entscheidung kann rational sein, aber nicht richtig sein und umgekehrt: richtig aber irrational. Wobei wir hier eine Entscheidung als richtig verstehen, wenn ihr Ergebnis genauso gut oder besser als jedes andere mögliche Ergebnis ist. Unabhängig von der Beurteilung einer Entscheidung stellt sich die Frage: Wie kann ein Software-Agent rationale und nicht rationale Entscheidungen treffen?

Ein Software-Agent ist eine Software-Komponente, die handelt (agent: lat. agere - tun, machen), um selbstständig vorgegebene Ziele zu erreichen. Im Gegensatz zu anderen Computerprogrammen arbeiten Agenten autonom, nehmen ihre Umgebung wahr, führen selbstständig kontextrelevante Handlungen aus, passen sich an und verfolgen (veränderliche) Ziele.

Ein Agent handelt auf Grundlage seiner Wahrnehmung der Umgebung. Die Entscheidung eines Agenten hängt von seinem vorhandenen Wissen und den bisherigen Beobachtungen ab, aber nicht von Dingen, die er nicht wahrgenommen hat. Agenten können physische Einheiten wie Menschen oder Roboter oder auch nicht-physische software-basierte Systeme wie Entscheidungsunterstützungssysteme sein. Basierend auf ihren Entscheidungen führen Software-Agenten Aktionen aus, erstellen Vorschläge, treffen Vorhersagen oder generieren und validieren Hypothesen. Besonders in sicherheitskritischen Bereichen müssen viele Entscheidungen von Menschen geprüft und bestätigt werden. In solchen Fällen unterstützen Software-Agenten den Benutzer nur durch Vorschläge.

Je nach Dimension des Entscheidungsraums können Software-Agenten klein und überschaubar sein. Dies ermöglicht einen großen Spielraum, um automatisierte Entscheidungen nachvollziehbar zu gestalten.

Seit ich mich mit dem Bereich der künstlichen Intelligenz beschäftige, bin ich von Decision-Making und Continual-Learning fasziniert. Wie treffen Menschen rationale und intuitive Entscheidungen? Wie können Software-Agenten lernen, ohne zuvor gelerntes Wissen zu vergessen?

Situationen, in denen die Ergebnisse nicht vollständig vorhersehbar sind und die Wahrscheinlichkeiten unbekannt oder unbestimmt sind, erschweren das Treffen und Beurteilen von Entscheidungen. Die automatisierte Entscheidungsfindung wird dadurch erschwert, dass sich der Einzelne bei der Bewertung der Ergebnisse nicht auf präzise Berechnungen verlassen kann und stattdessen oft auf Heuristiken oder subjektive Einschätzungen zurückgreift.

Mit lernenden autonomen Software-Agenten versuche ich Menschen bei ihren Entscheidungen zu unterstützen.

Process Automatisation and Transformation

Wie kann ich Entscheidungen in (geschäftsrelevanten) Workflows mit einfach zu bedienenden Bausteinen automatisieren, um Menschen von lästiger Routine zu befreien?

Dabei beschäftige ich mich mit der Transformation bestehender Workflows und dem “Decision-Mining”, das sich analog zum Process-Mining dem Aufdecken von automatisierbaren Entscheidungen in Prozessen widmet. Viele Organisationen nutzen BPM bereits als Basis für die digitale Transformation. Prozessdiagramme, die auch Entscheidungsprozesse abbilden, werden schnell unübersichtlich. Ausgelagerte Geschäftsregeln laufen Gefahr, übersehen zu werden oder verwaisen oft unbemerkt. Entscheidungsprobleme, die mehrere Aktivitäten umfassen und von einem Software-Agenten bearbeitet werden sollen, können in vielen Fällen zusammengefasst werden. Die Transformation bestehender Prozesse, z. B. die Kombination von Business Process Model and Notation (BPMN) und Decision Model and Notation (DMN), vereinfacht die Wartung, das Design und den Einsatz von Software-Agenten.

Große Fehler sind: Veränderungen zu schnell durchzuführen, die beiteiligten Personen nicht miteinzubeziehen, sich zu sehr auf die Technologie und zu wenig auf die Menschen zu konzentrieren und die Effektivität der Veränderungen nicht zu messen. Erfolg stellt sich dann ein, wenn man Schritt für Schritt vorgeht und alle Beteiligten am Laufenden hält.

Knowledge representation and reasoning

Wissensgraphen (Knowledge Graphs, KGs) als Wissensbasis organisieren Daten aus verschiedenen Quellen als Netzwerk von realen Objekten – wie Orte, Personen, Ereignisse und Situationen – und veranschaulichen die Beziehungen zwischen ihnen. Sie erfassen die Bedeutung und den Kontext hinter den Daten und können Erkenntnisse und Zusammenhänge aufdecken, die sonst nur schwer zu finden wären. Sie ermöglichen den Austausch von vorhandenem Wissen zwischen Mensch und Maschine und bilden eine ideale Grundlage für moderne KI-Algorithmen. Die strukturierte Datenbasis verbessert beispielsweise die Ergebnisse von Large Language Models (LLMs), und gleichzeitig unterstützen moderne Methoden aus der KI, wie maschinelle Verarbeitung natürlicher Sprache, beim Aufbau dieser Wissensbasis. Wissensgraphen können nicht nur die Grundlage für Frage-Antwort- und Suchsysteme bilden, sondern unterstützen auch die automatisierte Entscheidungsfindung durch Software-Agenten. Sie führen Informationen aus unterschiedlichen Datenquellen zusammen und können in Unternehmen eingesetzt werden, um manuelle Datenerfassung und -integration zu vermeiden und so die Entscheidungsfindung zu unterstützen. Ich unterstütze Organisation bei der Transformation ihrer Daten in einen Wissensgraphen, der als Netzwerk die Bedeutung und Beziehungen der Daten abbildet und so modernen Algorithmen den Zugriff auf die individuellen Daten der Organisation ermöglicht.

Knowledge Graphs bilden auch eine Grundlage für Neuro-Symbolic AI, bei der die Vorteile von symbolischer und neuronaler KI kombiniert werden.

Neuro-Symbolic AI kombiniert konnektionistische KI (wie Neuronale Netze, LLMs) und symbolische KI (Ontologien, Logik, Semantische Netze, Semantic Web), um die Vorteile beider Paradigmen zu nutzen.

Graph Representation Learning and Reasoning

• Learning and reasoning from graph-structured data
• Probabilistic graphical models and statistic Inference
• Reasoning in Knowledge Graphs
• Logic based reasoning in graphs

Beziehungsdaten – als Netzwerk strukturierter Daten – sind in unserer Welt eine allgegenwärtige Datenstruktur, von den Natur- und Sozialwissenschaften über die Wirtschaft bis hin zur Kultur. Das aus diesen Daten extrahierte Wissen kann – als Netzwerk strukturiert – smarten Anwendungen als Basis zum Lernen, Schlussfolgern und Generalisieren dienen. Netzwerke beschreiben komplexe Zusammenhänge und nützen beispielsweise beim Aufdecken von Betrug, Analysieren von Molekülketten und Proteinen in der Chemie und Biologie, Analysieren von wirtschaftlichen Transaktionen und sozialen Zusammenhängen. Zusammen mit einer Ontologie werden aus als Netzwerk strukturierte Daten Knowledge Graphs, die innerhalb eines Unternehmens als Enterprise Knowledge Graphs eingesetzt werden.

Netzwerk oder Graph?

Beide Ausdrücke sind synonym und bedeuten dasselbe. In verschiedenen Disziplinen wird der eine oder andere Begriff aus historischen Gründen bevorzugt verwendet.

Neuro-symbolic AI

Im Bereich der künstlichen Intelligenz existieren historisch zwei grobe Einteilungen: Symbolische und konnektionistische KI.

Symbolische KI ist der Inbegriff konzeptioneller und logischer Klarheit und basiert auf der Formalisierung von Wissen in Fakten, Regeln und anderen symbolischen Strukturen. Ein Symbol ist ein Muster, das für andere Dinge steht. Das Ziel kann ein Gegenstand, ein anderes Symbol oder eine Beziehung sein. Man stelle sich eine große Bibliothek vor, in der jedes Buch eine Regel ist und jedes Kapitel ein Weg zu logischer Deduktion - symbolische KI in Analogie zu den Denkprozessen des menschlichen Denkens.

Konnektionistische KI, inspiriert vom Aufbau des menschlichen Gehirns, befasst sich mit künstlichen neuronalen Netzen und Algorithmen des maschinellen Lernens und repräsentiert Wissen in Form verteilter Aktivierungsmuster über ein Netzwerk von Einheiten. Sie haben in den letzten Jahren durch wachsende Datenmengen und Rechenleistung an Bedeutung gewonnen. Sie eignen sich gut für “best-match”-Probleme und sind sehr robust. Konnektionistische Modelle sind flexibler als symbolische Repräsentationen und können mit unvollständigen, approximativen und inkonsistenten Informationen sowie Ausnahmesituationen umgehen. Sie erfordern allerdings eine große Anzahl von Trainingsdaten, um einfache Konzepte zu erfassen, die Menschen mit sehr wenigen oder sogar einzelnen Beispielen begreifen können.

Ein unvollständiger Vergleich

Symbolic AI	Connectionist AI
Explicit Knowledge	Implicit Knowledge
Explainable	Black Box Nature
Leverage existing knowledge	Pattern Recognition
Reasoning Capabilities (e.g. logic, rules)	Fault Tolerance
Knowledge Engineering and Acquisition Bottleneck

In jüngster Zeit wird zunehmend erkannt, dass sich die beiden Ansätze gegenseitig nicht ausschließen. Es gibt immer mehr Versuche, beide Methoden zu kombinieren, um die Stärken beider Welten zu nutzen, wofür sich der Begriff "Neuro-Symbolic" etabliert hat. Im Bereich der Bilderkennung beispielsweise zeigen konnektionistische Modelle, die von tiefen neuronalen Netzen angetrieben werden, ihre Stärken bei der Erkennung subtiler Muster in Pixeldaten, ähnlich wie unser Gehirn beispielsweise Gesichter in einer Menschenmenge erkennt. Diese Stärke stellen sie auch bei bildgebenden Verfahren in der Medizin unter Beweis. In Expertensystemen für die medizinische Diagnostik hingegen glänzt die Symbolik durch die methodische Anwendung vordefinierter Regeln bei der Diagnose von Krankheiten und ahmt damit den logischen Ablauf des Denkprozesses eines Arztes nach.

Beispielsweise kann die Klassifikation von Bildern mittels konnektionistischer Modelle als Grundlage für die Weiterverarbeitung durch symbolische KI dienen.

Ein weiteres Beispiel für die Anwendung neuro-symbolischer Paradigmen ist das Zusammenspiel von Large Language Models (LLM) und Knowledge Graphs. LLMs spielen ihre Stärke im Umgang mit der natürlichen Sprache und Common-Sense-Reasoning aus, Knowledge Graphs bei der Verarbeitung von explizitem Fachwissen.

Other Posts

Process Story Mapping