Kognitive Systeme Zielsetzungen, Ansätze, Anwendungen

Kognitive Systeme
Zielsetzungen, Ansätze, Anwendungen
Ute Schmid
Kognitive Systeme
Fakultät Wirtschaftsinformatik und Angewandte Informatik
Otto-Friedrich Universität Bamberg
GI Seminar Würzburg, 15.4.2015
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
1 / 46
Was ist ein kognitives System?
Ein System, das zu einem Bild ähnliche Bilder findet, in dem es
Farbhistogramme vergleicht?
Ein System, das eine begrenzte Menge von Objekten erkennen kann,
in dem es Methoden der Kantenerkennung und eine Modell-Bibliothek
nutzt?
Ein System, das aus der Kognitionspsychologie bekannte Prinzipien
der menschlichen Objekterkennung umsetzt?
Ein System, das bezogen auf eine mit Menschen durchgeführte
empirische Untersuchung ähnliche Parameterverläufe zeigt wie der
Mittelwert der Probanden?
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
2 / 46
Was ist ein kognitives System?
Ein System, das zu einem Bild ähnliche Bilder findet, in dem es
Farbhistogramme vergleicht? ,→ Information Retrieval
Ein System, das eine begrenzte Menge von Objekten erkennen kann,
in dem es Methoden der Kantenerkennung und eine Modell-Bibliothek
nutzt? ,→ Standard Künstliche Intelligenz
Ein System, das aus der Kognitionspsychologie bekannte Prinzipien
der menschlichen Objekterkennung umsetzt? ,→ Kognitives System
Ein System, das bezogen auf eine mit Menschen durchgeführte
empirische Untersuchung ähnliche Parameterverläufe zeigt wie der
Mittelwert der Probanden? ,→ Kognitives Modell
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
3 / 46
Im Folgenden
Gegenstandsbestimmung, Zielsetzung
Beispielhafte Anwendungen
Relevanz der Wissensebene/Lernen auf der Wissensebene
Igor – Erwerb von Handlungsregeln aus Erfahrung
Ein sehr textlastiger Vortrag
Mischung aus deutschen und englischen Folien
Versuch, das Feld allgemein zu charakterisieren, aber natürlich dennoch persönliche
Perspektive
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
4 / 46
Motivation für Kognitive Systeme
The problems we face are growing more complex, but we are not becoming
any smarter. Software can help, but often it becomes part of the problem
by adding new layers of complexity. We need to bring software closer to us,
improving conceptual bandwidth and having it adapt to us, rather than the
other way around.
(Forbus & Hinrichs, AIMag, 2006)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
5 / 46
Kompetenzen eines allgemein intelligenten Systemes
Human-Level AGI, AI Mag, Spring 2012
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
6 / 46
Grundstruktur eines Kognitiven Systems nach Newell
Newell, AI Mag, Summer 1981
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
7 / 46
Grundstruktur eines Kognitiven Systems
Umwelt
Wahrnehmung
Kognitive Verarbeitung
Gedächtnis
Handeln
(Problemlösen)
Lernen
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
8 / 46
Eigenschaften eines Kognitiven Systems
Ein kognitives System ist . . .
in die Umwelt eingebettet (über Sensorik und Aktorik)
ist fähig zur mentalen Verarbeitung von Information
verfügt über kognitive Funktionen wie
I
I
I
I
I
I
I
I
Wahrnehmung und Mustererkennung
Handlungssteuerung und Kontrolle
Wissensrepräsentation und Schlussfolgern
Lernen aus Erfahrung
Problemlösen
Entscheiden
Verarbeitung natürlicher Sprache
Getrieben/moderiert von Motivation, Emotion
Standard-Beispiel für ein kognitives System: Mensch
Kann man kognitive Systeme bauen?
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
9 / 46
Kognitive Systeme und Künstliche Intelligenz
Künstliche Intelligenz (KI): erforscht Algorithmen zur Lösung von
Problemen, die bislang nur oder besser von Menschen gelöst werden
können.
I
I
als Teil der Informatik stehen Algorithmen im Mittelpunkt
statt Künstlicher Intelligenz auch als Intelligentes System bezeichnet
Kognitives System
I
I
Schnittbereich zwischen KI und Kognitiver Psychologie
Intelligentes System, das kognitive Funktionen so realisiert, dass sie auf
ähnlichen Strukturen und Prozessen basieren wie bei einem
menschlichen Informationsverarbeiter
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
10 / 46
Zwei Perspektiven auf Kognitive Systeme
Ingenieurswissenschaftlich: Nutzung von Erkenntnissen der
Psychologie,
I
I
um effiziente intelligente Systeme zu realisieren (“Psychonik”)
zur Gestaltung von Mensch-Maschine-Interaktionen (menschgerechte
Kommunikationsschnittstellen/ Informationsdarbietung)
,→ performanz-/erfolgsorientiert
Erkenntniswissenschaftlich: Als Werkzeug für die theoretische
Psychologie
I
I
Formale Modellierung zur Beschreibung und Erklärung kognitiver
Strukturen und Prozesse
Analyse genereller Beschränkungen
,→ generative Theorien/“Baupläne”
Kognitive Systeme basieren auf:
Nutzung von kognitiven Theorien
Verständnis empirischer/experimenteller Untersuchungsmethoden
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
11 / 46
Was ist Kognitive Psychologie?
Psychologie: Wissenschaft vom menschlichen Erleben und Verhalten
unter Einschluß damit verbundener physiologischer und neurologischer
Vorgänge
Allgemeine/Kognitive Psychologie: Frage nach universalen
Gesetzmäßigkeiten im Bereich psychischer Grundfunktionen wie
Wahrnehmung, Motivation, Emotion, Gedächtnis, Denken,
Problemlösen, Lernen, Handeln, Entscheiden, Sensumotorik
I
I
I
I
,→ Abstraktion von individuellen Unterschieden (Differentielle
Psychologie)
,→ Entwicklung psychischer Funktionen im Lauf der Lebensspanne
durch innere und äußere Einflüsse (Entwicklungspsychologie)
,→ Erleben und Verhalten im sozialen Kontext (Sozialpsychologie)
,→ Anwendungsnahe Forschung: Klinische Psychologie, Diagnostik,
Pädagogische Psychologie, Arbeits-, Betriebs-,
Organisationspsychologie
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
12 / 46
Was ist Kognitive Psychologie?
Alternative Bezeichnung für Allgemeine Psychologie
Einschränkung der Allgemeinen Psychologie auf reine Erkennens- und
Verstehensprozesse (Ausgrenzung von Emotion, Motivation)
Abgrenzung von anderen theoretischen Sichtweisen auf den
Gegenstandsbereich der Allgemeinen Psychologie (z.B.:
Behaviorismus): Mentale Repräsentationen und Prozesse als
zentrale Grundlage für die Erklärung von Verhalten,
Informationsverarbeitungs-Metapher
(Kognitive Wende in den 1950ern, Chomsky-Skinner Debatte)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
13 / 46
Methoden der Psychologie
Psychologie ist eine Erfahrungswissenschaft (vgl. Physik, Biologie, . . .)
Erfahrungswissenschaftliche Methoden:
I
I
Beobachtung
Experiment
Komplexität/Natürlichkeit
Selektivität/Kausalerklärung
Beobachtung
+
-
Experiment
+
Konstruktion von kognitiven Modellen sollte auf gesicherten
experimentellen Befunden basieren
Aber: nicht alle Annahmen lassen sich in leicht messbare abhängige
Variablen (Antwortzeiten, Fehler) umsetzen
Deshalb auch: Einzelfallbeobachtungen, Methode des lauten Denkens
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
14 / 46
Kognitionswissenschaftliche Theoriebildung
Zweck einer psychologischen Theorie: Beschreibung, Erklärung und
Vorhersage von menschlichem Verhalten
Theoriebildung als Wechsel aus Top-down und Bottom-up Prozessen
Beoachtungen: Hypothesengenerierung
Experiment: Hypothesentestung
Kognitive Theorien: Erklärung auf der Ebene von
Informationsverarbeitungsprozessen
I
I
Neuronale Korrelate können kognitive Annahmen stützen
Situative Aspekte haben Einfluss auf kognitive Prozesse
Problem: Theorien sind umgangssprachlich beschrieben (vgl.
mathematische Theorien der Physik) ,→ Kognitive Modelle als
Zugang zur präziseren Formulierung von Theorien
Annahme: Church-Turing These + Physical Symbol Systems
Hypothese (Newell & Simon)
Problem: Ein und dasselbe Input/Output Verhalten kann durch
unendlich viele Programme realisiert werden
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
15 / 46
Modellierung auf der Wissensebene
Allen Newell (AI, 1982)
Knowledge Level – World oriented
Symbol Level (Program) – System oriented
Device Level /Logical Level
There exists a distinct computer systems level, lying immediately above
the symbol level which is characterized by knowledge as the medium and
the principle of rationality as the law of behavior.
Konzeptuelles Problem: Es gibt keine physikalische Entsprechung zur
Wissensebene/mentalen Ebene (Mind vs. Brain)
Aber: viele Aspekte kognitiver Systeme lassen sich nicht sinnvoll auf
Ebene der neuronalen Verarbeitung charakterisieren, sondern eben nur
auf der Wissensebene
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
16 / 46
Wissen als Zuschreibung
Newell:
Wissen muss rein funktional charakterisiert werden (what it does),
nicht strukturell in Form von Objekten und Relationen
Wissen ist das, was einem Agenten zugeschrieben werden kann, um
sein Verhalten basierend auf dem Rationalitätsprinzip vorherzusagen.
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
17 / 46
Wann ist ein Computersystem ein Kognitives System?
Pragmatische Lösung: es löst ein komplexes Problem annährend so
erfolgreich und effizient wie ein Mensch (Ingenieurs-Kriterium)
Übereinkunft: die wissenschaftliche Gemeinschaft akzeptiert das
System als auf kognitiven Prinzipien beruhend
Zuschreibung: Menschliche Beobachter können nicht entscheiden, ob
das Verhalten von einem Menschen oder einem Computerprogramm
erzeugt wird (Turing-Test)
(kontextabhängig, z.B. ukrainischer Junge, 10 Jahre, der nicht sehr gut englisch spricht)
Detailvergleich von System und Menschen bei spezifischen Aufgaben
bezüglich Zeitverläufen, Fehlern (Kognitive Modellierung)
Beispiel: CAPTCHAs (Completely Automated Public Turing test
to tell Computers and Humans Apart)
Bots, die CAPTCHAs knacken können, funktionieren eher nicht nach Prinzipien der
menschlichen Informationsverarbeitung
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
18 / 46
IBM Deep Blue (1997) – Ein KI System
Nutzt KI-Methoden: Suchbaum mit alpha-beta-Pruning, heuristische
Funktion
Heuristische Funktion ist nicht aus Erfahrung gelernt, von einem
menschlichen Experten vorgegeben
Suche geht über menschliche Arbeitsgedächtniskapazität hinaus
Expertise im Schach (Chase & Simon, 1973)
Experten und Novizen unterscheiden sich stark in ihrer Fähigkeit, eine
Figurenkonstellation zu rekonstruieren, wenn es sich um eine
sinnvolle, in einem Schachspiel mögliche Konstellation handelt
Bei einer Zufallskonstellation mit gleich vielen Figuren gibt es
dagegen keinen Unterschied zwischen Experten und Novizen
Experten speichern Figuren nicht einzeln sonder in bedeutungsvollen
Gruppen (anders als Deep Blue)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
19 / 46
IBM Watson – Ein KI-System
Deep Question-Answering, Semantisches Information Retrieval
Linguistischer Präprozessoer (Prolog-Parse-Baum)
Suche in Freitexten und Datenbanken (verschiedene Anfragesprachen)
Bewertung der gefundenen Hypothesen durch viele spezialisierte
Agenten
Menschliches Fragen-Beantworten
Üblicherweise Zugriff auf weniger gespeichertes Wissen als es Daten
im Web gibt
Aber: Zielgerichtetere Suche, Kontext der Frage (Sport, Geographie,
Politik) schließt Vieles von vornherein aus
Bewertung der Sicherheit der Antwort (Anzahl der Belege und
Erklärungen, episodisches Wissen – ich habe das vorgestern in der
Zeitung gelesen, etc.)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
20 / 46
IBM Research Statement
That is the promise of cognitive systems–a category of technologies that
uses natural language processing and machine learning to enable people
and machines to interact more naturally to extend and magnify human
expertise and cognition. These systems will learn and interact to provide
expert assistance to scientists, engineers, lawyers, and other professionals
in a fraction of the time it now takes.
Far from replacing our thinking, cognitive systems will extend our
cognition and free us to think more creatively. In so doing, they will speed
innovations and ultimately help build a Smarter Planet.
http://www.research.ibm.com/cognitive-computing/why-cognitive-systems.shtml
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
21 / 46
Historische Entwicklung
Frühe KI: explizites Ziel, allgemeine Prinzipien intelligenten (menschlichen) Verhaltens zu
identifizieren und algorithmisch nachzubauen (Newell & Simon, McCarthy)
Seit den 1980ern: KI differenziert sich (Maschinelles Lernen, Planen, Robotik,
Mustererkennung), spezialisierte Ansätze und Performanz stehen im Vordergrund
Parallel entwickelt sich die Kognitionswissenschaft als Interdisziplin, Kognitionspsychologie
ergänzt empirische Methoden um Modellierung mit kognitiven Architekturen (ACT-R)
Seit etwa 10 Jahren: mehrere parallele Entwicklungen mit annährend gleichen Intention
I
I
I
Kognitive Systeme (ACS, Advances in Cognitive Systems, Ron Sun,
Pat Langley)
Artificial General Intellience (AGI, Ben Goerzel, Jürgen Schmidhuber)
Human-Level Intelligence (HLI, z.B. AI Mag 2007; Ken Forbus)
Parallel, aber als völlig getrennte Gruppen: Kognitive Robotik, Cognitive Vision Systems
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
22 / 46
Langleys Kriterien für Kognitive Systeme
High-Level Cognition (i.e., reasoning, planning, not basic motoric
skills etc.)
Structured Representations (such as relational logic, not only features)
System Level Research (such as cognitive architectures, not only a
tool box of unrelated techniques)
Heuristics (rather than guarantee of optimality [which is anyway the
case for most interesting problems])
Links to Human Cognition (qualitative comparison not quantitative as
in cognitive modeling)
Exploratory Research (no unique focus on comparison of methods to
measure progress)
Pat Langley, Advances in Cognitive Systems 1 (2012) 3–1
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
23 / 46
Anwendungsbeispiele
Forbus’ Companion Systems
Langley’s Kognitive Architektur Icarus
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
24 / 46
Forbus’s Companion Cognitive Systems
Forbus & Hinrichs, 2006, Companion Cognitive Systems – A Step toward Human-Level AI
Robust reasoning and learning. Companions will have to learn about
their domains, their users, and themselves.
Approach: Analogy, inspired by cognitive science research
Longevity. Companions will need to operate continuously over weeks
and months at a time.
Approach: Multi-Agent System
Interactivity. Companions must be capable of high-bandwidth
interaction with their human partners. This includes being capable of
taking advice.
Use of Sketches
Anwendungen
Qualitative Physik (Bennett Mechanical Comprehension test
problems, kann als Tutor-System genutzt werden)
Spiele-Agent, z.B. FreeCiv
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
25 / 46
Forbus’s Companion Cognitive Systems
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
26 / 46
Langleys Icarus Architecture
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
27 / 46
Langleys Icarus Architecture
Zentrale Eigenschaften
Grounding von Kognition in Wahrnehmung und Aktion (im Gegensatz
zu frühen kognitiven Architekturen wie ACT-R und Soar, bei denen
dieser Aspekt im Nachhinein dazu genommen wurde)
Langzeitgedächtnis ist hierarchisch organisiert
Konzepte und Fertigkeiten als zwei unterschiedliche kognitive
Strukturen
Kumulatives Lernen für beide Gedächtnisstrukturen
Anwendung
Fahrersimulation (in der Stadt)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
28 / 46
Bewertung
Aus Anwendungsperspektive sind viele Standard-KI Systeme weiter
(z.B. Google Car/Icarus)
Anspruch ist nicht Performanz, sondern Erkenntnisgewinn
Entwicklung und Exploration vieler interessanter Konzepte, die sicher
zum Teil in Standard-KI Systeme Eingang finden werden
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
29 / 46
Lernen auf der Wissensebene
Spezieller Aspekt: Menschliche Fähigkeit, komplexe Wissensstrukturen
aus wenigen Erfahrungen zu erwerben
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
30 / 46
Explizites Wissen
Wissen ist . . .
dem Bewusstsein zugänglich
symbolisch repräsentiert, deklarativ
inspizierbar
verbalisierbar, kommunizierbar
natürlich in regelbasierte Systeme integrierbar
Routen: können anderen beschrieben werden
Grammatikregeln: können von den meisten Muttersprachlern korrekt
angewendet werden; können von Sprachwissenschaftlern als
symbolische Regeln formuliert werden
Problemlösungen: können anderen beschrieben werden
Problemlösestrategien: werden eher unbewusst angewendet
Diagnosen: basieren häufig auf teilweise unbewussten Eindrücken
(an expert does not think, he knows)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
31 / 46
Newell’s Knowledge Level
Allen Newell (1981): Definition des knowledge level zur Beschreibung
und Vorhersage des Verhaltens von Computer-Systemen auf der
Ebene von Zielen, Wissen und Aktionen
Schwerpunkt: Repräsentation, ausgeklammert: Aquisition (Lernen)
Viele Kognitive Architekturen addressieren Lernen nicht,
oder nicht auf der Wissensebene (Parameter-Tuning)
Maschinelles Lernen: meist statistisch – black box learning
How can a cognitive system process environmental input and stored
knowledge so as to benefit from experience?
(Holland, Holyoak, Nisbett & Thagard, 1986, Induction – Processes of Inference, Learning, and
Discovery)
Lernen findet auf vielen Ebenen statt: Basale Lernprozesse (auf
Sensordaten) — Symbolbasierte Ansätze (auf der Wissensebene)
Im Folgenden: Induktives Lernen auf der Wissensebene
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
32 / 46
Knowledge-based vs. Learning Systems
Knowledge-based Systems: Acquisition and modeling of common-sense
knowledge and expert knowledge
⇒ limited to given knowledge base and rule set
⇒ Inference: Deduction generates no new knowledge but
makes implicitly given knowledge explicit
⇒ Top-Down: from rules to facts
Learning Systems: Extraction of knowledge and rules from
examples/experience
Teach the system vs. program the system
Learning as inductive process
⇒ Bottom-Up: from facts to rules
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
33 / 46
Lernen auf der Wissensebene
Überwindung des Knowledge Acquisition Bottleneck
Statt expliziter Wissensakquisition und -modellierung
Experten führen ihre übliche Aufgabe (z.B. Diagnose) durch
Beschreibung der Informationsgrundlage der Experten (z.B.
Merkmalsvektoren für Röntgenbilder)
Lernen der Wissensstrukturen, die den Expertenentscheidungen
zugrunde liegen
Beispiele
Klassifikation von Endoskopie-Aufnahmen mit Entscheidungsbäumen
Mennicke, Münzenmayer, Wittenberg, Schmid, An optimization framework for classifier learning from image data for
computer-assisted diagnosis, Proc’s 4th European Conf. of the Int. Federation for Medical and Biological Engineering,
ECIFMBE 2008.
Klassifikation der Gesundheit von Pflanzen
Stocker, Uhrmann, Scholz, Siebers,Schmid, A machine learning approach to drought stress level classification of tobacco
plants, LWA/KDML 2013.
Incident Mining via struktureller Prototypen
Schmid, Hofmann, Bader, Häberle, Schneider, Incident Mining using Structural Prototypes. 23rd Int. Conf. on Industrial
Engineering and Other Applications of Applied Intelligent Systems (IEA/AIE 2010).
Lernen von schmerzrelevanten mimischen Indikatoren mit Ansätzen der grammar inference
Schmid, Siebers, Seuß, Kunz, Lautenbacher, Applying Grammar Inference To Identify Generalized Patterns of Facial
Expressions of Pain.Proc. of the 11th Int. Conf. on Grammatical Inference (IGI’12).
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
34 / 46
Lernen produktiver Regelmengen
Generalisierung über erlebte Regularitäten
I
I
I
Rekursive Prädikate: odd/even, Vorfahr
Syntaktische Struktur von Sätzen
Lösungsprozedur für den Turm von Hanoi
Produktiv (im Sinne von Chomsky): endliche Regelmenge zur
Erzeugung von potentiell unendlich vielen Instanzen verschiedener
Komplexität
Generalisierung aus wenigen positiven Beispielen
(cf. Marcus, The Algebraic Mind, 2001)
Anwendung eines Verfahrens zur analytischen induktiven
Programmierung
(Igor, Kitzelmann & Schmid, JMLR 2006; Schmid & Kitzelmann, CSR 2012;
IK’13 Special Course)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
35 / 46
Induktives Programmieren
Anwendung von maschinellem Lernen auf das Problem der
Programmsynthese
Automatische Erzeugung (rekursiver) Programme aus
Eingabe-/Ausgabe-Beispielen (unvollständigen Spezifikationen)
Ansätze:
I
I
analytisch, daten-getrieben: Thesys, Golem, Igor (ILP und induktive
funktionale Ansätze)
generate-and-test: FFoil (ILP), Adate (evolutionär), MagicHaskeller
(systematische Aufzählung)
E/A Beispiele:
last [a]
last [a,b]
last[a,b,c]
last[a,b,c,d]
=
=
=
=
U. Schmid (Uni BA)
a
b
c
d
Induziertes Programm:
last[x]
= x
last(x:xs) = last(xs)
Kognitive Systeme
GI 15/4/15
36 / 46
Igor2
Analytischer Ansatz zum Lernen funktionaler Programme (Maude,
Haskell)
Effiziente Induktion rekursiver Regelmengen aus wenigen positiven Beispielen
Lernt lineare, Baum-, und wechselseitig rekursive Regelmengen
Automatische Induktion von Hilfsfunktionen (necessary function invention)
Kann Hintergrundwissen berücksichtigen (analog zum ILP-System Golem)
Restriction Bias: funktionale rekursive Programme, bei denen die äußere
Funktion entweder nicht-rekursiv oder aus dem Hintergrundwissen ist
Nicht-rekursive Programme zur Klassifikation als Spezialfall (z.B.
playTennis, Mitchell, 1997)
Präferenz-Bias: Weniger Fallunterscheidungen, spezifischere Patterns,
weniger rekursive Aufrufe
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
37 / 46
odd/even
mult/add
allodds
—
×
8.1⊥
—
⊙
—
214.87
×
0.1⊥
0.016⊥
⊙
×
multlast
shiftr
weave
reverse
78.0
80.0
18.81
—
134.24⊥ 448.55⊥
—
0.4⊥ < 0.1⊥
—
0.66⊥
0.298
0.103
0.200
0.127
0.08
⊙
157.32
member
70.0
×
×
0.714
0.105
0.01
lasts
A DATE
F LIP
F FOIL
G OLEM
I GOR II
M AG H.
last
isort
Empirische Ergebnisse
A DATE 822.0
0.2
2.0
—
4.3
F LIP
×
0.020 17.868
0.130 448.90⊥
F FOIL
0.7⊥
0.1
0.1⊥ < 0.1⊥ < 0.1
G OLEM
1.062 < 0.001
0.033
—
< 0.001
I GOR II
5.695
0.007
0.152
0.019
0.023
M AG H. 19.43
0.01
⊙
—
0.30
— not tested × stack overflow ⊙ timeout ⊥ wrong
all runtimes in seconds
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
38 / 46
Igor2 als Cognitive Rule Acquisition Device
Analytische induktive Programmierung bietet einen allgemeinen
Mechanismus um generalisierte Regelmengen aus Beispielen für ein
gewünschtes Verhalten zu extrahieren
Typische Bereiche, in denen aus positiven Beispielen gelernt wird
I
I
I
Semantische Relationen (Ist-Ein, Vorfahr)
Sprache (regelmäßige Beugungen, grammatische Strukturen)
Problemlösen (Turm von Hanoi)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
39 / 46
Beispiel: Blockswelt
Ziel: Baue einen Turm aus Blöcken in einer gegebenen Reihenfolge
Gegeben: beliebiger Anfangszustand, beliebig viele Blöcke
Strategie: Räume denjenigen Block frei, der ganz unten liegen soll
und stelle ihn auf den Tisch, stelle dann immer den nächst-benötigten
Block auf den Teilturm und sorge dafür, dass dieser Block frei ist.
(Nicht-optimale Strategie: Lege erst alle Blöcke auf den Tisch und
baue dann den Turm mit gewünschter Reihenfolge der Blöcke auf.)
Tower (9 examples of towers with up to four blocks, 1.2 sec)
(10 corresponding examples for Clear and IsTower as BK)
Tower(O, S) = S
if IsTower(O, S)
Tower(O, S) = put(O, Sub1(O, S),
Clear(O, Clear(Sub1(O, S),
Tower(Sub1(O, S), S))))
if not(IsTower(O, S))
Sub1(s(O), S) = O .
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
40 / 46
Lernen aus Problemlöseerfahrung
Generierung von optimalen Plänen für kleine Probleme, z.B. mit
einem PDDL-Planer:
I
I
I
Tower: Türme mit bis zu vier Blöcken
Turm von Hanoi: ein bis drei Scheiben
Rocket: ein bis drei Kisten
Igor2 liefert generalisierte Problemlösestrategie
Ergebnis: Problemlösen durch Suche wird unnötig
Plötzliches Gefühl, ein Problem verstanden zu haben (Aha-Effekt):
Regularitäten wurden zu einem (Problemlöse-) Schema generalisiert
(Schmid, Wysotzki, AIPS 2000; Schmid et al., AGI 2009; Schmid & Kitzelmann, CSR 2012)
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
41 / 46
Beispielanwendungen
Tower, Hanoi, Car Parking, Phrase-Structure Grammar, isa
(Schmid & Kitzelmann, 2012, CSR)
Lernen von odd/even durch einen simulierten Agenten in einer
Kreiswelt“(mit Mark Wernsdorfer)
”
Induktion von Zahlenreihen (mit Jacqueline Hofmann, Jose
Hernandez-Orello)
Ragni & Klein, KI’11 Examples (ANN)
By ANN and Igor: 7,10,9,12,11 f (n − 1) + 3, f (n − 1) − 1
By Igor but not by ANN: 3,7,15,31,63 2 ∗ f (n − 1) + 1
By ANN but not by Igor: 6,9,18,21,42 f (n − 1) + 3, f (n − 1) ∗ 2
Not by ANN and not by Igor: 2,5,9,19,37 f (n − 1) ∗ 2 + 1, f (n − 1) ∗ 2 − 1
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
42 / 46
Zusammenfassung
Kognitive Systeme sind der Teilbereich der KI Forschung, bei dem
Algorithmen entwickelt und angewendet werden, die auf Prinzipien
der menschlichen Informationsverarbeitung beruhen
Solche Prinzipien können helfen, dass
I
I
I
in Bereichen, für die kein allgemeiner Lösungsansatz bekannt ist, neue
algorithmische Ideen zur Anwendung kommen können
interaktive Systeme in komplexen Bereichen besser auf die Bedürfnisse
der Menschen angepasst sind
die Theoriebildung im Bereich Kognitionswissenschaft präzisiert wird
Kognitive Systeme arbeiten auf der Wissensebene
Lernen sollte nicht nur auf vorgegebenen Wissenstrukturen
stattfinden, sondern den expliziten Aufbau neuer Wissensstrukturen
unterstützen
Hierzu sind symbolische Ansätze des maschinellen Lernens geeignet
Ein Ansatz für das Lernen produktiver Regelmengen in verschiedenen
Anwendungsbereichen ist Igor2
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
43 / 46
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
44 / 46
GI Fachbereich KI Fachgruppe Kognition
http://imodspace.iig.uni-freiburg.de/FachgruppeKognition/
KI Zeitschrift 3/15: ST Higher-Level Cognition and Computation
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
45 / 46
Zum Weiterlesen
Journals
I
I
Cognitive Systems Research
Advances in Cognitive Systems
Tagungen
I
I
I
Advances in Cognitive Systems (ACS)
Artificial General Intelligence (AGI)
International Conference on Cognitive Modeling (ICCM)
Typische Vertreter:
In Deutschland
I
I
I
I
I
Osnabrück: Kai-Uwe Kühnberger, Tarek Besold
Freiburg: Marco Ragni
Bremen: Christian Freksa
Bamberg: Ute Schmid
(Studiengänge in Ulm, Potsdam)
International
I
John Laird, Ken Forbus, Ron Sun, Pat Langley, Paul Rosenbloom,
Selmer Bringsjord, Nick Cassimatis
U. Schmid (Uni BA)
Kognitive Systeme
GI 15/4/15
46 / 46