Neuroinformatics, 2010-04-29

Module: 
Neuroinformatics
Examiner: 
Stephan Timmer
Assessor: 
Gordon Pipa
Date: 
Thu, 2010-04-29

FORMALIA

Modulprüfung: Intro to Neuroinfo / Advanced Neuroinfo
Fachsemester: 6
Prüfer: Stephan Timmer, Gordon Pipa

VORBEREITUNG

Was hast du zur Prüfungsvorbereitung benutzt?

Alle NI-Themen anhand der Slides gelernt, gelegentlich mit anderen Studenten die Themen diskutiert. Für ANI von den Sldies gelernt und eine eigene Übersicht benutzt, die aus Gruppendiskussionen zur Klausurvorbereitung entstanden war.

PRÜFUNG

Wiederholungsprüfung? nein
Beisitzer: Prüfer abwechselnd
Note: 1.0
Bereiche nach Zeit: ungefähr 18min für INI, ungefähr 15min für ANI

Fragensammlung: wie lauteten die Fragen im einzelnen?

INI:

Was ist ein Regressionsproblem, wofür benutzt man MLPs, error function;
MLP aufmalen, Aktivierungsfunktionen benennen, warum benutzt man unterschiedliche Funktionen;
welche Funktion realisiert dieses MLP (also R^n --> R² in meinem Fall);
wozu benutzt man gradient descent, was ist die update rule, welche Funktion leitet man bei einem MLP ab (also Fehlerfunktion);

welches Problem löst eine SVM;
was ist die margin;
warum will ich eine große margin, was ist Generalisierung, was ist optimality;
welche Vektoren werden support vectors;
was sind die Lagrange multipliers, wie kann man an denen erkennen welche Vektoren support vectoren werden (die mit alpha ungleich 0);
was sind active constraints;
wie hängen active constraints und die Lagrange function zusammen;
was sind die KT conditions und was bedeuten sie;
was ist der primal für eine SVM; aufzeigen, dass die primal constraints korrekte Klassifizierung erzwingen;
welche Voraussetzungen braucht man für die KT conditions (also convex, diffbar function, linear constraints);
global vs. local minima and convexity;
was für Methoden gibt es, um diese Optimierungsprobleme zu lösen (active set/brute force), was macht der brute force approach

ANI:

Zuerst bei Klassifizierung weitergemacht:
was ist ein generative model;
wie unterscheiden inference und decision stage;
kurz auf ein entsprechendes Modell aus dem Seminar eingegangen, das ich dort vorgestellt hatte;
wie kann man dann mit Bayes klassifieren;
wie sieht das für zwei Klassen aus, Bayes für den Fall aufschreiben mit marginalisiertem normalizer;
woraus kann man diese Formel herleiten (vorgeführt);
wie passt das in eine logistic regression, was wird in dieser Formulierung linear;
wofür gilt das (Normalverteilungen, selbe Kovarianz);
kurz erklärt wie die logistische Funktion für beide Klassen im input space liegt und dass die decision boundary wieder eine hyperplane ist in diesem Fall;
was ist der Grenzwert bei zwei Klassen (0.5);
kurz erzählt dass die decision boundary quadratisch ist bei ungleicher Kovarianz;
wie könnte man logistic regression umformulieren für beliebige decision boundaries, also was ist der Bezug zur SVM (er wollte hören, dass man den Input der logistischen Funktion durch nichtlinear Funktionen darstellen kann, also einfach die lineare Grenze in einen feature space überträgt, aber da bin ich nicht wirklich drauf gekommen, und die Frage hatte er explizit als "1 million dollar questions" ausgewiesen;

was ist ein bias;
was hat das mit dem sampling zu tun (also doppelte Verwendung der Daten: Modellschätzung, Schätzung der Verteilung für die erwartete likelihood);
was ist da gebiast (die Erwartung der Likelihood)
was ist das bootstrap bias;
welche resampling stragies gibt es, welche Annahmen haben die;
welche Probleme könnte ich mir vorstellen, wenn man für nicht-normalverteilte Daten resampling residuals machen möchte (das hatte er auch als Transferfrage gekennzeichnet) - ich habe dann was mit Binomialdaten erzählt aber bin auch nicht wirklich drauf gekommen, bis er dann genauer gefragt hat was ich bei Binomialdaten modelliere (mu) und wie davon die residuals aussehen (eben nicht binär), und dass deswegen die bootstrap-Daten gar nicht mehr binär wären

Persönlicher Kommmentar, Was war toll? Was war doof? Was war auffällig?

Beide Prüfer waren sehr freundlich, haben die Fragen so formuliert, dass ich die verstanden habe, haben positives feedback gegeben wenn was richtig war.

Wie waren Einstieg, Ablauf, Ende, Bewertung und Begründung?

Ich durfte mir aussuchen womit ich anfange, habe NI gewählt. Die Prüfung war dann recht schnell mit vielen Fragen/Antworten (gerade bei NI); am Ende kurz rausgebeten worden für die Besprechung der Prüfer, nach der Prüfung Notenvergaben; Gordon Pipa ist noch kurz auf die Antworten für die Transferfragen eingegangen.

Lässt sich der Prüfer von den Antworten leiten?

Bei NI hat Stephan Timmer sehr genau gefragt, auch häufig Fragen reformuliert wenn ich nicht genau drauf gekommen bin, bis ich die richtige Antwort hatte. Gordon Pipa hat insgesamt offener gefragt und sich von meinen Antworten leiten lassen (er hatte am Anfang des ANI-Teils der Prüfung auch gleich gesagt, dass er nach den vielen Fakten vom NI-Teil offener fragen wird, aber auch mehr Transferfragen stellt).

Zum Verhalten des Prüfers

Beide sehr nett, gute Prüfungsatmosphäre