Skip to content Go to main navigation Go to language selector

Examensarbete 30 hp: Explainable AI/Post-Hoc Interpretability

Location
Göteborg, Sweden
Closing date
30 December 2020
Apply for this job!

Examensarbete 30 hp: Explainable AI/Post-Hoc Interpretability

1.1                                  Bakgrund

Machine Learning baserat på djupa neurala nätverk är en teknologi som det varit stort fokus på inom forskningsvärlden under det senaste decenniet. En stor nackdel med denna typ av machine learning  metoder är dock att den tränade modellen i allt väsentligt är en black-box. Det är svårt eller rent av omöjligt för en användare att förstå vad i inputdata som den tränade modellen grundar de resulterande slutsatser och beslut som produceras. För Saabs produkter är denna transparens i många tillämpningar oerhört viktig. Användaren av ett system har ofta stort behov av dels att förstå hur systemet fungerar, dels att kunna förutsäga systemets beteende och förmåga under användning. Vid användning av modeller baserade på AI och maskininlärning är transparens och resultatens förklarbarhet en stor utmaning. Inom området Explainable AI försöker man utveckla metoder och algoritmer som kan hantera dessa frågeställningar och i detta examensarbete så vill vi undersöka vad denna typ av metoder kan ge.   

1.2                                  Arbetets omfattning

Att genomföra en studie inom området i syfte att öka förståelsen om hur ett tränat neuralt nätverk viktar indata för sina beslut och resulterande utdata.  Genom att undersöka metoder för s.k. ’post-hoc interpretability’, (se. Ref. [1]och [2]) vill vi undersöka om vi därigenom kan få insikt i vad vi saknar i befintliga modeller och använda särdrag. En målsättning på sikt är förståelse och verktyg för att ta fram bättre särdrag för Machine Learning och även bättre modeller av våra radarsystems omgivning.  En tänkbar effekt av detta är att bättre valda särdrag kan reducera mängden träningsdata som behövs i träningsprocessen och i förlängningen ge mer robusta modellbaserade metoder inom signalbehandling och målklassificering.

Lipton, Z., C., The Mythos of Model Interpretability, 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), New York, NY, USA.  Mittelstadt, B., Russel, C., Wachter, S., Explaining Explanations in AI, FAT* ’19: Conference on Fairness, Accountability, and Transparency (FAT* ’19), January 29–31, 2019, Atlanta, GA, USA.

1.2.1                                 Förväntat resultat

Förslag på tänkbara lösningar där en lösning implementeras och demonstreras, tillsammans med en studierapport.

1.2.2                                  Studierapport

Arbetet skall dokumenteras i en rapport som analyserar och beskriver tänkbara lösningar på problemställningen. För och nackdelar med de tänkbara lösningarna presenteras.

1.2.3                                  Implementation

Inom ramen för examensarbetet implementeras och testas någon av de identifierade metoderna i syfte att demonstrera en tänkbar lösning av problemställningen. Implementationen kan göras i något av programmeringsspråken Python, Matlab, Java, C eller C++.

Den du är idag

1.3                                  Vem söker vi

Du är i slutet av din civilingenjörsutbildning eller motsvarande och ska påbörja ditt 30 hp examensarbete.

Antal deltagare: 1 eller 2 personer. Ibland kräver högskolan att examensarbeten i industrin utförs av två studenter tillsammans. Kontrollera med utbildningsansvariga på ditt Masters program vad som gäller. Omfattning: 30 poäng (20 veckor) Lämpliga deltagare bör ha en bakgrund i matematisk modellering och programmering.

Vad du blir en del av

Affärsområde Surveillance erbjuder effektiva lösningar för övervakning och beslutsstöd, och system för att upptäcka och skydda mot olika typer av hot. Produktportföljen omfattar flygburna, landbaserade och marina radarsystem, system för signalspaning och självskydd, ledningssystem samt system för sjöfarts- och flygtrafikledning. Din arbetsplats blir på gruppen för Nya Koncept inom affärsområdet Radar Solutions i Göteborg.

Denna tjänst kräver att du godkänns i en säkerhetsprövning i enlighet med säkerhetsskyddslagen.

Sista ansökningsdag är den 31-december-2020

Placeringsort: Göteborg

Kontaktperson för ex-jobbet:

Håkan Warston, teknikspecialist Datafusion +46 31 7948206 eller Patrik Dammert, teknikspecialist Signalbehandlingsalgoritmer  +46 31 7948992

Om Saab

Saab är ett globalt försvars- och säkerhetsföretag verksamt inom flyg-, land- och
marinförsvar, civil säkerhet och kommersiell flygteknik. Vi är 17 500 medarbetare och har verksamhet på alla kontinenter. Tekniskt är vi ledande inom många områden och en femtedel av våra intäkter går till forskning och utveckling.

Saab är också ett möjligheternas företag. Ett företag där vi ser mångfald som en tillgång och där du som medarbetare får stort ansvar och goda utvecklingsmöjligheter. Men också ett företag som respekterar varje människas behov av ett liv utanför arbetet.