eXplainable Artificial Intelligence (xAI)

Remi Brandt is promovendus aan de Rijksuniversiteit Groningen. Hij doet onderzoek naar manieren om dat wat geleerd is door een kunstmatig neuraal netwerk begrijpelijk te maken voor mensen, en onderzoekt methoden om het mogelijk te maken om kennis van experts in een bepaald gebied toe te voegen aan een kunstmatig neuraal netwerk dat vraagstukken oplost in datzelfde gebied. Het onderzoeksgebied van Brandt wordt ‘eXpainable Artificial Intelligence (xAI)’ genoemd.

 

Een kunstmatig neuraal netwerk is normaliter een complex model dat automatisch gegenereerd is op basis van een grote hoeveelheid voorbeelden van input die het model zou kunnen ontvangen wanneer het in de praktijk gebruikt wordt, en de output die het als reactie daarop zou moeten geven. Er wordt beoogd dat het model vervolgens in staat is om ook voor inputs die niet in deze dataset aanwezig zijn de correcte output te geven. 

Kunstmatige neurale netwerken worden binnen Tinnitushouse onder andere gebruikt om een systeem te ontwikkelen dat tinnitus patiënten op basis van hun persoonlijke eigenschappen (zoals leefstijl, voeding en comorbiditeit) verlichtende behandelingen aan kan bevelen. Dit systeem wordt onder begeleiding van Remi Brandt ontwikkeld door Bauke Risselada en voorheen tevens door Merijn Schroder. 

Wanneer een regulier kunstmatig neuraal netwerk wordt gebruikt is het model vaak een ‘blackbox’. Het model is voor mensen bijna niet te begrijpen, controleren en verbeteren.  Daarom wordt een ‘explainable’ kunstmatig neuraal netwerk gebruikt. Het model kan daardoor uitleggen waarom het een bepaalde verlichtende behandeling aanbeveelt. Daarnaast is het door het gebruik van een ‘explainable’ kunstmatig neuraal netwerk mogelijk om de lijst van persoonlijke eigenschappen die het model als input krijgt tot een minimum in te korten door eigenschappen weg te halen die onbelangrijk zijn voor alle verlichtende behandelingen. Verder maakt het gebruik van een ‘explainable’ kunstmatig neuraal netwerk het mogelijk om de grote hoeveelheid deskundige kennis over tinnitus die aanwezig is binnen Tinnitushouse in het model te stoppen.

Deel deze website