Neu­ro­na­le Netz­wer­ke kön­nen heut­zu­ta­ge bereits selb­stän­di­ge Ent­schei­dun­gen tref­fen. Ob die­se immer ratio­nal und fair sind, ist oft­mals frag­lich. Die TU Wien und das AIT forscht nun an Metho­den, um das zu gewährleisten. 

Vie­le Ent­schei­dun­gen, die bis­her von Men­schen getrof­fen wur­den, wer­den bereits jetzt von Maschi­nen getrof­fen und künf­tig wird das noch zuneh­men. Daten, die via Künst­li­che Intel­li­genz aus­ge­wer­tet und inter­pre­tiert wer­den, sind die Grund­la­ge dafür. Beson­ders in sen­si­blen Berei­chen wäre eine zuver­läs­si­ge Garan­tie vor­teil­haft, dass die KI-gestütz­ten Ant­wor­ten tat­säch­lich sinn­voll sind, oder zumin­dest, dass bestimm­te schwe­re Feh­ler aus­ge­schlos­sen sind. 

Ein Team der TU Wien und des AIT Aus­tri­an Insti­tu­te of Tech­no­lo­gy ent­wi­ckel­te nun Metho­den, mit denen zer­ti­fi­ziert wer­den kann, dass bestimm­te neu­ro­na­le Netz­wer­ke fair und sicher sind. Das Pro­jekt ist Teil des Dok­to­rats­pro­gramms Sec­int an der TU Wien, in dem inter­dis­zi­pli­nä­re For­schung zwi­schen Machi­ne Lear­ning, Com­pu­ter­si­cher­heit und Daten­schutz sowie for­ma­len Metho­den in der Com­pu­ter­wis­sen­schaft durch­ge­führt wird. Die Ergeb­nis­se wur­den die­se Woche auf der renom­mier­ten Ver­an­stal­tung „Inter­na­tio­nal Con­fe­rence on Com­pu­ter Aided Veri­fi­ca­ti­on“ in Mon­tré­al präsentiert. 

Rele­van­te Berei­che und Ent­schei­dun­gen zum The­ma Sicherheit 
Dass künst­li­che Intel­li­genz manch­mal zu Feh­lern neigt, ist bekannt. Wenn das dann bloß dazu führt, dass ein Mensch in einem com­pu­ter­ge­nerier­ten Bild sechs Fin­ger an einer Hand auf­weist, ist das kein gro­ßes Pro­blem. Aber künst­li­che Intel­li­genz wird sich auch in Berei­chen durch­set­zen, in denen Sicher­heits­fra­gen eine zen­tra­le Rol­le spie­len. „Den­ken wir zum Bei­spiel an Ent­schei­dun­gen, die von einem selbst­fah­ren­den Auto getrof­fen wer­den – oder auch von einem Com­pu­ter­sys­tem, das für medi­zi­ni­sche Dia­gnos­tik ein­ge­setzt wird“, sagt Anag­ha Atha­va­le vom Insti­tut für Logic und Com­pu­ta­ti­on der TU Wien. 

Atha­va­la ana­ly­siert neu­ro­na­le Netz­wer­ke, die dar­auf trai­niert sind, bestimm­te Ein­ga­be­da­ten bestimm­ten Kate­go­rien zuzu­ord­nen. Der Input könn­te zum Bei­spiel eine Ver­kehrs­si­tua­ti­on sein, und das neu­ro­na­le Netz­werk ist dar­auf trai­niert, zu ent­schei­den, in wel­chen Situa­tio­nen man len­ken, brem­sen oder beschleu­ni­gen soll. Oder der Input besteht aus Daten­sät­zen über ver­schie­de­ne Bank­kun­den, und das neu­ro­na­le Netz wur­de trai­niert zu ent­schei­den, ob eine Per­son einen Kre­dit bekom­men soll oder nicht. 

Fair­ness und Robustheit 
„Im Nor­mal­fall ver­lan­gen wir von einem sol­chen neu­ro­na­len Netz Robust­heit und Fair­ness“, erklärt Anag­ha Atha­va­le. Robust­heit ist dann gege­ben, wenn zwei Situa­tio­nen, die sich nur in klei­nen Details unter­schei­den, auch zum sel­ben Ergeb­nis füh­ren. Und Fair­ness ist gege­ben, wenn sich zwei Situa­tio­nen nur in einem Para­me­ter unter­schei­den, der für die Ent­schei­dung eigent­lich kei­ne Rol­le spie­len soll­te, dann soll­te das neu­ro­na­le Netz das­sel­be Ergeb­nis liefern. 

„Zwei Per­so­nen haben finan­zi­ell sehr ähn­li­che Daten, unter­schei­den sich aber im Geschlecht oder in der Eth­ni­zi­tät. Das sind Para­me­ter, die etwa auf eine Kre­dit­ver­ga­be kei­nen Ein­fluss haben soll­ten. Das Sys­tem soll­te somit also in bei­den Fäl­len das­sel­be Ergeb­nis lie­fern“, erläu­tert Athavale. 

Das ist aller­dings alles ande­re als selbst­ver­ständ­lich : Immer wie­der zeigt sich, dass Machi­ne Lear­ning zu Dis­kri­mi­nie­rung füh­ren kann – etwa ein­fach dadurch, dass man neu­ro­na­le Net­ze mit Daten trai­niert wer­den, die von vor­ur­teils­be­haf­te­ten Men­schen gene­riert wur­den. Ganz auto­ma­tisch bekommt die künst­li­che Intel­li­genz somit die Vor­ur­tei­le der Men­schen antrainiert. 

Loka­le und glo­ba­le Variablen 
Des­halb haben wir ein Sys­tem ent­wi­ckelt, das auf Ver­trau­en basiert”, erklärt Anag­ha Atha­va­le. “Unse­re Anwen­dung prüft das neu­ro­na­le Netz nicht nur auf bestimm­te Eigen­schaf­ten, son­dern gibt auch Aus­kunft über den Grad des Ver­trau­ens“, skiz­ziert TU Exper­tin Anag­ha Atha­va­le. Die­se auf Ver­trau­en basie­ren­de Sicher­heits­ei­gen­schaft ist eine wich­ti­ge Ände­rung in der Art und Wei­se, wie glo­ba­le Eigen­schaf­ten von neu­ro­na­len Net­zen defi­niert wer­den. Um die­ses Pro­blem zu lösen, waren mathe­ma­ti­sche Tricks nötig. Atha­va­le muss­te Wege fin­den, um das Ver­hal­ten des neu­ro­na­len Net­zes zuver­läs­sig abzu­schät­zen, ohne bestimm­te mathe­ma­ti­sche Funk­tio­nen zu ver­wen­den, die nor­ma­ler­wei­se in neu­ro­na­le Net­ze ein­ge­baut sind. 

Sie ent­wi­ckel­te Ver­ein­fa­chun­gen, die es den­noch erlau­ben, zuver­läs­si­ge, stren­ge Aus­sa­gen über das neu­ro­na­le Netz als Gan­zes zu machen. Der Erfolg die­ser Metho­de zeigt : Es ist nicht nötig, einer künst­li­chen Intel­li­genz blind zu ver­trau­en, schon gar nicht, wenn sie wich­ti­ge Ent­schei­dun­gen trifft. „Es ist tech­nisch mög­lich, ein neu­ro­na­les Netz rigo­ros zu tes­ten und gewis­se Eigen­schaf­ten mit mathe­ma­ti­scher Zuver­läs­sig­keit zu garan­tie­ren und das ist ein wich­ti­ges Resul­tat für die Zusam­men­ar­beit von Mensch und Maschi­ne“, betont Anag­ha Atha­va­le vom Insti­tut für Logic und Com­pu­ta­ti­on der TU Wien.