Kan AI-robotar utveckla fördom på egen hand?

- Sep 07, 2018-

Att visa fördomar mot andra kräver inte en hög grad av kognitiv förmåga och kan enkelt uppvisas av artificiellt intelligenta maskiner, men ny forskning har föreslagit.

Dator- och psykologexperter från Cardiff University och MIT har visat att grupper av autonoma maskiner kan visa fördomar genom att helt enkelt identifiera, kopiera och lära detta beteende från varandra.

Det kan tyckas att fördomar är ett mänskligt specifikt fenomen som kräver mänsklig kognition att utgöra en åsikt om, eller att stereotyper, en viss person eller grupp.

Även om vissa typer av datoralgoritmer redan har uppvisat fördomar som rasism och sexism, baserat på lärande från offentliga register och andra data som genereras av människor, visar detta nya arbete möjligheten att AI utvecklar skadliga grupper på egen hand.

De nya fynden, som har publicerats i tidskriften Scientific Reports, bygger på datorsimuleringar av hur liknande skadade individer eller virtuella agenter kan bilda en grupp och interagera med varandra.

Medförfattare av studien Professor Roger Whitaker, från Cardiff Universitys brotts- och säkerhetsforskningsinstitut och School of Computer Science and Informatics, sa: "Genom att springa dessa simuleringar tusentals gånger över börjar vi förstå hur fördomar utvecklas och de villkor som främjar eller hindrar det.

"Våra simuleringar visar att fördomar är en kraftfull kraft av naturen och genom evolutionen kan den lätt bli incitiverad i virtuella populationer, till nackdel för bredare kontakt med andra. Skydd från skadliga grupper kan oavsiktligt leda till att individer bildar ytterligare skadliga grupper, vilket resulterar i en spridd befolkning. Sådana utbredda fördomar är svåra att vända om. "

Ett ytterligare intressant konstaterande från studien var att under särskilda förhållanden, som inkluderar mer distinkta subpopulationer som förekommer inom en befolkning, var det svårare att fördomar att ta tag i.

"Med ett större antal delpopulationer kan allianser av icke-skadliga grupper samarbeta utan att utnyttjas. Det minskar också deras status som en minoritet, vilket minskar mottagligheten för fördomar som håller fast. Men detta kräver också omständigheter där agenter har en högre disposition mot interagerar utanför sin grupp ", avslutade professor Whitaker.

Could AI robots develop prejudice on their own?

Ett par:Flyga högt och långt med Asiens första helt soldrivna Quadcopter Drone Nästa:Intelligenta moduler Marknadsanalys 2017 och prognos 2021: Storlek, omfattning, tillväxt och efterfrågan, lovande regioner