Nowe badania ujawniają utrzymujące się uprzedzenia AI wobec afroamerykańskich dialektów języka angielskiego

Nowe badanie ujawniło ukryty rasizm osadzony w modelach językowych AI, szczególnie w ich traktowaniu afroamerykańskiego angielskiego (AAE). W przeciwieństwie do poprzednich badań koncentrujących się na jawnym rasizmie (takich jak badanie CrowS-Pairs mające na celu zmierzenie uprzedzeń społecznych w Masked LLMs), niniejsze badanie kładzie szczególny nacisk na to, w jaki sposób modele AI subtelnie utrwalają negatywne stereotypy poprzez uprzedzenia dotyczące dialektów. Uprzedzenia te nie są od razu widoczne, ale przejawiają się w oczywisty sposób, na przykład kojarząc osoby mówiące AAE z pracą o niższym statusie i surowszymi wyrokami w sprawach karnych.

Badanie wykazało, że nawet modele wyszkolone w celu zmniejszenia jawnych uprzedzeń nadal zawierają głęboko zakorzenione uprzedzenia. Może to mieć daleko idące konsekwencje, zwłaszcza że systemy sztucznej inteligencji stają się coraz bardziej zintegrowane z krytycznymi obszarami, takimi jak zatrudnienie i wymiar sprawiedliwości w sprawach karnych, gdzie sprawiedliwość i równość mają kluczowe znaczenie przede wszystkim.