Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института выяснили, что машины способны демонстрировать предрассудки после того, как определят подобное поведение, скопируют его и обучатся ему.

Искусственный интеллект способен обзавестись предрассудками

Существует мнение, что предрассудки — это исключительно человеческая черта, что подразумевает наличие именно человеческого интеллекта, который способен сформировать мнение или же стереотипы относительно человека или группы людей. Однако новое исследование показывает, что даже искусственный интеллект может развить предубеждения без какой-либо помощи со стороны.

В своей работе ученые провели множество компьютерных симуляций того, как субъективные виртуальные агенты способны формировать группы и взаимодействовать с другими. Во время такой симуляции каждой личности необходимо принять решение об оказании кому-либо помощи, основываясь на репутации этого человека, а также на своей стратегии, которая предусматривает предрассудки относительно других людей. После проведения большого числа подобных симуляций, личность запоминает новые стратегии через копирование поведения у кого-то.

С проведением этих симуляций тысячи и тысячи раз подряд мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять.

В то же время специалисты заметили, что наличие некоторых условий (например, более раздробленной субполяции одного общества) приводит к тому, что предрассудкам тяжелее закрепиться.

С большим числом субпопуляций союзы непредвзятых групп могут сотрудничать без того, чтобы быть эксплуатируемыми. Это также убавляет их статус меньшинства, в то же время уменьшая их восприимчивость к установлению предубеждений. Однако это требует и обстоятельств, в которых агенты обладают более высоким расположением по отношению к взаимодействиям вне своей группы”, — заключил профессор Уитакер.

Поделиться в социальных сетях