Алгоритм Twitter обвинили в проявлении гендерной и возрастной дискриминации

Компания согласна платить деньги исследователям, которым удастся выявить предпочтения алгоритма. В ходе спонсированного Twitter исследования удалось вычислить, что, обрезая изображения, алгоритм явно «подыгрывает» определённым категориям людей. Оказывается, особые предпочтения у программы есть и к текстовым материалам – алгоритм более лоялен к европейским языкам.

Одному из исследователей удалось доказать, что алгоритм Twitter предпочитает фото с изображением молодых и стройный людей. Эксперты при помощи специальных программ сгенерировали различные лица и фигуры и подтвердили, что у снимков юных  стройняшек явно есть больше шансов быть одобренными системой.

Аналитики объяснили поведение алгоритма просто – видимо, люди, чьи мнения учитывались во время обучения данной модели ИИ, неоднократно высказывались в пользу худых представителей молодежи.

Согласно первоначальной идее, алгоритм во время обрезки должен оставлять на фото всех людей, животных и все текстовые фрагменты. На деле же система необъективна и явно отдаёт предпочтение симпатичным, молодым и стройным европейкам.