UNESCO выявило сексизм у алгоритмов искусственного интеллекта

Агентство ООН по вопросам образования, науки и культуры (UNESCO) знакомит с выводами исследования, посвященного вопросам гендерного равенства в области искусственного интеллекта. Представленная картина печальна, отмечает France 24.

Эксперты UNESCO протестировали разработанный компанией Meta алгоритм Llama 2 и разработанные OpenAI's GPT-2 и GPT-3.5, используемые популярным чат-ботом ChatGPT. Выяснилось, что алгоритмы обладают предрассудками в отношении женщин.

В сгенерированных текстах про женщин использовались слова "дом", "семья", "дети", в то время как в текстах про мужчин "бизнес", "зарплата", "карьера". Эксперт ООН в области цифровых технологий Леона Вердадеро констатировала, что компании, действующие в сфере ИИ, учитывают только часть пользователей.

Публикация отчета приурочена к отмечаемому 8 марта Международному женскому дню. UNESCO призывает компании отрасли брать на работу больше женщин и представителей меньшинств – это позволит исправить ситуацию.