Как искусственный интеллект "воскрешает" мертвых, и что это значит для живых
Исследователи из Еврейского университета Иерусалима изучили этические угрозы "воскрешения" людей с помощью нейросетей, которые превращают личные данные покойных в ресурс для индустрии развлечений.
Развитие генеративного искусственного интеллекта стирает грань между памятью и эксплуатацией, породив феномен цифровых "воскрешений". Сегодня технологии позволяют воссоздавать образы знаменитостей для их участия в концертах или фильмах, использовать жертв преступлений для политических высказываний и создавать чат-ботов для общения с ушедшими близкими.
Исследование более 50 реальных кейсов по всему миру показывает, что этот процесс во многих случаях происходит без четкого согласия покойных и правового регулирования. Авторы работы вводят понятие "спектральный труд" (от латинского spectrum – призрак, видение), описывающее ситуацию, когда голоса, лица и биографии умерших превращаются в сырье для извлечения прибыли или манипуляций. Работа опубликована в журнале New Media & Society.
Проблема заключается в том, что мертвые становятся невольными участниками социальных и коммерческих процессов. Использование цифровых следов – фото, видео и записей в соцсетях – позволяет алгоритмам удерживать образ человека в промежуточном состоянии: он умер, но и не окончательно ушел. Это создает риски искажения наследия человека и использования его облика для продвижения чуждых ему идей. В условиях "постмортального общества" "бессмертие" обеспечивается платформами данных, что требует немедленного пересмотра этических и правовых норм. Пока практика цифровых реинкарнаций практически не контролируется.
Описывая механизмы использования образов ушедших людей, соавтор работы Том Дивон отмечает: "Мертвые вынуждены обслуживать эмоциональные, политические или коммерческие желания живых. Они не могут отказаться".
По мнению ученых, анализ того, как ИИ меняет наши отношения с умершими, критически важен для понимания того, что технологии делают с живыми, чьи данные тоже могут быть использованы аналогичным образом в будущем.