В сфере цифровой загробной жизни, где технология искусственного интеллекта позволяет разговаривать с умершими, ученые Кембриджского университета выдвинули на первый план опасения по поводу этических границ и потенциального вреда . Эти чат-боты на базе искусственного интеллекта, получившие название «мертвые боты» или «гореботы», созданы для того, чтобы имитировать язык и личность ушедших близких, предлагая утешение скорбящим. Однако недавнее исследование предупреждает, что эти инновации могут привести к непредвиденным последствиям, включая то, что исследователи называют «цифровыми призраками», не отвечающими стандартам безопасности.
Этические последствия такой технологии были подчеркнуты опытом таких людей, как Джошуа Барбо, который использовал раннюю версию технологии искусственного интеллекта, известную как « Проект Декабрь», для общения с цифровой копией своей умершей невесты. Предоставив ИИ образцы своих текстов и личных описаний, Барбо стала свидетелем реалистичных ответов, которые вызвали обеспокоенность по поводу потенциального неправильного использования такой технологии, включая вставку рекламы, замаскированной под мысли умершего.
Более того, психологи подчеркивают влияние этих технологий на детей, переживающих утрату, поднимая вопросы о достоинстве умершего и благополучии живых. Профессор Инес Тестони из Университета Падуи подчеркивает сложность разлуки с ушедшими близкими, подчеркивая важность понимания смерти и ее последствий. Чтобы проиллюстрировать потенциальные риски, специалисты по этике искусственного интеллекта из Кембриджа обрисовывают три гипотетических сценария, в которых скорбеботы могут нанести вред.
К ним относятся несанкционированное моделирование умерших людей, рекламирующих коммерческие продукты, путаница, возникающая из-за нереалистичных взаимодействий, приводящая к задержкам в исцелении, а также навязывание цифрового присутствия невольным получателям, вызывающее эмоциональный стресс и чувство вины. Исследование выступает за внедрение процессов проектирования скорбеботов на основе согласия, включая механизмы отказа и возрастные ограничения. Более того, он призывает к новым ритуалам уважительного отказа от этих цифровых копий, ставя под сомнение, что такие технологии просто задерживают процесс скорби.
Доктор Катажина Новачик-Басинска, соавтор исследования, подчеркивает этические сложности использования ИИ в цифровой загробной жизни, подчеркивая необходимость уделять приоритетное внимание достоинству умершего и защищать права как доноров данных, так и пользователей. Поскольку использование ИИ в сфере цифровой загробной жизни продолжает развиваться, этические соображения остаются первостепенными при навигации по этой неизведанной территории. В Китае растущая индустрия создания копий умерших близких, созданных искусственным интеллектом, утешает скорбящих, одновременно поднимая серьезные этические вопросы. Такие компании, как Silicon Intelligence, извлекают выгоду из достижений в области технологий искусственного интеллекта для создания цифровых аватаров, имитирующих разговоры с мертвыми, предлагая утешение таким людям, как Сунь Кай, который стремится поддерживать связь со своей умершей матерью.
Спрос на эти услуги подчеркивает культурную традицию общения с мертвыми, но критики задаются вопросом, является ли взаимодействие с копиями ИИ здоровым средством преодоления горя. Несмотря на технологические ограничения и этическую неопределенность, рынок цифрового бессмертия процветает: цены падают, а доступность увеличивается. Созданные ИИ аватары, похожие на дипфейки, полагаются на входные данные, такие как фотографии, видео и текст, чтобы воспроизвести внешний вид и манеру речи умершего человека. Быстрый прогресс Китая в области технологий искусственного интеллекта сделал такие услуги более доступными: такие компании, как Silicon Intelligence, предлагают настраиваемые варианты — от интерактивных приложений до дисплеев планшетов.
В то время как некоторые считают эти реплики терапевтическими, другие выражают обеспокоенность по поводу подлинности взаимодействий и этических последствий копирования мертвых без их согласия. Кроме того, значительные препятствия создают технические проблемы, такие как воспроизведение движений тела и получение достаточных тренировочных данных. Этические дилеммы, связанные с репликами ИИ, были проиллюстрированы спорным инцидентом с компанией в Нинбо, которая использовала ИИ для создания видео умерших знаменитостей без согласия. Инцидент вызвал общественный резонанс и подчеркнул необходимость четких этических принципов в развивающейся области цифровых технологий загробной жизни.