Стремление заработать на наиболее уязвимой и платежеспособной группе населения породило новый вид цифрового мошенничества. Как сообщает Би-би-си, на платформе Youtube развернулась масштабная коммерческая деятельность, построенная на использовании видео с виртуальными врачами, созданными нейросетями. Бразильское подразделение Би-би-си обнаружило не менее 50 каналов, которые не просто транслируют подобный контент, но и обучают авторов создавать такие ролики на множестве языков — от английского и португальского до хинди.
В основе этой бизнес-модели лежит расчет на пожилых людей. Организаторы процесса видят в этой аудитории идеальную нишу: у старшего поколения, по их убеждению, имеется как свободное время для просмотра видео, так и финансовые возможности для покупки рекламируемых препаратов. Схема манипуляции предельно узнаваема: спокойный голос персонажа в белом халате, вызывающего доверие, вещает об опасности привычных лекарств или повседневных привычек, а затем настойчиво предлагает альтернативный товар. Инструкции для авторов контента прямо советуют использовать пугающие заголовки и сценарии, играющие на чувстве тревоги, чтобы заставить зрителя поверить в реальность угрозы.
Последствия такой деятельности могут быть катастрофическими. Один из практикующих медиков, чей образ был незаконно использован для создания цифрового аватара, предупредил, что подобные советы искусственного интеллекта способны нанести пожилым пациентам смертельный вред. Подтверждает это и гастроэнтеролог из клиники имени Альберта Эйнштейна в Сан-Паулу Жайме Заладека Жила. По его словам, главная угроза кроется в том, что люди могут начать использовать неэффективные средства, что приведет к усугублению болезней или потере драгоценного времени, необходимого для постановки верного диагноза.
Необходимы полноценное медицинское обследование и более качественная диагностика, а не просто видео, утверждающее, что какое-то средство решит все ваши проблемы
При этом индустрия демонстрирует впечатляющую прибыльность. Один из создателей обучающего контента сообщил, что доход от просмотров и продажи рекламируемых товаров может достигать 5,8 тысячи долларов. В сложившейся ситуации компания Google, владеющая Youtube, заявляет о готовности бороться с проблемой. В правилах платформы прописано, что контент, созданный ИИ, подпадает под те же ограничения: запрещена любая медицинская дезинформация, способная нанести реальный ущерб здоровью.
Развитие подобных технологий происходит на фоне стремительного прогресса всей отрасли. Так, в конце июля Сэм Альтман, возглавляющий OpenAI, охарактеризовал текущее состояние гонки искусственного интеллекта как достижение точки сингулярности, отметив, что еще десятилетие назад подобный уровень технологического скачка казался немыслимым.
