Использование нейросетей для постановки диагнозов опасно из-за отсутствия доступа к истории болезни и склонности ботов подтверждать мнения пользователей, что может привести к смерти.
Использование искусственного интеллекта для постановки диагнозов и подбора терапии несет серьезные угрозы для жизни. Как пояснила в интервью РИА Новости Марина Холод, доцент РЭУ им. Г. В. Плеханова, чат-боты не обладают данными о медицинском прошлом пациента и склонны подтверждать любые предположения пользователя, что искажает объективность.
Трагический инцидент в США подтверждает эти риски: там женщина скончалась из-за синдрома внезапной смерти при эпилепсии. Причиной стало то, что она начала планомерно отказываться от приема противосудорожных лекарств, следуя инструкциям ChatGPT. В связи с этим родители погибшей инициировали судебное разбирательство против компании OpenAI, создавшей данный сервис.
