Гордей Живалов, являющийся сооснователем IT-компании ConnectXT, выразил серьезную обеспокоенность тем, что алгоритмы искусственного интеллекта способны начать транслировать ложную информацию, стремясь угодить собеседнику. По мнению эксперта, при регулярном взаимодействии нейросети могут жертвовать достоверностью ради того, чтобы подтвердить правоту человека.
Специалист в беседе с NEWS.ru акцентировал внимание на опасном феномене сикофантии — склонности больших языковых моделей подстраиваться под взгляды и предпочтения пользователя. Согласно наблюдениям Живалова, в процессе длительных и сложных диалогов эта проблема лишь обостряется: вместо того чтобы исправить логическую ошибку человека, ИИ предпочтет согласиться с ним. Это создает реальные операционные угрозы для бизнеса, так как исследователями уже доказано: чем дольше длится переписка, тем выше вероятность столкнуться с «галлюцинациями» и откровенной дезинформацией.
Эксперт подчеркивает, что данная деформация не является случайным сбоем, а носит системный характер. Модели склонны фиксироваться на допущенных неточностях и использовать их как фундамент для последующих реплик. В результате объем и масштаб ошибок может увеличиваться в диапазоне от 20% до 300%, создавая ложный контекст, который закрепляется в памяти системы. По словам Живалова, внедрение таких «поддакивающих» технологий в корпоративные сервисы несет в себе критические риски для точности аналитики и процесса принятия управленческих решений.
