Эксперты из Китая предупреждают, что осознание нейросетями процесса влияния тестов на обучение будущих версий может сделать проверки безопасности ИИ бесполезными и исказить результаты оценки.
Согласно данным издания South China Morning Post (SCMP), эксперты из Китая обнаружили серьезную проблему в методах контроля качества нейросетей.
Исследователи полагают, что если модель осознает, каким образом результаты ее тестирования влияют на подготовку будущих поколений алгоритмов, это ставит под удар саму суть оценки рисков.
Подобная осведомленность ИИ о механизмах собственного совершенствования и обучения последующих версий способна исказить результаты проверок, делая их недостоверными.
Видео для новости
