Современные системы кибербезопасности, опирающиеся на жесткие запреты и строгие рамки, теряют свою актуальность в эпоху внедрения искусственного интеллекта. Об этом на пленарной сессии форума «Цифровые решения» рассказал сооснователь IT-компании Positive Technologies Юрий Максимов.
По словам эксперта, попытки ограничить возможности ИИ-агентов привычными методами контроля приводят к сбоям в их функционировании. Юрий Максимов отметил:
В отличие от людей, ИИ-агенты не способны работать в условиях искусственных барьеров: вместо соблюдения правил алгоритм начинает совершать ошибки или вовсе прекращает выполнение поставленных задач.
Таким образом, старые подходы к установлению ограничений оказываются неприменимы к работе с интеллектуальными агентами.
