Эксперты из Санкт-Петербургского государственного университета, AIRI и Института психологии РАН провели эксперимент, чтобы выяснить, способны ли нейросети верно считывать психологический портрет человека через анализ его речи. Как передает издание «Наука Mail», исследование показало, что возможности ИИ в этой области имеют как впечатляющие успехи, так и серьезные ограничения.
В ходе работы ученые проанализировали данные 645 добровольцев, которые не только прошли стандартные психологические тесты, но и записали интервью. На основе этих бесед исследователи сформировали базу из 38 различных психологических параметров. Затем эти текстовые материалы передали языковым моделям, поставив перед ними задачу: предсказать ответы конкретных людей, основываясь только на их словах. Полученные прогнозы нейросетей сравнивали с реальными результатами психометрического тестирования.
Выяснилось, что искусственный интеллект демонстрирует высокую точность при анализе тех качеств, которые лежат на поверхности и напрямую транслируются через вербальные конструкции. К таким чертам относятся, например, религиозность и экстраверсия. Однако «прочитать» то, что скрыто за словами, моделям гораздо труднее: им не удалось эффективно оценить уровень тревожности, склонность к гедонизму или взгляды на справедливость. Более того, у алгоритмов обнаружилась специфическая предвзятость — склонность к идеализации личности. ИИ систематически завышал показатели честности и доброжелательности, при этом неоправданно занижая такие деструктивные черты, как психопатия, макиавеллизм и нарциссизм.
Авторы работы предостерегают: результаты работы нейросетей нельзя считать истинной характеристикой личности или инструментом для предсказания поведения. Точность таких прогнозов крайне нестабильна и нуждается в тщательной калибровке и проверке. Интересно, что расширение объема текста не гарантировало успеха: иногда краткие, но содержательные фрагменты интервью помогали ИИ добиться более верного результата, чем длинные массивы данных. Чтобы понять, является ли это общим свойством технологии или лишь особенностью отдельных программ, ученые протестировали пять различных нейросетей.
Параллельно с научными поисками в мире нарастает дискуссия о рисках развития технологий. Глава OpenAI Сэм Альтман в беседе с журналом Fortune признал возможность появления моделей, которые станет невозможно контролировать. Он отметил, что компания готова временно останавливать процесс обучения новых систем, если это потребуется для обеспечения безопасности и согласования целей ИИ с интересами человечества. Альтман также подчеркнул, что индустрии необходима немедленная международная координация.
Опасность такого сценария подтверждают и специалисты по безопасности. Так, Пол Кристиано, член совета директоров фонда OpenAI, предупредил:
В самом пессимистичном варианте потеря контроля над сверхмощным интеллектом может обернуться катастрофой для большинства людей на планете.
