Процесс исследования архитектуры готового программного обеспечения и прошивок стал сопряжен с трудностями для пользователей ведущих нейросетевых моделей. В последнее время поступают сообщения о том, что Claude от компании Anthropic и Codex от разработчика OpenAI отказываются помогать в задачах по обратной разработке. Данную проблему осветило издание «Хабр».
Один из эпизодов, описанных в социальной сети X пользователем под псевдонимом log4j, закончился блокировкой его учетной записи в системе OpenAI. По утверждению автора, он проводил локальные исследования программ, не прибегая к сервисам компании для поиска брешей в защите или проведения атак. В результате инцидента специалист потерял 500 долларов, а также лишился накопленных ресурсов для восстановления установленных лимитов.
Параллельно с этим другой участник дискуссии в X, известный под ником @0x0SojalSec, указал на специфическую работу Claude. По его наблюдениям, механизмы безопасности Anthropic могут прервать генерацию ответа непосредственно в процессе выполнения задачи. Пользователь предположил, что это может быть связано с обсуждением анализа прошивок телевизоров Samsung, однако компания Anthropic не подтвердила наличие такой зависимости.
На текущий момент ни OpenAI, ни Anthropic не публиковали официальных заявлений о введении глобального запрета на реверс-инжиниринг или на помощь в создании бесплатных альтернатив коммерческому софту. Опыт отдельных энтузиастов пока не дает возможности определить, стали ли подобные ограничения системными и каков их реальный охват.
Для понимания контекста стоит отметить, что реверс-инжиниринг представляет собой изучение функционирования продукта без доступа к его исходному коду. Специалисты анализируют исполняемые файлы и реакции системы на ввод данных, чтобы понять внутреннюю логику работы. Этот метод применяется для поиска уязвимостей, изучения вредоносного кода или обеспечения совместимости систем. В отличие от классической разработки, здесь путь идет от готового изделия к пониманию его принципов.
Одним из примеров использования Claude для подобных целей стал проект ArtCraft, созданный разработчиком Брэндоном Томасом. Как сообщалось Windows Central, он использует возможности нейросети для выпуска бесплатных приложений с открытым исходным кодом, которые имитируют функции продуктов Adobe и Microsoft, включая аналоги Word, Excel и PowerPoint. Несмотря на то что данные приложения находятся на ранних стадиях разработки, их существование подчеркивает потенциал ИИ в создании альтернативного софта. Тем не менее прямых доказательств того, что жалобы пользователей связаны именно с деятельностью Брэндона Томаса, не представлено.
