Уязвимости генеративных нейросетей

О книге

Книга «Уязвимости генеративных сетей» представляет собой комплексное исследование слабых мест современных генеративных нейросетей. Авторы анализируют, как малейшие изменения входных данных, ошибки в настройках, недостаточная защита API и небрежное управление привилегиями могут влиять на результаты работы модели, порождая адапверсариальные атаки, утечки данных и скрытые бекдоры. В работе подробно рассматриваются механизмы инверсии модели, атаки на целостность обучающих данных, а также примеры абстрактных инцидентов, демонстрирующие хрупкость даже хорошо настроенных систем. Особое внимание уделено методам повышения устойчивости: состязательному машинному обучению, регуляризации, анализу аномалий и многоступенчатой защите, что делает книгу полезным инструментом для специалистов по безопасности и разработчиков AI-систем.