Изображения, создаваемые искусственным интеллектом (ИИ), представляют собой новый вид структурного насилия — не через то, что мы видим, а через тех, кого мы не видим. Гендерное насилие в этом контексте — это не просто проявление предвзятости. Речь идет о том, что компании, работающие с ИИ, тонко, но последовательно делают женщин невидимыми, а предвзятые стереотипы, которые мы видим в интернете, являются лишь одним из симптомов этой проблемы.
Хайп вокруг ИИ функционирует как гендерно обусловленный режим видимости. По мере того как продукты ИИ ширится в обществе, они нормализуют синтетически созданные образы женщин и их эстетики — либо полностью стирают женщин из поля зрения. Таким образом, хайп по отношению к ИИ не только упрощает общественное восприятие технологий, но и упрощает нашу реальность, стирая любые «зернистые», изменчивые или не соответствующие нормам образы. Это способствует исчезновению женщин из цифрового пространства.
Власть и насилие по Ганне Арендт
Философ Ганна Арендт провела различие между властью и насилием, что остается актуальным и сегодня. По ее мнению, власть связана с видимостью и возникает там, где люди действуют совместно в публичном пространстве и участвуют в политической жизни. Насилие же, напротив, уменьшает эту способность, прерывая коллективные действия путем запугивания, изоляции и бесшумного подавления — делая тех, кто подвергается нападкам, невидимыми.
При обсуждении угроз гендерного насилия в интернете, включая несанкционированное распространение интимных изображений, зачастую уделяется внимание лишь искаженной гендерной предвзятости данных, на которых обучается ИИ. Тем не менее, утверждать, что именно хайп вокруг ИИ вызывает гендерное насилие, было бы упрощением. Не каждое приложение ИИ способствует этому, и не все пользователи – сексисты или антинародные силы. Однако чрезмерный энтузиазм и рекламные заявления о генеративном ИИ часто замыливают вопрос ответственности, преподнося такие системы как нейтральные инструменты, воздействие которых целиком зависит от запросов пользователей.
Кейс Grok и бизнес-модель гендерного насилия
В начале 2026 года бурный резонанс вызвал скандал, связанный с генеративным ИИ-приложением Grok, разработанным компанией xAI Илона Маска. Его использовали для создания и распространения несанкционированных сексуализированных изображений женщин и детей на платформе X и за ее пределами. Несмотря на очевидные этические нарушения, эти инциденты зачастую трактовались как технические ошибки, некомпетентность пользователей или провалы модерации. Маск же комментировал критику как попытку регулирующих органов наложить цензуру.
Однако, как отмечал эксперт в области политики технологий Эрык Сальваджио, решения о том, какие действия допускает система, создаются не только пользователями и данными, но и компаниями и разработчиками. Системы, позволяющие генерировать несанкционированные изображения, не являются технологическими случайностями. Они разрабатывались в контексте, где подобное использование было предсказуемым. Следовательно, вопрос стоит не только в том, почему пользователи эксплуатируют систему, но и почему инфраструктура была создана таким образом, что допускает предсказуемый вред. Grok — это не просто предвзятая технология, это насильственная.
Технологии, ценности и визуальная политика
Технологии никогда не создавались вне контекста ценностей. Философы технологий давно доказывают, что технические артефакты, включая ИИ, всегда несут в себе определенный набор предположений и социально-технических приоритетов. Генеративные ИИ-системы формируются исходя из множества дизайнерских решений, вибираемых данных, фильтров, скрытых подсказок, ограничений интерфейса и целей оптимизации. Условия их применения создаются еще до того, как пользователь вводит запрос. Взаимодействие с ИИ не может быть нейтральным: ИИ — инструмент власти, который используется для контроля визуальных образов определенных социальных групп.
Хайп вокруг ИИ насыщен ценностями, мировоззрением и политическими позициями. Он привлекает внимание, инвестиции и доходы, упрощая восприятие технологии, не позволяя учесть риски и зачастую скрывая негативные последствия. Хотя хайп сам по себе не является проблемой, его цели и динамика требуют критического анализа, чтобы понять, кому он выгоден и кого делает невидимым или уязвимым.
Синтетическая дискриминация и невидимость женщин
Синтетические изображения, создаваемые ИИ, — это не просто новый медиаформат, но и средство распространения идеологий, зачастую неочевидных для пользователей. Генеративные системы, такие как Grok, ChatGPT и Midjourney, основаны на сложных сочетаниях данных, вычислений и оптимизации. Данные здесь не просто найдены или утрачены, а тщательно отбираются, фильтруются и модифицируются в результате корпоративных решений.
Отличается характер визуального материала: ИИ-изображение женщины может быть создано без реального прототипа — оно является сборкой образов, основанных на миллионах точек данных. Такие изображения не просто фальшивы, они замещают настоящие изображения женщин. Даже если генеративное изображение отсылает к реальной женщине, после применения фильтров и статистических ассоциаций оно теряет связь с конкретной личностью.
Это ведет к явлению, которое автор называет синтетической дискриминацией. Хотя можно возразить, что искусственные образы затрагивают и мужчин, большинство из них не подвергаются системному уничижению или сексуализации как женщины, а сама индустрия ИИ преимущественно построена и управляется мужчинами.
Особенно трудно достичь инклюзивного отображения женщин в интернете, и эта задача становится всё более сложной. Пожилые женщины, женщины с ограниченными возможностями и женщины цвета кожи имеют ещё меньшую представленность, с более частыми стереотипными образами. С ростом синтетического контента ситуация ухудшается: женщины рискуют исчезнуть из цифровой сферы, поскольку изображения, созданные ИИ, вытесняют настоящие фотографии и визуальные материалы.
Демократические риски: вытеснение женщин из публичного пространства
Синтетическая дискриминация — это не просто несправедливое представление женщин, но и подрыв самой основы демократического представительства, основанного на участии и видимости. Как форма структурной невидимости, ИИ-насилие лишает женщин возможности быть видимыми участниками общественной жизни.
Это не означает, что сексуализация не играет роли, — напротив, она лишь усиливает проблему невидимости. Парадокс ИИ состоит в том, что он может не только представлять женщин не как субъектов, но и одновременно оставлять их уязвимыми для насилия.
Ссылка на взгляды Арендт вновь помогает понять, что демократия живет благодаря гражданам, участвующим в публичных дебатах и признанным как легитимные субъекты. Синтетическая дискриминация способна препятствовать этому процессу. Виртуальный «ИИ-образ женщины» не является политическим агентом, представляющим реальную женщину, а отражает идеологизированный и эстетически обусловленный объект, созданный структурами и сетями, стоящими за ИИ.
Если цифровое пространство будет насыщено гиперреалистичными образами женщин, созданными ИИ, место для реального представительства женщин будет сокращаться. На данный момент синтетическая дискриминация не является доминирующей реальностью, но связь между эстетикой и идеологией, а также антикдемократическими тенденциями технологий ИИ вызывает серьезные опасения.
Заключение
Синтетическая дискриминация является предупреждением о тонком, на первый взгляд случайном, но системном насилии, проявляющемся через технические и визуальные ошибки. Такие приложения, как Grok, выступают дисциплинарными механизмами, показывая, кто контролирует участие в цифровом пространстве, чьи тела остаются уязвимыми для нарушения, и чье присутствие в публичном цифровом пространстве является условным.
Гендерное насилие с использованием ИИ не сводится к банальной технической проблеме или недостаткам данных — оно отражает масштабные политические и монополистические процессы, формирующие современные инфраструктуры. Чем глубже ИИ интегрируется в повседневную жизнь, тем важнее задаваться вопросами, какую роль в демократическом обществе он играет, чья видимость обеспечивается и чье исчезновение считается приемлемым.
Защита женщин от ИИ-насилия и невидимости — это не только вопрос охраны уязвимой группы, но и демократический императив. Борьба с хайпом вокруг ИИ требует признания режимов видимости и невидимости, создаваемых технологиями, а не только предвзятости. Это призыв к осознанию того, что ИИ может превращать женщин не только в сексуализированные объекты, но и в потенциально невидимых граждан.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching