Обратная связь, сгенерированная ИИ, ставит новые вопросы перед законодателями

В Южной Калифорнии орган, отвечающий за качество воздуха, получил более 20 000 комментариев в рамках кампании с использованием искусственного интеллекта — прежде чем отклонить предложение об ограничении выбросов загрязняющих веществ от газовых приборов.

Масштаб кампании

В июне рассматривалось предложение о постепенном отказе от газовых приборов. Объём поступивших писем казался впечатляющим — десятки тысяч сообщений хлынули в регулирующий орган Южной Калифорнии.

Однако выяснилось, что значительная часть сообщений была сгенерирована с помощью платформы на базе искусственного интеллекта. Согласно запросам публичных данных, рассмотренным The Times, более 20 000 комментариев, направленных против прошлогоднего предложения, были созданы компанией CiviClick (Вашингтон, округ Колумбия). Компания позиционирует себя как «первую и лучшую платформу для массовой адвокации на базе ИИ».

Как работала кампания

Консультант по связям с общественностью из Южной Калифорнии Мэтт Клинк признал, что использовал CiviClick для организации кампании противодействия. В sponsored-статье на сайте Campaigns and Elections отмечается, что кампания «ошеломила сотрудников Управления по качеству воздуха Южного побережья (SCAQMD)».

Детали использования ИИ в кампании остаются неясными — представители CiviClick не ответили на неоднократные запросы о комментариях. Тем не менее на сайте компании заявлены инструменты, включая «передовые технологии и помощь ИИ в составлении сообщений», которые позволяют создавать персонализированные письма в отличие от шаблонных форм и петиций.

Проверка подлинности комментариев

Сотрудники воздушного округа связались с небольшой выборкой людей, чтобы проверить подлинность их комментариев. Как показывают записи, по крайней мере трое заявили, что не отправляли сообщений и не знали о таких письмах.

Несмотря на это, шквал электронных писем, вероятно, повлиял на решение совета в июне. Обычно количество публичных комментариев по вопросам повестки дня исчисляется единицами.

Суть предложения

Предлагаемые правила разрабатывались почти два года. Они предусматривали:

• введение сбора за газовые водонагреватели и печи ($100 за газовые печи и $50 за газовые водонагреватели);
• установление целевых показателей продаж электрических водонагревателей и отопительных приборов.

Этот подход «кнута и пряника» затронул бы около 10 миллионов единиц оборудования в регионе. Ожидается, что после полного внедрения правила предотвратят выброс 6 тонн NOx (оксидов азота) ежедневно — это примерно столько же, сколько выбрасывают две электростанции на природном газе.

По оценкам воздушного округа, это позволило бы предотвратить:

• около 2 500 преждевременных смертей;
• более 10 000 новых случаев астмы.

Стороны конфликта

Противники правил:

• Southern California Gas Co.;
• Cost of Living Council;
• местные ассоциации риелторов и торговые палаты.

Сторонники правил:

• California Environmental Voters;
• Coalition for Clean Air;
• группы, выступающие за декарбонизацию, электрификацию и экологическую справедливость.

Реакция и опасения экспертов

Наплыв писем вызвал подозрения внутри AQMD. Команда по кибербезопасности агентства связалась с небольшой группой людей, чтобы подтвердить, что они отправили комментарии или уполномочили другую сторону отправить письмо от их имени. Из пяти ответивших двое подтвердили отправку сообщения, а трое заявили, что ничего не знают о письмах.

Представитель воздушного округа Нахал Могараби подтвердила, что объём комментариев был необычным, и агентство обеспокоено их подлинностью. Однако она не смогла сказать, повлияла ли кампания на решение совета.

Диллан Пламмер, исполняющий обязанности заместителя директора по электрификации зданий в некоммерческой организации Sierra Club, поддержал предложенные правила. Он назвал использование кампаний на базе ИИ «новой тактикой ископаемой топливной индустрии», которая угрожает целостности законотворческого процесса по всей стране.

Сэмюэль Вулли, исследователь из Университета Питтсбурга, изучающий дезинформацию и использование новых технологий в политике, заявил: «То, что мы видим с ИИ, — это абсолютно следующий шаг в цифровом астротурфинге».

Законодательные меры и перспективы

Некоторые штаты приняли законы, направленные на борьбу с астротурфингом и технологиями кампаний. Например, в Калифорнии в 2019 году был принят Bot Act, требующий от автоматизированных онлайн-аккаунтов раскрывать свою сущность, если они используются для влияния на людей в политических или коммерческих вопросах. Однако закон не упоминает искусственный интеллект, который получил широкое распространение в последние годы благодаря ChatGPT и другим инструментам.

Эксперты предупреждают, что достижения в области ИИ могут подорвать связи между политиками, политическими органами и обычными людьми. Технологии могут создать видимость того, что люди хотят того, чего на самом деле не хотят, а системы просто не приспособлены для борьбы с этим.

Итог

Совет отклонил предложение 7 против 5 голосов. Случай в Южной Калифорнии демонстрирует, как технологии ИИ могут влиять на процесс принятия политических решений, ставя перед законодателями новые сложные вопросы о подлинности общественного мнения и этичности использования автоматизированных систем в адвокации.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching