Регулирование ИИ — LAist

После трех лет попыток дать жителям Калифорнии право знать, когда ИИ принимает значимые решения в их жизни, и возможность оспаривать эти решения, член Ассамблеи Ребекка Бауэр-Кахан сообщила, что ей и ее сторонникам придется снова подождать, пока законопроект вернется в следующем году. Депутат от Сан-Рамона объявила в пятницу, что Законодательный проект 1018, который прошел в Ассамблее и двух комитетах Сената, был назначен как двухлетний законопроект, что означает, что он может вернуться в рамках законодательной сессии следующего года. Этот шаг позволит больше времени для обсуждений с губернатором Гэвином Newsom и более чем 70 противниками.

Ее законопроект требует от бизнеса и государственных учреждений уведомлять граждан, когда автоматизированные системы используются для принятия важных решений о них, включая аренду квартир, admission в школы и, на рабочем месте, найм, увольнение, повышения и дисциплинарные меры. Законопроект также охватывает решения в области образования, здравоохранения, уголовного правосудия, государственных пособий, финансовых услуг и страхования.

• Автоматизированные системы, которые назначают людям оценки или делают рекомендации, могут помешать жителям Калифорнии получать пособия по безработице, на которые они имеют право.
• Они могут объявить кандидатов на работу менее квалифицированными по произвольным причинам, не связанным с их профессиональной деятельностью.
• Или могут отказать людям в получении медицинской помощи или ипотеки на основании их расы.

Бауэр-Кахан подтвердила, что эта пауза отражает их стремление добиться правильного регулирования, а не retreat от ответственности защитить жителей Калифорнии.

Интенсивная законодательная борьба

Заместитель главы программы в TechEquity, спонсоре законопроекта, Саманта Гордон заметила, что на этой неделе она видела больше лоббистов, пытающихся остановить AB 1018 в Сенате Калифорнии, чем для любого другого законопроекта об ИИ. Она считает, что у AB 1018 был путь к принятию, но было принято решение приостановить его для работы с губернатором, который завершит свой второй и последний срок в следующем году.

Гордон считает, что технологические компании будут использовать свои «неограниченные финансовые средства» для борьбы с законом в следующем году. «Но ясно,» добавила она, «что американцам нужны эти защиты — опрос за опросом показывает, что они хотят животных и что добровольные меры недостаточны.»

Законопроект AB 1018 столкнулся с оппозицией со стороны промышленных групп, крупных технологических компаний, крупнейшего поставщика здравоохранения в штате, венчурных капиталистов и Судебного совета Калифорнии, органа, отвечающего за политику в области государственных судов.

Коалиция больниц, Kaiser Permanente и компании Epic Systems, занимающейся программным обеспечением и ИИ в здравоохранении, призвала законодателей проголосовать против 1018, так как они утверждали, что законопроект негативно повлияет на медицинское обслуживание и увеличит затраты.

Почему сторонники продолжают борьбу

Точная стоимость, которую AB 1018 может обойтись налогоплательщикам, до сих пор остается большой неизвестной. Несмотря на противоречивые сведения от государственных учреждений, законопроект встретил поддержку от профсоюзов, которые пообещали обсудить ИИ в коллективных договорах, включая Ассоциацию медсестер Калифорнии и Международный союз служащих.

Соавторами AB 1018 являются основные демократы-приверженцы регулирования ИИ в Законодательном собрании Калифорнии, включая лидера большинства в Ассамблее Сесилию Агилар-Керри из Дэвиса.

Язык антидискриминации в AB 1018 важен, потому что технологические компании и их клиенты часто считают себя исключенными из закона о дискриминации, если дискриминация происходит через автоматизированные системы. Исследователь ИИ из UC Berkeley, Иниолуэва Дебора Раджи, заметила, что также важно учитывать требование о раскрытии, поскольку «люди заслуживают знать, и нет другого способа оспорить без этого».

Законопроект об ИИ появился на фоне постоянного противостояния политиков в Вашингтоне, которые продолжают выступать против регулирования ИИ, утверждая, что оно может помешать прогрессу. Консультативная группа по ИИ под администрацией Байдена оставила свои правила в ожидании.

Соблюдение закона требует, чтобы алгоритмы предлагали «полные и равные» возможности всем и не допускали дискриминации на основе таких характеристик, как возраст, раса, пол, инвалидность или иммиграционный статус. Разработчики должны проводить оценку воздействия для поиска предвзятости в их системах. Если оценка воздействия не проводится, и система используется для принятия значительных решений о жизни людей, разработчик может столкнуться с штрафами до 25,000 долларов США за нарушение.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching