Пять вопросов с … Юхун Лиу — Университет Санта-Клара

Юхун Лиу является доцентом кафедры информатики и инженерии Университета Санта-Клара. Лауреат премии «Исследователь года» 2019 года от Школы инженерии и премии «Превосходство в докторских исследованиях» от Университета Род-Айленд 2013 года, она опубликовала более 100 статей в ведущих журналах и на конференциях, две из которых были признаны лучшими статьями на IEEE Social Computing 2010 и UMEDIA 2016. Её исследования сосредоточены на доверии, безопасности и конфиденциальности в новых технологиях, включая генеративный ИИ, Интернет вещей и блокчейн. Она является заместителем редактора нескольких крупных журналов, включая IEEE Transactions on Service Computing и IEEE Transactions on Circuits and Systems for Video Technology, и активно участвует в профессиональном лидерстве через Общество компьютерной техники и APSIPA, где в настоящее время занимает должность председателя американского отделения APSIPA.

Какой вопрос или задача стоит в центре вашей текущей работы?

В центре моей работы стоит вопрос о том, как создавать, устанавливать и поддерживать доверие между людьми, ИИ и автономными системами в рамках более широкого поля надежных вычислений. По мере того как принятие решений все больше включает как людей, так и интеллектуальные системы, обеспечение доверия становится более сложной задачей, требующей моделей, которые могут адаптироваться к неопределенности, контексту и развивающимся взаимодействиям. Мои исследования сосредоточены на разработке моделей доверия, которые формализуют и измеряют доверие, и применении их в различных областях для того, чтобы сделать доверие более динамичным, ориентированным на контекст и устойчивым.

Почему этот вопрос важен для мира в настоящее время?

Эта проблема важна сейчас, потому что с ростом числа ИИ-агентов и киберфизических систем, таких как автономные автомобили и «умные» сети, решения, принимаемые алгоритмами, напрямую влияют на нашу повседневную жизнь. В прошлом надежные вычисления сосредоточивались на обеспечении надежности, целостности и конфиденциальности в цифровых системах. Сегодня эти системы взаимодействуют с физическим миром, собирая данные с помощью датчиков, принимая решения на основе ИИ и отправляя управляющие сигналы для действий. Это делает доверие не только техническим вопросом, но и человеческим.

Почему вы выбрали посвятить свою карьеру этому исследованию?

Я начала работать над вопросом доверия во время своей аспирантуры, когда мой научный руководитель и я изучали системы онлайн-отзывов, такие как Amazon и eBay. Мы пытались понять, как люди создают доверие в цифровом пространстве и как определить, являются ли отзывы подлинными или манипулируемыми недобросовестными участниками. Это привело нас к исследованию таких понятий, как прямое и косвенное доверие, заимствованных из социологии, для моделирования того, как люди формируют доверие через личный опыт и рекомендации. Я находила это увлекательным, потому что это соединяло инженерные науки с человеческим поведением, показывая, что доверие — это не только техническое, но и социальное и философское понятие.

Как ваши студенты повлияли на ваше исследование?

Мои студенты оказали значительное влияние на мои исследования. Я работаю со студентами всех уровней, включая бакалавров, магистрантов и аспирантов, и у каждого из них есть свои уникальные взгляды. Некоторые из них больше сосредоточены на практических вопросах, в то время как другие привносят новую информацию и исследования о последних моделях и технологиях. Работа с ними позволяет мне постоянно учиться, и я чувствую себя счастливой работать с такими талантливыми студентами. Они придают мне мотивацию и вдохновение для дальнейшей работы.

Какая книга в вашей области, по вашему мнению, должна быть прочитана каждым?

Две книги, которые я рекомендую, это «Проблема согласования: машинное обучение и человеческие ценности» Брайана Кристиана и «Введение ИИ в критическую подсистему: обеспеченное доверие и автономия в командах человек-машина». Обе исследуют, как люди и ИИ могут сотрудничать надежным образом. Первая книга касается того, как ИИ-системы могут быть спроектированы с учетом человеческих ценностей, что является важной частью ответственного ИИ. Вторая книга сосредоточена на доверии и сотрудничестве между людьми и машинами, что является центральной темой моих исследований.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching