OpenAI и Microsoft укрепляют позиции Великобритании в области согласования ИИ благодаря увеличению финансирования

Компании OpenAI и Microsoft объединили усилия с Великобританией, чтобы повысить уровень безопасности искусственного интеллекта (ИИ). Это стало возможным благодаря увеличению финансирования проекта Alignment Project, реализуемого Институтом безопасности ИИ Великобритании (UK AI Security Institute). О данной инициативе было объявлено на саммите AI Impact Summit.

Ключевые детали инициативы

На саммите в Нью-Дели заместитель премьер-министра Великобритании Дэвид Лэмми и министр по вопросам ИИ Канишка Нараян объявили о новом этапе финансирования проекта. В результате общий объём средств, выделяемых на исследования в области согласования ИИ (AI alignment), превысит GBP 27 миллионов. При этом OpenAI внесёт дополнительные GBP 5,6 миллиона, а поддержку окажут Microsoft и другие международные партнёры.

Цели проекта Alignment Project

Проект Alignment Project сосредоточен на критически важной области — согласовании ИИ. Его цель — обеспечить работу продвинутых систем искусственного интеллекта в соответствии с задуманным, предотвращая непреднамеренные или вредные действия. Инициатива направлена на:

• укрепление доверия общества к технологиям ИИ;
• интеграцию ИИ в государственные услуги и инфраструктуру;
• повышение производительности;
• ускорение процессов анализа медицинских снимков;
• создание новых рабочих мест.

Дэвид Лэмми подчеркнул потенциал ИИ, отметив важность внедрения мер безопасности с самого начала. Он заявил: «Поддержка со стороны OpenAI и Microsoft будет неоценима для дальнейшего продвижения этой работы».

Текущие достижения и планы на будущее

На текущий момент проект уже распределил гранты на реализацию 60 исследовательских проектов в восьми странах. Этим летом планируется запустить второй раунд финансирования.

Почему это важно?

Эксперты предупреждают: без устойчивого прогресса в исследованиях по согласованию ИИ мощные модели могут начать действовать непредсказуемо, что создаст потенциальные угрозы для глобальной безопасности. Канишка Нараян, министр по вопросам ИИ, акцентировал внимание на том, что доверие общества — необходимое условие для широкого внедрения ИИ. Исследования в области согласования напрямую решают эту задачу.

Благодаря поддержке OpenAI и Microsoft проект продолжает важную работу по обеспечению безопасного использования ИИ и реализации его огромного потенциала на благо общества.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching