OpenAI и Microsoft укрепляют позиции Великобритании в области согласования ИИ благодаря увеличению финансирования

Компании OpenAI и Microsoft объединили усилия с Великобританией, чтобы повысить безопасность искусственного интеллекта (ИИ). Это стало возможным благодаря увеличению финансирования проекта Alignment Project, реализуемого Институтом безопасности ИИ Великобритании. О данной инициативе было объявлено на саммите AI Impact Summit. Цель проекта — обеспечить надёжность и безопасность систем ИИ при поддержке международной коалиции.

Детали инициативы

На саммите в Нью-Дели заместитель премьер-министра Великобритании Дэвид Лэмми и министр по вопросам ИИ Канишка Нараян объявили о новых финансовых вливаниях в проект Alignment Project. В результате общий объём финансирования исследований в области согласования ИИ превысит GBP 27 миллионов. При этом OpenAI внесёт дополнительные GBP 5,6 миллиона, а поддержку окажут Microsoft и другие глобальные партнёры.

Цели проекта

Проект Alignment Project сосредоточен на критически важном направлении — согласовании ИИ. Его задача — обеспечить работу продвинутых систем ИИ в соответствии с заданными параметрами и предотвратить непреднамеренные или вредоносные действия с их стороны.

Инициатива призвана укрепить доверие общества к технологиям ИИ, которые всё активнее внедряются в:

• государственные услуги;
• инфраструктуру;
• процессы повышения производительности;
• ускорение обработки медицинских снимков;
• создание новых рабочих мест.

Дэвид Лэмми подчеркнул потенциал ИИ и отметил важность интеграции мер безопасности с самого начала. Он заявил: «Поддержка со стороны OpenAI и Microsoft будет неоценима для продолжения этой работы».

Планы и перспективы

На текущий момент проект уже распределил гранты среди 60 исследовательских проектов в восьми странах. Этим летом планируется запустить второй раунд финансирования.

Эксперты предупреждают: без устойчивого прогресса в исследованиях по согласованию ИИ мощные модели могут начать действовать непредсказуемо. Это создаст потенциальные угрозы для глобальной безопасности.

Канишка Нараян, министр по вопросам ИИ Великобритании, акцентировал внимание на том, что доверие общества — необходимое условие для внедрения ИИ. По его словам, исследования в области согласования напрямую решают эту задачу.

Значение сотрудничества

Поддержка со стороны OpenAI и Microsoft позволяет проекту продолжить важную работу по обеспечению безопасной реализации огромного потенциала ИИ. Сотрудничество между частным сектором и государством демонстрирует новый уровень взаимодействия в сфере регулирования и развития технологий ИИ.

Усилия по согласованию ИИ становятся всё более актуальными на фоне стремительного развития технологий. Обеспечение безопасности и предсказуемости работы систем ИИ — ключевая задача, от решения которой зависит будущее не только технологической отрасли, но и общества в целом.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching