Искусственный интеллект (ИИ) представляет собой серьезный риск для человечества, вплоть до угрозы вынужденного вымирания. Об этом заявляют ведущие компьютерные ученые и технологи, призывая к глобальным мерам по снижению угрозы.
«Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими масштабными общественными угрозами, такими как пандемии и ядерная война», — говорится в кратком заявлении, опубликованном Центром по безопасности искусственного интеллекта, базирующимся в Сан-Франциско.
Заявления известных экспертов и технологических лидеров
Подписантами заявления выступили такие авторитетные фигуры, как Сэм Олтман — генеральный директор OpenAI, Джеффри Хинтон, которого называют «крестным отцом ИИ», Одри Тан, министр цифровых технологий Тайваня, а также другие заметные специалисты, включая нейробиолога Сэма Харриса и музыкантку Граймс.
Ранее, в марте, группа известных общественных деятелей, включая Илона Маска, подписала открытое письмо, в котором призвала приостановить на шесть месяцев разработку ИИ-систем более высокого уровня, чем GPT-4 от OpenAI.
«Мощные ИИ-системы должны разрабатываться только тогда, когда можно быть уверенным, что их воздействие будет позитивным, а риски — управляемыми», — говорится в письме.
Риски и вызовы развития ИИ
Быстрый прогресс в области ИИ вызывает растущие опасения в отношении его возможных негативных последствий для общества. Среди них выделяются:
- массовая потеря рабочих мест,
- нарушение авторских прав,
- распространение дезинформации,
- политическая нестабильность.
Некоторые специалисты предупреждают, что человечество может потерять контроль над технологиями искусственного интеллекта.
Появление искусственного общего интеллекта (AGI)
Хотя на сегодняшний день ИИ не достиг уровня искусственного общего интеллекта (AGI), который позволял бы принимать независимые решения, исследователи Microsoft в марте сообщили, что GPT-4 демонстрирует «искорки AGI». Эта модель способна решать новые и сложные задачи в таких областях, как математика, программирование, визуальное восприятие, медицина, право, психология и другие без дополнительного специального обучения.
Рост предупреждений и вызовов регулирования
В последние месяцы предупреждения о потенциальных опасностях ИИ усилились. Например, Джеффри Хинтон покинул свою должность в Google, чтобы больше уделять внимания вопросам рисков, связанных с ИИ.
В начале июня Сэм Олтман выступил перед Конгрессом США с призывом к разработке регуляций для технологий ИИ и предложил ввести систему лицензирования таких разработок.
США и другие страны активно работают над законодательством, пытаясь сбалансировать контроль и развитие перспективных технологий.
Международные инициативы по регулированию ИИ
Европейский союз планирует принять нормативные акты к концу года, которые классифицируют ИИ по четырем категориям риска.
Китай также предпринимает меры по регулированию ИИ: приняты законы против Deepfake-технологий, введена обязанность компаний регистрировать алгоритмы у регуляторов.
Пекин предлагает строгие правила для ограничений политически чувствительного контента и требует одобрения разработчиками выпуска генеративных ИИ-продуктов.
Выводы
Таким образом, ИИ — это не только технологический прорыв, но и глобальный вызов, который требует скоординированных международных усилий для обеспечения безопасности и контролируемого развития.
Эксперты подчеркивают необходимость внедрения эффективных правил и регулирования, позволяющих минимизировать риски и в то же время стимулировать инновации. Без должного контроля искусственный интеллект может привести к серьезным социальным и экономическим потрясениям, и даже поставить под угрозу само существование человечества.
Продолжающееся исследование, оценка рисков и открытый научный диалог являются ключевыми элементами для безопасного и этичного применения технологий искусственного интеллекта в будущем.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching