В Сети появилась петиция под названием «Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо», в которой содержится призыв приостановить на время обучение различных передовых систем искусственного интеллекта вроде GPT-4. Обращение подписали Илон Маск, Стив Возняк и ещё около 1000 экспертов в области ИИ.
Есть опасения, что неконтролируемое развитие ИИ может привести к появлению враждебной по отношению к людям системы вроде Skynet
Пауза нужна для того, чтобы выработать и стандартизировать протоколы безопасности в отношении ИИ — многие опасаются слишком быстрого развития систем, подобных GPT-4, и того, что случится, если вдруг искусственный интеллект выйдет из-под контроля.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — сказано в открытом письме.
Также подписанты предлагают создать на государственных уровнях новые регулирующие органы и системы контроля, которые могли бы гарантировать безопасность для людей систем ИИ.
www.ixbt.com
Есть опасения, что неконтролируемое развитие ИИ может привести к появлению враждебной по отношению к людям системы вроде Skynet
Пауза нужна для того, чтобы выработать и стандартизировать протоколы безопасности в отношении ИИ — многие опасаются слишком быстрого развития систем, подобных GPT-4, и того, что случится, если вдруг искусственный интеллект выйдет из-под контроля.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — сказано в открытом письме.
Также подписанты предлагают создать на государственных уровнях новые регулирующие органы и системы контроля, которые могли бы гарантировать безопасность для людей систем ИИ.
Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных
В Сети появилась петиция под названием «Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо», в которой содержится призыв приостановить на время обучение различных передовых систем искусственного интеллекта вроде GPT-4.