Европол предупреждает об опасности ChatGPT: злоумышленники могут использовать его для фишинга и распространения дезинформации

Kate

Administrator
Команда форума
Европейская полиция (Европол) сообщила о потенциальной опасности чат-бота ChatGPT с искусственным интеллектом. По данным правоохранительных органов, эта система может использоваться для различной незаконной деятельности.

Европол предупреждает об опасности ChatGPT: злоумышленники могут использовать его для фишинга и распространения дезинформации
Сгенерировано нейросетью Midjourney

«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками даёт мрачные перспективы», — заявили в Европоле.

В техническом отчёте приводятся такие варианты вредоносного использования чат-бота:

  1. Фишинг.
  2. Целенаправленное преследование жертв.
  3. Создание и распространение дезинформации.
Также отмечается, что чат-бот умеет имитировать стиль речи и письма конкретных людей, что позволяет легче обмануть жертву, создать ложные сообщения от её имени и так далее.

«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — отметили в Европоле.

Также заявлено, что ChatGPT может легко генерировать и распространять сообщения с ложными данными и даже писать вредоносный код. При этом пока не говорится о конкретных правонарушениях с использованием ИИ, однако наверняка таковые уже есть.

 
Сверху