Jak podaje Reuters, siły policyjne UE, czyli Europol, ostrzegły w poniedziałek przed potencjalnym niewłaściwym wykorzystaniem chatbota ChatGPT w próbach phishingu, dezinformacji i cyberprzestępczości.
Od czasu premiery w zeszłym roku, wspierany przez Microsoft OpenAI ChatGPT wywołał szaleństwo technologiczne, skłaniając rywali do wprowadzania podobnych produktów i firm do integrowania tej lub podobnych technologii ze swoimi aplikacjami i produktami.
Mówi się, że zdolność ChatGPT do tworzenia autentycznie brzmiącego tekstu z dużą szybkością i na dużą skalę czyni go również idealnym narzędziem do propagandy i dezinformacji. „Pozwala użytkownikom generować i rozpowszechniać wiadomości odzwierciedlające określoną narrację przy stosunkowo niewielkim wysiłku”. Europol powiedział, że przestępcy z niewielką wiedzą techniczną mogą zwrócić się do ChatGPT w celu stworzenia złośliwego kodu.
„Ponieważ możliwości LLM (dużych modeli językowych), takich jak ChatGPT, są aktywnie ulepszane, potencjalne wykorzystanie tego typu systemów sztucznej inteligencji przez przestępców stwarza ponure perspektywy”, powiedział Europol, przedstawiając swój pierwszy raport techniczny, zaczynając od chatbota.
Europol wyróżnił szkodliwe wykorzystanie ChatGPT w sumie trzech obszarach przestępczości. „Zdolność ChatGPT do tworzenia wysoce realistycznych tekstów sprawia, że jest to przydatne narzędzie do celów phishingowych” – powiedział Europol. Dzięki zdolności do odtwarzania wzorców językowych w celu podszywania się pod styl wypowiedzi określonych osób lub grup, chatbot może być wykorzystywany przez przestępców do atakowania ofiar, powiedział unijny organ ścigania.
