ChatGPT na straně zločinu? Europol má první varovné příklady

March 30, 2023 Bary Howards

Jak už to tak u nových technologických vychytávek bohužel bývá, do jejich využívání se nepouští pouze amatérští nadšenci či poctiví profesionálové v oboru, ale také zástupci podsvětí. Tento osud se velmi pravděpodobně nevyhne ani momentálně extrémně populárnímu textovému AI nástroji ChatGPT. Evropský policejní úřad (Europol) popsal několik případů, jak je tento jazykový model možné využít k páchání zločinu.

“Vzhledem k tomu, že schopnosti LLM (velkých jazykových modelů), jako je ChatGPT, se aktivně zdokonalují, potenciální zneužití těchto typů systémů umělé inteligence zločinci poskytuje chmurné vyhlídky,” varuje Europol hned ve své první zprávě, která se týkala této služby. V dokumentu jsou rozepsány tři následující konkrétní hrozby.

Phishing: Europol upozornil, že schopnost generovat velmi realistický text činí z nástroje atraktivní nástroj pro účely phishingu. Schopnost chatbota napodobovat jazykové vzorce a vydávat se za styl řeči konkrétních osob nebo skupin by mohli zločinci využít k zacílení na nic netušící oběti.
Propaganda a dezinformace: Schopnost ChatGPT rychle a ve velkém měřítku vytvářet autenticky znějící text z něj činí ideální nástroj pro propagandistické a dezinformační kampaně. Europol vysvětlil, že tato technologie umožňuje uživatelům vytvářet a šířit zprávy, které odrážejí konkrétní narativy, s minimálním úsilím.
Kyberkriminalita: Europol také varoval, že zločinci s omezenými technickými znalostmi mohou nástroj využít k vytvoření škodlivého kódu. To znamená, že i jednotlivci s minimálními programátorskými dovednostmi by mohli využít sílu ChatGPT k zapojení do kyberkriminálních aktivit.

Varování Europolu připomíná potenciální nebezpečí, které pro společnost představují pokročilé technologie umělé inteligence, jako je ChatGPT. Přestože tyto inovace nabízejí řadu výhod a vymožeností, je nezbytné, aby orgány činné v trestním řízení, tvůrci opatření a vývojáři technologií spolupracovali a zavedli ochranná opatření, která zabrání zneužití těchto výkonných nástrojů zločinci.