Malware si podomácku udělá každý. Stačí využít bezplatný nástroj ChatGPT
- ChatGPT od OpenAI válcuje internet
- Technologie je v epicentru obřích investic
- Začínají se objevovat i stinné stránky
Umělá inteligence | ilustrační foto
ChatGPT (zkratka GPT znamená „generating pre-training“ – pozn. redakce) představuje nejnovější vývoj v oblasti chatbotů pracujících s umělou inteligencí. Za jeho zrodem nestojí nikdo menší než Elon Musk spolu s dalšími špičkami, které společnost OpenAI založily v roce 2015. ChatGPT se neustále zdokonaluje prolínáním umělé inteligence a strojového učení.
ChatGPT si podmanil svět
A jak jsme vás v několika po sobě jdoucích ohlédnutích informovali, tento systém založený na dialogu, chápání a dorozumívání se domluví v takřka každém myslitelném lidském jazyce. Díky tomu si přímo říká o rozmanitou konverzaci.
Jako datový podklad slouží ohromný balík informací získaný z internetu, jež je zpracováván pomocí metody Reinforcement Learning with Human Feedback (RLHF). Co z toho plyne? Třeba to, že tento chatbot je schopen neuvěřitelně pružně reagovat na celou řadu otázek v reálném čase.
A také zvládne programovat. Samozřejmě, že tento krok od uživatele vyžaduje více než základní penzum znalostí, ale jak se nově ukazuje ChatGPT může být využit (zneužit) i pro kybernetické útoky, informuje server IndianExpress s odvoláním na experty z Checkpoint Research.
Odborníci potvrzují, že ChatGPT lze použít ke generování phishingových e-mailů a škodlivého kódu
Čtěte také: Microsoft si došlápne na Google. Bing dostane přelomovou umělou inteligenci ChatGPT
Chatbot zvládne vytvořit i malware
„Poté, co jsme o této možnosti nedávno zveřejnili příspěvek, ChatGPT už na výzvu vytvořit phishingový e-mail nereaguje. To však nic nemění na tom, že jsme si povšimli dalších způsobů, jak tuto restrikci obejit,“ sdělil webu Sergey Shykevich z CheckPoint Research.
A jedním dechem dodal: „Pokud například chatbotovi sdělíte, že jste odborníkem na kyberbezpečnost a chcete takový útok předvést studentům, AI to udělá.“ Rovněž vyslovil obavu, že sofistikovanější útočníci mohou zajít ještě dále.
Stále jde o velké riziko
Podle Chestera Wisniewského, hlavního analytika britské společnosti Sophos zabývající se kybernetickou bezpečností, je docela snadné přesvědčit ChatGPT, aby v rámci nevinné konverzace pomohl vytvořit i potenciálně nebezpečný software.
Související
Nepřehlédněte
Diskuze
Nejčtenější články
Malware si podomácku udělá každý. Stačí využít bezplatný nástroj ChatGPT
- ChatGPT od OpenAI válcuje internet
- Technologie je v epicentru obřích investic
- Začínají se objevovat i stinné stránky
Umělá inteligence | ilustrační foto
ChatGPT (zkratka GPT znamená „generating pre-training“ – pozn. redakce) představuje nejnovější vývoj v oblasti chatbotů pracujících s umělou inteligencí. Za jeho zrodem nestojí nikdo menší než Elon Musk spolu s dalšími špičkami, které společnost OpenAI založily v roce 2015. ChatGPT se neustále zdokonaluje prolínáním umělé inteligence a strojového učení.
ChatGPT si podmanil svět
A jak jsme vás v několika po sobě jdoucích ohlédnutích informovali, tento systém založený na dialogu, chápání a dorozumívání se domluví v takřka každém myslitelném lidském jazyce. Díky tomu si přímo říká o rozmanitou konverzaci.
Jako datový podklad slouží ohromný balík informací získaný z internetu, jež je zpracováván pomocí metody Reinforcement Learning with Human Feedback (RLHF). Co z toho plyne? Třeba to, že tento chatbot je schopen neuvěřitelně pružně reagovat na celou řadu otázek v reálném čase.
A také zvládne programovat. Samozřejmě, že tento krok od uživatele vyžaduje více než základní penzum znalostí, ale jak se nově ukazuje ChatGPT může být využit (zneužit) i pro kybernetické útoky, informuje server IndianExpress s odvoláním na experty z Checkpoint Research.
Odborníci potvrzují, že ChatGPT lze použít ke generování phishingových e-mailů a škodlivého kódu
Čtěte také: Microsoft si došlápne na Google. Bing dostane přelomovou umělou inteligenci ChatGPT
Chatbot zvládne vytvořit i malware
„Poté, co jsme o této možnosti nedávno zveřejnili příspěvek, ChatGPT už na výzvu vytvořit phishingový e-mail nereaguje. To však nic nemění na tom, že jsme si povšimli dalších způsobů, jak tuto restrikci obejit,“ sdělil webu Sergey Shykevich z CheckPoint Research.
A jedním dechem dodal: „Pokud například chatbotovi sdělíte, že jste odborníkem na kyberbezpečnost a chcete takový útok předvést studentům, AI to udělá.“ Rovněž vyslovil obavu, že sofistikovanější útočníci mohou zajít ještě dále.
Stále jde o velké riziko
Podle Chestera Wisniewského, hlavního analytika britské společnosti Sophos zabývající se kybernetickou bezpečností, je docela snadné přesvědčit ChatGPT, aby v rámci nevinné konverzace pomohl vytvořit i potenciálně nebezpečný software.
Nepřehlédněte