Přihlásit / registrovat

Zapomněli jste heslo?
Registrace

Kriminalita
Aktuality > Kriminalita
BEZPEČNÁ DOPRAVAPRVNÍ POMOCPOŽÁRYOSOBNÍ BEZPEČÍMIMOŘÁDNÉ UDÁLOSTIESHOP

(Ne)bezpečný ChatGPT

17.02.2023
Svět dobývají algoritmy strojového učení, neboli umělá inteligence (AI). Jednou z oblastí, kde AI ukazuje výrazný potenciál, jsou chatboti určení ke generování textu. Tím nejznámějším je ChatGPT (Generative Pre-trained Transformer), spuštěný firmou OpenAI v listopadu 2022, a postaven na rodině

Svět dobývají algoritmy strojového učení, neboli umělá inteligence (AI). Jednou z oblastí, kde AI ukazuje výrazný potenciál, jsou chatboti určení ke generování textu. Tím nejznámějším je ChatGPT (Generative Pre-trained Transformer), spuštěný firmou OpenAI v listopadu 2022, a postaven na rodině velkých jazykových modelů této firmy GPT-3.

foto: Pixabay

Na to, jak funguje a jaká bezpečnostní rizika přináší v dnešních dnech hojně diskutovaný ChatGPT, a jaké druhy protiopatření jsou možná, jsme se zeptali Chestera Wisniewskiho, hlavního bezpečnostního analytika společnosti Sophos.

 

foto: Archiv

Jak dobře s ohledem na možná bezpečností rizika ChatGPT funguje?

ChatGPT funguje překvapivě dobře například při psaní phishingových návnad, což se dalo očekávat s ohledem na výsledky experimentů, v rámci kterých jsme ho nechali psát dopisy, e-maily atd. Phishingová návnada se od skutečného e-mailu liší vlastně jen akcí, která se od příjemce na konci očekává. Možnost interakce s ChatGPT, která trochu vyladí sociální inženýrství, v kombinaci s jeho téměř dokonalou gramatikou z něj dělá ideální nástroj pro ty, kteří se snaží psát anglicky tak, aby text zněl jako od rodilého mluvčího, přestože že sami anglicky neumí.

Mohlo by to pomoci podvodníkům a botům nebo k vytváření falešných recenzí apod.?

Rozhodně ano. Kdybych se v této oblasti angažoval já, mou prioritou by bylo získat klíč k rozhraní API a začal bych jej zneužívat právě k tomuto účelu. Vzhledem k nízké kvalitě mnoha existujících spamových či recenzentských botů lze takto dosáhnout mnohem lepšího výsledku s větší unikátností, než byste kdy mohli nakódovat sami ručně.

Jaké druhy protiopatření jsou možné?

To je zajímavá otázka. Výzkumníci z Hugging Face vytvořili detektor GPT-2, který měl rozumnou přesnost, což naznačuje, že by mohl existovat způsob, jak detekovat text generovaný tímto konkrétním modelem s poměrně vysokou přesností. Samozřejmě, pokud začnou marketingové týmy používat ChatGPT3 k psaní reklamních textů, mohlo by jim to komplikovat blokování textu, u kterého je vysoká pravděpodobnost, že byl vygenerován umělou inteligencí (ale nebo taky ne…). Většina podvodů obsahuje nějakou „výzvu k akci“. Klikněte zde, otevřete toto, zavolejte na toto číslo atd. Možná tedy bude jednodušší zaměřit naše technické detekce spíše na tyto výzvy k akci než na samotný obsah e-mailu. Detekce je značně složitá, protože end-to-end šifrované chaty v rámci služeb, jako jsou WhatsApp a Signal, nelze filtrovat stejným způsobem, jakým můžeme filtrovat nechráněné zprávy, například e-maily. Můžeme ale s jistotou říci, že dny, kdy jsme se spoléhali na uživatele, že podvodné zprávy odhalí a budou je ignorovat, jsou pryč.

 

Přidat komentář

Naši partneři

Naše webové stránky používají cookies
Kliknutím na "Přijmout vše a pokračovat" přijmete všechny typy souborů cookie nebo klepnutím na "Zjistit více a přizpůsobit" můžete zjistit více informací o souborech cookie a změnit jejich nastavení. Váš souhlas a nastavení můžete kdykoliv změnit odkazem "Nastavení cookies" umístěným v zápatí. Informace o zpracování osobních údajů naleznete na stránce GDPR. Náš web používá soubory cookies, které jsou nezbytné k jeho fungování. S vaším souhlasem budeme používat také další soubory cookies a zpracovávat vaše osobní údaje pro analýzu chování a vytváření statistik. Souhlas můžete kdykoliv odvolat odkazem "Nastavení cookies" umístěným v zápatí. Podrobné informace o cookies naleznete kliknutím na tlačítko "Zjistit více".
Zjistit více a přizpůsobit
Přijmout vše a pokračovat
O cookies
Cookies jsou malé textové soubory, které jsou uloženy při návštěvě webu ve vašem zařízení (počítač, tablet, smartphone, smart tv) a slouží k účelům, které jsou uvedeny níže. Cookies lze rozlišovat na cookies první strany a cookies třetích osob. Cookies první strany jsou cookies používané naší webovou aplikací. Cookies třetí strany jsou předávány třetí straně, která pro nás zpracovává určité úlohy. Další informace o cookies a jejich nastavení v prohlížeči naleznete v nápovědě vašeho prohlížeče.
Nezbytné (4)
Zobrazit podrobnosti
Technické cookies jsou nezbytné pro technický provoz a zajištění funkčnosti webové stránky. Jedná se o cookies první strany. Používání je založeno na našem oprávněném zájmu poskytnout provozuschopný web. Obecně však můžete používání cookies v prohlížeči zakázat, v takovém případě ale nemusí web pracovat zcela správně.
NázevDoba uloženíPůvodDoména
_SID30 dnůZáchranný kruhzachranny-kruh.cz
obsahuje identifikátor php session
_cc180 dnůZáchranný kruhzachranny-kruh.cz
obsahuje informace o souhlasu s použitím cookies
au60 minutZáchranný kruhzachranny-kruh.cz
obsahuje identifikátor přihlášení uživatele
yt-*13 měsícůYouTube
Funkce (1)
Zobrazit podrobnosti
Funkční soubory cookie obsahují informace o preferencích a nastavení uživatele. Jedná se o cookies první strany. Tyto cookies nejsou nezbytné a jsou používány na základě vašeho souhlasu. V případě nesouhlasu může být funkčnost webu omezená.
NázevDoba uloženíPůvodDoména
pl_volSessionZáchranný kruh
obsahuje nastavenou hlasitost přehrávače audio souborů
Statistika (3)
Zobrazit podrobnosti
Statistické soubory cookie obsahují informace ke zpracování statistik, které nám poskytují informace o tom, jak jsou stránky používány a pomáhají nám k jejich zlepšení. Tyto cookies jsou používány pouze s vaším souhlasem.
NázevDoba uloženíPůvodDoména
_uix365 dnůZáchranný kruhzachranny-kruh.cz
NID, VISITOR_INFO1_LIVE, PREF, CGIC, pm_sess, YSC, IDE, ANID, CONSENT, __Secure*13 měsícůYouTubeyoutube.com
Více informací naleznete zde.
_ga*, __utm*, NID13 měsícůGoogle Analytics
Více informací naleznete zde.
Marketing (1)
Zobrazit podrobnosti
Marketingové cookies mají původ od externích reklamních společností a používají se ke shromažďování informací o webových stránkách navštívených uživatelem. Tyto cookies jsou používány pouze s vaším souhlasem.
NázevDoba uloženíPůvodDoména
NID, ANID, IDE, DSID a další13 měsícůGoogle Ads
slouží k remarketingu, měření reklamní efektivity, ukládání a sledování konverzí Více informací naleznete zde.