• Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události
Žádné výsledky
Zobrazit všechny výsledky
ITBiz.cz
ITBiz.cz
Žádné výsledky
Zobrazit všechny výsledky
Home Články

Jak z ChatGPT udělat pomocníka kyberbezpečnostních týmů

itbiz
20. 3. 2023
| Články
Sophos představil XDR řešení pro synchronizované zabezpečení

Zdroj: Pixabay

Model umělé inteligence dokáže snadněji filtrovat škodlivou aktivitu v telemetrii XDR, vylepšit spamové filtry a zjednodušit analýzu legitimního softwaru zneužívaného k útokům.

Sophos zveřejnil novou studii o tom, jak může odvětví kybernetické bezpečnosti využít GPT-3, jazykový model stojící za dnes již dobře známým frameworkem ChatGPT. Nejnovější studie „Využití zpracování jazyka umělou inteligencí ke kybernetické obraně“ podrobně popisuje projekty vyvinuté expertním týmem Sophos X-Ops, které využívají rozsáhlé jazykové modely GPT-3 ke zjednodušení vyhledávání škodlivých aktivit v souborech dat z bezpečnostního softwaru, přesnějšímu filtrování spamu a zrychlení analýzy útoků prováděných prostřednictvím legitimního softwaru (tzv. útoky typu living off the land, LOLBin).

„Od listopadu, kdy společnost OpenAI představila ChatGPT, se bezpečnostní komunita převážně soustředila na potenciální rizika, která by tato nová technologie mohla přinést. Může umělá inteligence pomoci amatérským útočníkům při vytváření malwaru nebo kyberzločincům při psaní mnohem přesvědčivějších phishingových e-mailů? Možná, ale v Sophosu už dlouho považujeme umělou inteligenci spíše za spojence než nepřítele obránců, což z ní dělá pro Sophos velmi důležitou technologii. A to platí i pro GPT-3. Bezpečnostní komunita by měla věnovat pozornost nejen potenciálním rizikům, ale i příležitostem, které GPT-3 přináší,“ řekl Sean Gallagher, hlavní výzkumník hrozeb ve společnosti Sophos.

Výzkumníci Sophos X-Ops, včetně Younghoo Lee, hlavního datového vědce týmu SophosAI, pracovali na třech prototypech, které demonstrují potenciál GPT-3 jako pomocníka kyberbezpečnostních týmů. Všechny tři využívají techniku zvanou „few-shot learning“, která umožňuje trénovat model umělé inteligence jen s několika málo datovými vzorky, čímž se snižuje potřeba shromažďovat velký objem předem klasifikovaných dat.

První aplikací, kterou Sophos testoval pomocí metody few-shot learning, bylo rozhraní pro dotazování v přirozeném jazyce pro procházení škodlivých aktivit v telemetrii bezpečnostního softwaru. Specificky to Sophos testoval proti svému produktu na detekci hrozeb na koncových bodech a reakci na ně. Díky tomuto rozhraní mohou obránci filtrovat telemetrii pomocí základních příkazů v angličtině, čímž odpadá nutnost rozumět jazyku SQL nebo základní struktuře databáze.

Dále Sophos testoval nový spamový filtr využívající ChatGPT a zjistil, že ve srovnání s jinými modely strojového učení pro filtrování spamu, je filtr využívající GPT-3 výrazně přesnější. Nakonec se výzkumníkům společnosti Sophos podařilo vytvořit program, který zjednodušil proces reverzního inženýrství příkazových řádků LOLBin. Takové reverzní inženýrství je zpravidla velmi obtížné, ale je také velmi důležité pro pochopení útoků typu LOLBin – a pro jejich zastavení v budoucnu.

„Jednou z rostoucích obav v rámci bezpečnostních operačních center je obrovské množství přicházejícího šumu. Máme prostě příliš mnoho oznámení a detekcí, které je třeba třídit, a mnoho společností se potýká s omezenými zdroji. Dokázali jsme, že díky technologii jako GPT-3 můžeme zjednodušit některé pracné procesy a ušetřit obráncům cenný čas. Už pracujeme na začlenění některých výše uvedených prototypů do našich produktů a výsledky našeho úsilí jsme zpřístupnili na našem GitHubu pro zájemce o testování GPT-3 ve vlastních analytických prostředích. Věříme, že v budoucnu se GPT-3 může velmi dobře stát standardním pomocníkem bezpečnostních expertů,“ řekl Gallagher.

Rubriky: SecurityTechnologieVývoj a HTML

Související příspěvky

Cisco Secure Access pro bezpečnost v multicloudovém prostředí
Články

Cisco Secure Access pro bezpečnost v multicloudovém prostředí

8. 6. 2023
Zprávičky

Acronis přidává do své platformy monitoring na bázi strojového učení

7. 6. 2023
Tiskové zprávy

Přepis softwaru pro exascalové superpočítače

6. 6. 2023
Zprávičky

Analytici: Tržby odvětví AI mohou do roku 2032 vzrůst na 1,3 bilionu dolarů

6. 6. 2023

Zprávičky

EK povolila unijním zemím dát 8,1 miliardy eur na mikroelektroniku a komunikaci

ČTK
8. 6. 2023

Čtrnáct zemí Evropské unie, včetně České republiky, smí dát firmám státní subvence dohromady až

Německo se potýká s rekordním nedostatkem pracovníků v IT

ČTK
8. 6. 2023

Německo v loňském roce čelilo rekordnímu nedostatku pracovníků v odvětví informačních technologií (IT). Informovala

Ruský Yandex může nechat své akcie v New Yorku, musí ale prodat ruskou část

ČTK
8. 6. 2023

Ruská internetová společnost Yandex může nechat své akcie na trhu Nasdaq v New Yorku,

CZ.NIC začal zveřejňovat seznam zablokovaných domén

Senát asi bude řešit ústavní zakotvení práva být off-line

ČTK
8. 6. 2023

Senát se zřejmě bude zabývat možností ústavního zakotvení práva občanů nevyužívat informační technologie. Návrh

BBC: Čínští komunisté sbírali přes TikTok data o protestech v Hongkongu

ČTK
7. 6. 2023

Bývalý vedoucí pracovník čínské společnosti ByteDance, která provozuje sociální síť TikTok, obvinil vládnoucí čínskou

Acronis přidává do své platformy monitoring na bázi strojového učení

Pavel Houser
7. 6. 2023

Acronis přidal do své MSP platformy Acronis Cyber Protect Cloud novou funkci monitoringu a

Komerční úspěch 5G: Sítě nové generace dosáhly za tři roky stejných milníků, jako 4G za pět let

EU zvažuje, že členským státům zakáže v sítích 5G využívat Huawei

ČTK
7. 6. 2023

Evropská unie podle listu Financial Times (FT) zvažuje, že členským státům zakáže při budování

Americké úřady žalují den po Binance i konkurenční burzu Coinbase

ČTK
6. 6. 2023

Americká Komise pro cenné papíry a burzy (SEC) žaluje den po Binance i konkurenční

Tiskové zprávy

Golden Knights nebo Panthers. Pomůžou jim technologie vyhrát Stanley Cup?

WD_BLACK přináší nový, vylepšený SSD disk s oficiální licencí pro konzole PS5

Základní podmínka stability organizace? Kyberbezpečnost!

Red Hat představil Ansible Lightspeed pro automatizaci IT řízenou umělou inteligencí

Synology představuje zařízení BeeDrive, osobní centrum zálohování

Acer rozšiřuje řadu 10″ tabletů Iconia Tab o nové modely

Zpráva dne

Březnový prodej – doživotní licence na Windows 10 za Goodoffer24 € 12 a Office za € 23!

Březnový prodej – doživotní licence na Windows 10 za Goodoffer24 € 12 a Office za € 23!

Redakce
3. 3. 2023

Ať už hledáte levnější cestu jak postavit nový počítač, nebo jen chcete upgradovat stárnoucí...

Komentujeme

Chvála černých skřínek

ChatGPT – pouhé rozhraní a komprese informací, praví autor sci-fi

Pavel Houser
11. 5. 2023

K hromadám diskusí o konverzačním programu ChatGPT snad stojí za to přidat jeden poměrně nezvyklý (a...

Odebírat newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Slovník

Add-on

Tax adviser

Paket

Nejpopulárnější články

Ransomwarový útok stojí české oběti 8,25 milionu korun

93 % ransomwarových útoků se zaměřuje na zálohovací úložiště a vynucuje si tím zaplacení výkupného

itbiz
25. 5. 2023

Nejčastější hrozby dneška. Stačí antivirus?

Půl roku od uvedení ChatGPT: Umělá inteligence v centru zájmu

ČTK
30. 5. 2023

Studie Cisco: přechod firem do multicloudu přináší problémy se zabezpečením přístupu uživatelů

Redakce
31. 5. 2023

Germanen jako cesta k energeticky úsporné elektronice?

Germanen jako cesta k energeticky úsporné elektronice?

Pavel Houser
1. 6. 2023

Plně flashové datové centrum: Poslední hřebíček do rakve klasických pevných disků

Plně flashové datové centrum: Poslední hřebíček do rakve klasických pevných disků

Patrick Smith
9. 5. 2023

Kategorie

  • Články
  • Komentujeme
  • Slovník
  • Tiskové zprávy
  • Zprávičky

Portál ITbiz.cz přináší informace z IT a byznysu již od roku 2006. Provozuje jej internetové vydavatelství Nitemedia. Hosting zajišťuje společnost Greenhousing.cz. Mezi další naše projekty patří například ABClinuxu.cz a Sciencemag.cz. Na stránce Redakce naleznete informace o redakci a možnostech inzerce.

Rubriky

Akce a události Byznys Cloud Ekomerce Hardware Internet Operační systémy Podnikový software Právo Rozhovory Science Security Technologie Telekomunikace Veřejná správa Vývoj a HTML Zpráva dne České IT

Píšeme jinde

RSS ScienceMag RSS

RSS AbcLinuxu RSS

  • Vivaldi 6.1 se pro Bing tváří jako Microsoft Edge a díky tomu v něm funguje Bing Chat
  • ArchLabs končí
  • Shrnutí vývoje frameworku pro zpracování obrazu G'MIC za poslední rok a půl

Newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Žádné výsledky
Zobrazit všechny výsledky
  • Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události

© 2019 Vydává Nitemedia s.r.o. Hosting zajišťuje Greenhousing.cz.

Tento web používá cookies. Pokračováním dáváte souhlas s jejich používáním. Více na itbiz.cz/soukromi.