Jak AI mění bezpečnost webů a co s tím může udělat malá firma
Útočníci díky AI automatizují skenování i podvodné texty a AI chatboty na webu přidávají nová rizika. Co může udělat malá firma a jak k AI integracím přistupujeme my.
AI mění práci všem, včetně lidí, kteří se snaží do cizích webů dostat. Pro majitele malého webu nebo e-shopu z toho plynou dvě věci: útoky jsou levnější a snadněji se škálují a nové AI funkce na webu přinášejí vlastní rizika. Tady je přehled bez strašení.
Proč jsou v hledáčku i malé weby
Dřív se dalo spoléhat, že malý web nikoho nezajímá. To nikdy úplně neplatilo, ale dnes platí ještě méně. Útočníci jen málokdy vybírají konkrétní cíl. Spouštějí automatizované skenery, které procházejí obrovské množství webů a hledají známé slabiny: zastaralý plugin, slabé heslo, nechráněnou administraci. AI jim práci usnadňuje, protože zrychluje psaní nástrojů a umí vytvářet přesvědčivé podvodné e-maily a zprávy bez překlepů, v češtině a na míru konkrétní firmě.
Důsledek je jednoduchý: na tom, jestli je web malý, nezáleží. Záleží na tom, jestli má známé díry.
Nová rizika: AI přímo na vašem webu
Pokud na webu používáte AI chatbota, asistenta ve formuláři nebo automatické odpovědi, přibývají rizika, která klasický web neměl:
- Prompt injection. Návštěvník do chatu napíše pokyn, kterým se pokusí přebít instrukce chatbota, aby třeba prozradil interní informace nebo dělal věci, které dělat nemá.
- Únik dat. Pokud má AI přístup k objednávkám, zákazníkům nebo interním dokumentům, může je při špatném nastavení poskytnout někomu, komu nepatří.
- Zneužití nákladů. Veřejně dostupný chatbot se platí za použití. Bez omezení ho někdo může zahltit a vy dostanete nečekaný účet.
- Chybné nebo vymyšlené odpovědi. AI umí sebejistě říct něco nepravdivého, třeba o cenách, podmínkách nebo dostupnosti.
Co může udělat malá firma
Nic z toho nevyžaduje velký rozpočet:
- Aktualizujte. Jádro webu, pluginy, šablony, PHP. Pořád nejúčinnější opatření.
- Zapněte dvoufázové ověření u administrace, hostingu, e-mailu a domény.
- Dávejte nejmenší nutná oprávnění. Každý uživatel i každý nástroj, včetně AI, má mít přístup jen k tomu, co potřebuje. AI asistent, který smí jen číst veřejné informace o produktech, nemůže prozradit zákaznickou databázi.
- Nevkládejte údaje zákazníků do veřejných AI nástrojů. Jména, adresy, objednávky ani interní dokumenty nepatří do běžného chatu s AI, pokud nevíte, jak s nimi služba nakládá.
- Projděte, k čemu mají AI integrace přístup. Jaké služby jsou propojené, jaká data vidí a kdo je může měnit. Nepoužívané přístupy zrušte.
- Mějte zálohy, které se dají obnovit, a zkuste to. Je to pojistka, když se cokoli pokazí.
- Nastavte limity. U veřejných AI funkcí omezte počet dotazů, délku vstupu a měsíční rozpočet.
Jak k AI integracím přistupujeme my
Pokud AI na web přidáváme, držíme se několika zásad. AI dostane přístup jen k datům, která opravdu potřebuje. Citlivé operace, jako změna objednávky nebo vrácení peněz, nenecháváme na její odpovědi, ale na ověřeném kroku v aplikaci. Přidáváme limity, aby se nedal zneužít rozpočet. A výstup nepovažujeme za jistotu: tam, kde záleží na přesnosti, ho kontroluje člověk nebo pevná pravidla.
Žádný systém s AI není neprůstřelný. Dá se ale postavit tak, aby i při chybě nebo zneužití zůstaly škody malé.
Jak taková kontrola vypadá u webu jako celku, popisuje článek Audit zabezpečení webu a e-shopu. Pokud už máte podezření, že se něco děje, přečtěte si Jak poznat, že je váš web napadený.
Chcete zkontrolovat, jak je na tom váš web, nebo promyslet AI funkci tak, aby byla bezpečná? Podívejte se na naši službu zabezpečení nebo nám napište.
Další články
Audit zabezpečení webu a e-shopu: co kontrolujeme a co dostanete
Přihlašování, aktualizace, formuláře, platby, HTTPS i zálohy. Co při auditu zabezpečení webu procházíme, jak vypadá výsledná zpráva a co audit nezaručí.
GDPR a cookies na webu a e-shopu: na co se při kontrole díváme
Cookie lišta, skripty třetích stran, formuláře, zásady zpracování i obchodní podmínky e-shopu. Co kontrolujeme z technické stránky a co už musí posoudit právník.