Každé štvrťročné vydanie projektuOWASP Security Project prináša prehľad najvýznamnejších Bezpečnosť AI za dané obdobie, pričom každý z nich priraďuje k rebríčku OWASP 10 pre LLM a k novému rebríčku Top 10 pre agentické aplikácie. Vydanie za 1. štvrťrok 2026 si zaslúži pozornosť každého vedúceho pracovníka v oblasti bezpečnosti — nie kvôli nejakému konkrétnemu narušeniu bezpečnosti, ale kvôli vzoru, ktorý sa tiahne všetkými týmito incidentmi.
Vlastné zhrnutie OWASP to nazýva jasne: táto oblasť prekročila hranicu teoretického risk fázy skutočného zneužitia, pričom sa zameranie presunulo mimo samotný model. Útočníci a zlyhania sa teraz zameriavajú na identity agentov, koordinačné vrstvy a dodávateľské reťazce – nie len na výstupy modelov. Zásluhu za základný výskum má OWASP autori správ, na ktorých sa odvoláva; nasleduje môj pohľad na štyri incidenty, ktoré sú pre regulované podniky najdôležitejšie, a čo každý z nich vyžaduje od vašich kontrolných mechanizmov.
„Zabezpečenie umelej inteligencie si teraz vyžaduje prechod od bezpečnostných opatrení na úrovni modelov k komplexným kontrolným mechanizmom v oblasti bezpečnosti systémov, identít a prevádzky.“ — Projekt OWASP Security, súhrn za 1. štvrťrok 2026
Táto veta by mohla byť mottom všetkého, čo v OneCompliant vytvárame. Nižšie je pri každom incidente uvedený OneCompliant – kontrolný mechanizmus, ktorý by ho zachytil alebo obmedzil.
1. GrafanaGhost — keď sa váš dashboard stane cestou na únik údajov
Podľa OWASP organizácie OWASP (s odvolaním sa na výskum spoločnosti Noma Security) mohli útočníci vložiť skryté pokyny do externého obsahu, ktorý načítal umelý inteligenčný asistent Grafany. Tento infikovaný kontext naviedol asistenta k vykresleniu externého obrázku – a táto výzva na vykreslenie prepašovala podnikové údaje na server ovládaný útočníkom vo forme parametra URL. Grafana opravila cestu na vykresľovanie obrázkov v Markdown a poznamenala, že zneužitie si vyžadovalo významnú interakciu zo strany používateľa. Dôležitý je však charakter útoku : dôveryhodná vrstva na monitorovanie, obsahujúca telemetrické údaje, údaje o infraštruktúre, zákazníkov a finančné údaje, sa stala zdrojom úniku.
Všetko, čo AI prijíma – protokoly, odkazy, riadiace panely, lístky – považujte za nedôveryhodný vstup a regulujte, čo môže odosielať. Ide o nepriamu injekciu príkazov; z hľadiska modelu hrozieb ju posudzujte ako XSS alebo SSRF. Asistent s rozsiahlym prístupom k telemetrickým údajom by nikdy nemal mať zároveň neobmedzenú cestu pre odosielanie údajov. Skontrolujte kontext, ktorý prúdi do modelu; kontrolujte, čo smie model opustiť.
2. Vertex AI Double Agent“ — identita je novým bezpečnostným perimetrom
Podľa súhrnu (s odvolaním sa na Palo Alto Unit 42) nasadený agent v službe Vertex AI Engine v Google Cloude získal prostredníctvom služobného účtu spravovaného spoločnosťou Google oveľa širšie oprávnenia, než potreboval. Výskumníci využili túto identitu s nadmerným rozsahom oprávnení na získanie prihlasovacích údajov, vystupovali ako servisný agent, získali prístup k zdrojom zákazníckych projektov a dokonca sa dostali aj k obmedzeným interným obrazom a zdrojovým kódom. Spoločnosť Google následne revidovala svoje usmernenia. Poučenie z toho nie je, že „Vertex je nebezpečný“ — ide o to, že predvolené nastavenia spravovanej platformy poskytli agentovi väčší dosah, než ktokoľvek zamýšľal.
Identita agenta si zaslúži rovnakú pozornosť ako privilegovaný administrátorský prístup. Predvolené nastavenie s minimálnymi oprávneniami, vymedzenie rozsahu na úrovni jednotlivých nasadení, krátkodobé prihlasovacie údaje a aktuálny zoznam všetkých identít služieb viazaných na spustenie agenta. Nedôverujte predvoleným nastaveniam platformy – výslovne otestujte, či agent dokáže prechádzať medzi projektmi, úložiskami, registrami alebo modelovou infraštruktúrou.
3. Únik informácií vnútorným zamestnancom spoločnosti Meta — dosah jednej nebezpečnej odpovede
Podľa súhrnu (s odvolaním sa na The Guardian) inžinier spoločnosti Meta požiadal o pomoc na internom fóre, agent AI navrhol riešenie a inžinier ho implementoval — čím na približne dve hodiny krátkodobo sprístupnil veľké množstvo citlivých údajov o používateľoch a spoločnosti ostatným inžinierom. Nedošlo k žiadnemu útoku zvonku a spoločnosť Meta uviedla, že nedošlo k nesprávnemu zaobchádzaniu s údajmi používateľov, napriek tomu však táto udalosť vyvolala rozsiahlu internú bezpečnostnú reakciu. Je to jasný príklad toho, ako jediné odporúčanie nebezpečného agenta môže viesť k incidentu v oblasti kontroly prístupu v podnikovom meradle.
Medzi odporúčaním umelej inteligencie a jeho vykonaním musí existovať kontrolná vrstva. Akékoľvek odporúčanie, ktoré môže zmeniť oprávnenia, viditeľnosť údajov alebo policy pred svojím zavedením prejsť deterministickou validáciou a ľudskou kontrolou – najmä v rámci inžinierskych a bezpečnostných pracovných postupov. Výstup agenta považujte za nedôveryhodný, kým nebude overený.
4. Mercor / LiteLLM — váš AI reťazec AI je rozsiahlejší než vaše modely
Podľa súhrnu (s odvolaním sa na WIRED) spoločnosť Meta pozastavila spoluprácu s dodávateľom AI , firmou Mercor, po narušení bezpečnosti súvisiacom so škodlivými verziami open-source nástroja LiteLLM. Keďže Mercor zabezpečuje generovanie proprietárnych tréningových dát pre významné laboratóriá, tento incident vyvolal obavy, že citlivé metódy spracovania tréningových dát a činnosti subdodávateľov mohli byť odhalené — a viedol k prehodnoteniu postupov vo viacerých laboratóriách. K narušeniu došlo prostredníctvom softvérovej závislosti v AI prostredí AI, nie v samotnom modeli.
Váš AI reťazec AI zahŕňa koordinačné knižnice, integrácie MCP a dodávateľov, ktorí generujú vaše údaje. Určite a overte závislosti, vyžadujte od AI dôkazy v štýle SBOM a úroveň vyspelosti v oblasti reakcie na incidenty a považujte dodávateľov údajov za kľúčových dodávateľov v rámci vášho programu riadenia – nie za vedľajšiu záležitosť v oblasti obstarávania.
Nitka, ktorá ich spája
OWASP druhú poznámku, ktorá by mala zmeniť váš pohľad na risk umelej inteligencie: väčšina týchto incidentov nemá pridelené číslo CVE. Nejde o konkrétne chyby v kóde — sú to nesprávne konfigurácie, nadmerná autonómia, slabé hranice dôvery a manipulácia s tokom dát. Iba klasická chyba v vstavanom softvéri, ako napríklad aktívne zneužívaná chyba Flowise umožňujúca vzdialené spustenie kódu (CVE-2025-59528), sa dá jednoznačne zaradiť do tradičného systému riadenia zraniteľností.
To je tá medzera. Ak je váš risk umelej inteligencie založený na vyhľadávaní CVE, je štrukturálne slepý voči väčšine prípadov, v ktorých umelá inteligencia skutočne zlyháva. Ide o systémové a architektonické riziká, ktoré vyžadujú kontrolné mechanizmy fungujúce počas behu systému – v oblasti identity, agentúry a toku údajov – a ktoré poskytujú dôkazy.
„Zameranie sa presunulo z výstupov modelov na identitu, koordináciu a dodávateľské reťazce. Správa a riadenie sa musia prispôsobiť tomuto posunu – od dokumentov k prevádzkovým kontrolám.“
Presne takúto vrstvu OneCompliant : OASF kontrolné domény, OASAT , kde sa v nich nachádzate, a Aegis ich Aegis priamo v mieste použitia – kontroluje výzvy a kontext, určuje, ktoré údaje môžu byť odoslané, vymedzuje rozsah činností, ktoré môžu agenti vykonávať, a zaznamenáva každé rozhodnutie ako dôkaz. Správy ako OWASP sú signálom, ktorý nám incident po incidente vysvetľuje, prečo táto vrstva už nie je voliteľná.
Prečítajte si celý prehľad — ide o skutočne cenný štvrťročný zdroj informácií a OWASP príspevky do neho: Prehľad zraniteľnostíOWASP , 1. štvrťrok 2026 →
Tieto udalosti sú priradené k kontrolným opatreniam. Máte ich zavedené?
OASAT vaše AI práve z hľadiska týchto typov zlyhaní — identita, agentúra, dodávateľský reťazec a tok údajov — a Aegis kontrolných opatrení počas behu aplikácie. Odhaľte svoje slabé miesta skôr, než sa stanú vašou položkou v zozname.