Agentic Digital Twins:
Raport dotyczący bezpieczeństwa
, który nasz założyciel przekazał dyrektorowi CISO w firmie telekomunikacyjnej

Jedna z największych europejskich firm telekomunikacyjnych tworzy środowisko łączące technologię sztucznej inteligencji typu agentowego (Agentic AI) oraz cyfrowe bliźniaki (Digital Twins). Poproszono mnie o przedstawienie dyrektorowi CISO konsekwencji tych rozwiązań dla bezpieczeństwa. Poniżej znajduje się treść tego briefingu — dostosowana do publikacji.

To nie jest tylko teoretyczne ćwiczenie. Na co dzień pracuję w tym środowisku — sprawdzam skrypty, spotykam się z programistami i sprawuję kontrolę nad wdrażaniem zmian do środowiska produkcyjnego. Żadna zmiana nie trafia do chmury ani do środowiska produkcyjnego bez mojej zgody.

Połączenie sztucznej inteligencji typu agentowego i cyfrowych bliźniaków to nie tylko system oparty na sztucznej inteligencji. Jest to złożona risk , obejmująca dane klientów i operacje serwisowe, telemetrię sieci i infrastruktury, zautomatyzowane podejmowanie decyzji, wewnętrzne procesy przedsiębiorstwa, integracje z systemami stron trzecich oraz potencjalnie autonomiczne działania w środowiskach produkcyjnych.

Co sprawia, że cyfrowe bliźniaki firmy Agentic wiążą się ze szczególnym ryzykiem

Tradycyjny bliźniak cyfrowy służy głównie do obserwacji i symulacji. Ma charakter pasywny.

Cyfrowy bliźniak typu „agent” potrafi obserwować, wnioskować, planować, wywoływać narzędzia i interfejsy API, uruchamiać przepływy pracy, wywierać wpływ na ludzi oraz potencjalnie wprowadzać lub rekomendować zmiany w systemach produkcyjnych.

Oznacza to, że powierzchnia ataku rozszerza się od naruszenia bezpieczeństwa danych — poprzez naruszenie procesu decyzyjnego — naruszenie działań — manipulację działalnością biznesową — aż po zakłócenie funkcjonowania infrastruktury.

Dla firmy telekomunikacyjnej jest to kwestia szczególnie wrażliwa, ponieważ środowisko to obejmuje systemy OSS/BSS, CRM i centra obsługi klienta, platformy marketingowe, koordynację sieci, zapewnienie jakości usług, systemy zarządzania zapasami, systemy identyfikacji, procesy rozliczeniowe, korporacyjne systemy informatyczne oraz środowiska chmurowe i brzegowe.

Podstawowa zasada bezpieczeństwa

Nigdy nie należy mu ufać z samego faktu, że wydaje się być elementem wewnętrznym, zamaskowanym lub „tylko kopią”. Należy zaprojektować system w taki sposób, aby nie mógł on bezpośrednio wyrządzić katastrofalnych szkód, nie mógł w sposób niezauważalny rozszerzać swoich uprawnień, nie mógł swobodnie łączyć zbiorów danych w celu uzyskania poufnych informacji, nie mógł być manipulowany poprzez wstrzyknięcie poleceń lub zmian w przepływie pracy oraz nie mógł stać się niekontrolowanym operatorem działającym w tle.

Siedem głównych risk

Scenariusze zagrożeń, które należy wyraźnie uwzględnić w modelu

Architektura bezpieczeństwa

Pierwsza i najważniejsza decyzja architektoniczna: nie należy tworzyć jednego gigantycznego omni-agenta. Należy dokonać podziału według dziedzin — Twin obsługi klienta, Twin marketingu, Twin wiedzy korporacyjnej, Twin operacji sieciowych, Twin infrastruktury/operacji IT. Każdy z nich powinien posiadać odrębną tożsamość, odrębną pamięć, odrębny korpus danych, odrębne narzędzia, odrębne risk oraz odrębne progi zatwierdzania.

Aby uzyskać stopniową autonomię, skorzystaj z poniższego modelu:

Zalecana pięciowarstwowa architektura referencyjna:

Minimalny poziom kontroli przed rozpoczęciem produkcji

Jeśli brakuje tych mechanizmów kontroli, uznaję to wdrożenie za niedopracowane. Nie zatwierdzę wydania do produkcji.

Pytania, które służby bezpieczeństwa muszą zadać bezzwłocznie

Moja rekomendacja strategiczna

W przypadku europejskiej firmy telekomunikacyjnej zdecydowanie zalecam podejście etapowe:

Podsumowując

Twoje przeczucie, że dane w kopii lustrzanej powinny być zamaskowane, poziom wrażliwości powinien być obniżony, a dostęp powinien opierać się na zasadzie minimalnych uprawnień, jest słuszne. To jednak dopiero podstawa.

W przypadku sztucznej inteligencji typu agentowego i cyfrowych bliźniaków w branży telekomunikacyjnej głównym wyzwaniem nie jest jedynie ujawnianie danych. Jest nim połączenie wnioskowania, autonomii, dostępu do narzędzi, widoczności międzydomenowej, manipulacji przepływem pracy oraz skali operacyjnej.