Coraz więcej firm wykorzystuje sztuczną inteligencję do obsługi klientów, komunikacji wewnętrznej i automatyzacji codziennych obowiązków. Jak informuje TVN24, niewłaściwie zabezpieczone narzędzia AI mogą jednak zostać wykorzystane przez osoby próbujące uzyskać dostęp do firmowych zasobów.
Kacper Szurek, ekspert cyberbezpieczeństwa, zwraca uwagę na zagrożenie określane jako Prompt Injection. Polega ono na umieszczeniu w treści przetwarzanej przez sztuczną inteligencję specjalnie przygotowanej instrukcji, która ma nakłonić system do wykonania niepożądanego działania.
Czatbot może usunąć pliki lub ujawnić dane
Ryzyko staje się szczególnie poważne, gdy firmowy czatbot ma dostęp do poczty elektronicznej, dokumentów, kalendarza czy innych wewnętrznych systemów.
„Zagrożenie rośnie, gdy czatbot ma dostęp do firmowych plików, poczty, kalendarza lub innych wrażliwych zasobów” — ostrzegł Kacper Szurek, cytowany przez TVN24.
Ekspert wskazuje, że atakujący może próbować nakłonić sztuczną inteligencję do ujawnienia tajemnicy przedsiębiorstwa albo usunięcia ważnych dokumentów.
Jako przykład podał aplikację do umawiania spotkań z klientami, połączoną z firmowym kalendarzem. Odpowiednio przygotowana instrukcja mogłaby skłonić niewłaściwie zabezpieczony system do utworzenia setek niepotrzebnych spotkań lub skasowania istniejących terminów.
Zagrożeniem także prywatne narzędzia AI
Szurek zwraca również uwagę na korzystanie przez pracowników z prywatnych i darmowych narzędzi sztucznej inteligencji. Firmy powinny jego zdaniem zapewniać bezpieczne rozwiązania służbowe, zamiast zakładać, że zatrudnieni nie używają zewnętrznych aplikacji.
Dodatkowym problemem mogą być programy tworzone samodzielnie przez pracowników przy pomocy AI. Choć ich przygotowanie nie wymaga już dużego doświadczenia programistycznego, odpowiednie zabezpieczenie dostępu do firmowych systemów pozostaje znacznie trudniejszym zadaniem.
Jak chronić firmowe systemy AI?
Według eksperta podstawą bezpieczeństwa jest odpowiednie zarządzanie uprawnieniami oraz szkolenie pracowników i kadry zarządzającej. Samo wpisanie do instrukcji czatbota zakazu wykonywania niebezpiecznych poleceń nie zapewnia wystarczającej ochrony.
Firmowy system AI powinien udostępniać użytkownikowi wyłącznie te informacje, do których ma on uprawnienia. Przykładowo pracownik działu marketingu nie powinien uzyskiwać za pomocą czatbota dostępu do dokumentacji księgowej.
Szurek podkreśla, że zabezpieczenia trzeba uwzględniać już na etapie wdrażania sztucznej inteligencji, szczególnie gdy narzędzia otrzymują możliwość wykonywania działań w firmowych systemach.
