Bezpieczeństwo AI: dane i kontrola w firmie

AI może ułatwić analizę dokumentów i obsługę procesów, ale każda integracja otwiera pytania o dane, uprawnienia i odpowiedzialność za wynik. Bezpieczeństwo nie wynika automatycznie z etykiety „prywatny model” ani z instalacji na własnym serwerze.

Jakie dane trafiają do systemu AI?

Zanim zespół wklei dokument do narzędzia, sprawdź jego klasyfikację, umowę z dostawcą, ustawienia przechowywania oraz uprawnienia użytkowników. Warunki użycia danych do ulepszania usługi zależą od konkretnego produktu i planu; nie da się uczciwie powiedzieć, że wszystkie darmowe usługi działają identycznie. Nie wprowadzaj danych klientów ani tajemnic firmy bez zatwierdzonej podstawy i konfiguracji.

Model uruchomiony lokalnie może ograniczyć część transferów, lecz nadal wymaga zabezpieczenia serwera, kopii zapasowych, kontroli dostępu, aktualizacji i oceny bibliotek. Chmurowa usługa także może mieć odpowiednie kontrole. Wybór trzeba oprzeć na rzeczywistym przepływie danych i zagrożeniach.

Ryzyka, które warto przetestować

Ujawnienie informacji: czy logi, integracje i wyniki modelu pokazują dane osobie bez uprawnień?
Niepoprawna odpowiedź: czy system potrafi odmówić lub przekazać sprawę człowiekowi, gdy nie ma podstaw do odpowiedzi?
Prompt injection: czy treść z zewnętrznego dokumentu może zmienić instrukcje narzędzia lub wywołać akcję?
Dostęp do działań: czy model może wysłać wiadomość, zmienić rekord lub wygenerować fakturę bez zatwierdzenia?

NIST AI Risk Management Framework proponuje ciągłe zarządzanie ryzykiem przez określenie zasad, mapowanie, pomiar i reakcję. To dobry punkt wyjścia do własnej listy kontroli, a nie certyfikat zgodności.

RODO i AI Act: co sprawdzić?

Jeśli przetwarzasz dane osobowe, oceń cel i podstawę przetwarzania, minimalizację danych, role stron, czas przechowywania oraz prawa osób. Self-hosting sam w sobie nie zapewnia zgodności z RODO. Wymagania AI Act zależą od roli organizacji, przeznaczenia systemu i konkretnego zastosowania; nie każda analiza dokumentu medycznego oznacza automatycznie „system wysokiego ryzyka”.

Komisja Europejska opisuje zakres AI Act. Dla zastosowań w rekrutacji, kredycie lub ochronie zdrowia potrzebna jest ocena konkretnego procesu z osobą odpowiedzialną za prawo i bezpieczeństwo.

Minimalny plan wdrożenia

Zacznij od jednego niskiego ryzyka zadania. Opisz dane wejściowe i dopuszczalny wynik, ogranicz uprawnienia, przetestuj błędy oraz wprowadź przegląd człowieka przed działaniem na zewnątrz. Zapisz, kto odpowiada za decyzję i jak wyłączyć integrację. Dopiero po pomiarze jakości i incydentów zwiększaj zakres.

Więcej o doborze narzędzia przeczytasz w porównaniu podejścia do modeli AI.