FAQ AI: sztuczna inteligencja w firmie i organizacji

Technologie AI to rozwiązania, które wykonują zadania wymagające analizy danych, rozpoznawania wzorców, rozumienia języka, obrazu lub podejmowania prognoz. Obejmują między innymi uczenie maszynowe, generatywną AI, modele językowe, analizę obrazu i agentów AI. W organizacji sam model jest tylko częścią rozwiązania: równie ważne są dane, integracje, proces, monitoring i odpowiedzialność człowieka. Podstawowe pojęcia wyjaśnia Słownik AI.

Zwykła automatyzacja wykonuje wcześniej opisane reguły, natomiast AI może klasyfikować, przewidywać lub generować wynik na podstawie danych. Jeśli decyzję można zapisać jednoznacznym warunkiem, prostszy workflow bywa tańszy i łatwiejszy do kontroli. AI ma największy sens tam, gdzie pojawia się tekst, obraz, niepełna informacja albo zmienność, której nie da się wygodnie opisać zestawem reguł.

Najczęściej zmienia zakres zadań, a nie usuwa całej roli. AI może przygotować propozycję, wyszukać informacje lub obsłużyć powtarzalny fragment procesu, ale człowiek nadal odpowiada za kontekst, wyjątki i skutki decyzji. Dlatego analizę warto prowadzić na poziomie konkretnych zadań i procesu, a nie ogólnego stanowiska.

Od zdefiniowania problemu, właściciela procesu i mierzalnego punktu wyjścia. Następnie trzeba opisać dane, wyjątki i ryzyka, przygotować reprezentatywny zbiór testowy oraz uruchomić ograniczony pilot z kryteriami akceptacji. Dopiero wynik pilota powinien prowadzić do decyzji o skalowaniu. Pełną ścieżkę opisuje przewodnik AI w biznesie.

Dobry proces pilotażowy ma zauważalny wolumen, dostępne dane, mierzalny koszt lub czas oraz skutki błędu, które można zatrzymać albo odwrócić. Należy unikać procesów o niejasnym właścicielu, wielu nieudokumentowanych wyjątkach lub natychmiastowym wpływie na prawa i bezpieczeństwo ludzi. Kryteria kwalifikacji procesu zawiera strona Automatyzacja procesów.

Trzeba określić źródła, właścicieli, jakość, kompletność, aktualność i dozwolony cel użycia danych. Zbiór testowy powinien obejmować typowe przypadki, wyjątki i przykłady celowo trudne. Dane produkcyjne należy oddzielić od materiałów testowych, ograniczyć dostęp do minimum i ustalić zasady retencji oraz usuwania.

Model należy porównać na własnym zestawie testowym pod kątem jakości, kosztu, czasu odpowiedzi, prywatności, dostępnego kontekstu, integracji i warunków dostawcy. Największy model nie zawsze jest najlepszy: prostsze rozwiązanie może być szybsze, tańsze i stabilniejsze. Pomagają w tym przewodnik wyboru modelu oraz porównywarka modeli AI.

Może dawać większą kontrolę nad przepływem danych, ale nie jest automatycznie bezpieczny. Organizacja nadal odpowiada za konfigurację, aktualizacje, uprawnienia, logi, podatności i jakość wyników. Usługa chmurowa może z kolei oferować dojrzałe zabezpieczenia, lecz wymaga oceny umowy, retencji danych, lokalizacji przetwarzania i możliwości audytu.

Asystent zwykle odpowiada na polecenie i pozostawia wykonanie działania użytkownikowi. Agent może planować kilka kroków, korzystać z narzędzi i zmieniać stan systemu, na przykład utworzyć zadanie albo zaktualizować rekord. Im większa autonomia, tym ważniejsze są ograniczone uprawnienia, zatwierdzanie działań, limity kosztu, pełne logi i możliwość natychmiastowego zatrzymania.

Nie należy tego robić bez zatwierdzonego celu, podstawy, konfiguracji i umowy z dostawcą. Najpierw trzeba sklasyfikować dane, ograniczyć ich zakres, sprawdzić retencję i wykorzystanie do trenowania, a także ustalić kto ma dostęp do wyników. W wielu zadaniach można użyć danych zanonimizowanych, syntetycznych albo zredagowanych.

Należy zawęzić zadanie, dostarczać zatwierdzone źródła, wymagać cytowania, walidować format i sprawdzać wynik regułami lub drugim etapem kontroli. Testy muszą obejmować także przypadki, w których model powinien odmówić odpowiedzi. Dla decyzji o istotnych skutkach potrzebna jest kontrola człowieka i procedura obsługi błędu.

AI Governance to role, zasady, decyzje i dowody pozwalające kontrolować system AI przez cały cykl życia. Minimalny model obejmuje rejestr zastosowań, klasyfikację ryzyka, właścicieli biznesowych i technicznych, bramki przed pilotem i produkcją, testy, monitoring, obsługę incydentów oraz plan wycofania. Praktyczny model znajduje się na stronie AI Governance.

Zakres obowiązków zależy od roli organizacji, przeznaczenia systemu i poziomu ryzyka. Inne wymagania dotyczą dostawcy modelu, inne podmiotu wdrażającego, a część zastosowań podlega ograniczonym obowiązkom lub zakazom. AI Act jest stosowany etapami, dlatego aktualny stan należy sprawdzać w oficjalnych materiałach Komisji Europejskiej. Informacje w serwisie nie są poradą prawną.

Koszt obejmuje więcej niż licencję lub tokeny: analizę procesu, przygotowanie danych, integracje, testy, bezpieczeństwo, monitoring, szkolenia i obsługę wyjątków. Prosty pilot może korzystać z gotowej usługi, a system produkcyjny wymagać znacznie większego nakładu na kontrolę i utrzymanie. Dlatego koszt należy liczyć dla całego procesu i cyklu życia, nie tylko dla wywołania modelu.

Najpierw trzeba zmierzyć stan bazowy: czas cyklu, koszt sprawy, jakość, liczbę poprawek i błędy krytyczne. Po wdrożeniu porównuje się te same wskaźniki, uwzględniając koszt interwencji człowieka oraz utrzymania rozwiązania. Liczba wygenerowanych odpowiedzi nie jest ROI, jeśli nie poprawia wyniku procesu.

Odpowiedzialności nie można przenieść na model. Organizacja powinna wskazać właściciela biznesowego wyniku, właściciela technicznego działania systemu oraz role odpowiedzialne za dane, bezpieczeństwo i zgodność. Użytkownik musi wiedzieć, kiedy może zaakceptować wynik, kiedy ma go sprawdzić i gdzie zgłosić incydent.