SI w przedsiębiorstwie

Konkretne zastosowania

W przedsiębiorstwie SI znajduje zastosowanie przede wszystkim w automatyzacji procesów administracyjnych i w analizie danych. Chatboty i wirtualni asystenci obsługują zapytania klientów bez udziału człowieka. Marketing i sprzedaż integrują narzędzia predykcyjne, aby przewidywać trendy i segmentować odbiorców. W obszarze operacji SI optymalizuje przepływy produkcyjne, zarządzanie zapasami oraz konserwację prewencyjną urządzeń. Podejmowanie decyzji opiera się na modelach uczenia maszynowego, które pozwalają szybko przetwarzać duże ilości informacji i wykrywać wzorce niedostrzegalne dla analizy ręcznej.

Wyzwania i ograniczenia

Główną przeszkodą pozostaje brak kompetencji technicznych i zarządzania w organizacjach. Wiele projektów SI utyka na etapie prototypu, nie osiągając rzeczywistej skali. Wewnętrzny opór hamuje wdrażanie, podsycany lękiem przed zmianą, reorganizacją stanowisk i sztywnością istniejących struktur. Mnożą się wyzwania etyczne i związane z bezpieczeństwem: ochrona danych osobowych, uprzedzenia algorytmiczne odtwarzające istniejące dyskryminacje, rosnące uzależnienie od systemów zautomatyzowanych. Pomiar zwrotu z inwestycji w inicjatywy SI okazuje się złożony. Wreszcie kwestia śladu środowiskowego modeli o dużym zapotrzebowaniu obliczeniowym zaczyna być traktowana poważnie.

Regulacje i ramy europejskie

W całej Unii Europejskiej krajowe organy regulacyjne nadzorują zgodność w zakresie SI, współpracując z organami ochrony danych oraz instytucjami kontroli uczciwości handlowej i sektora audiowizualnego. Europejskie rozporządzenie w sprawie SI, wdrażane stopniowo, klasyfikuje systemy SI według poziomu ryzyka: niedopuszczalne, wysokie, ograniczone lub minimalne. Systemy wysokiego ryzyka, zwłaszcza w rekrutacji lub w zarządzaniu infrastrukturą krytyczną, wymagają stałego nadzoru człowieka i wyczerpującej dokumentacji. RODO reguluje ochronę danych osobowych przetwarzanych przez te systemy.

Co śledzi ActuIA

ActuIA obserwuje, jak organizacje wdrażają SI poza fazą eksperymentów: transformację modeli operacyjnych, podnoszenie kompetencji zespołów, strukturyzację zarządzania w celu rozstrzygania o zastosowaniach wewnętrznych. Śledzimy ewolucję europejskich ram regulacyjnych: wdrażanie rozporządzenia w sprawie SI, treść wymaganego nadzoru ludzkiego, interpretację wysokiego ryzyka przez organy. Dokumentujemy także pojawiające się napięcia: wpływ masowego wdrażania na zatrudnienie, jakość danych treningowych, odpowiedzialność prawną w przypadku wadliwej decyzji SI.