Agenci AI

O co chodzi

Agent AI to system zdolny do samodzielnego działania w celu osiągnięcia określonego celu. W odróżnieniu od narzędzi konwersacyjnych agent wykonuje zadania bez udziału człowieka na każdym etapie. Interpretuje instrukcje, planuje wiele działań, realizuje je w różnych systemach lub narzędziach i dostosowuje się w zależności od wyników.

Agent przeznaczony do zarządzania łańcuchem dostaw może przeszukiwać bazy dostawców, porównywać terminy i ceny, sporządzić zapytanie ofertowe, wysłać je i zapisać interakcję w systemie zarządzania. Zadania te następują po sobie bez instrukcji człowieka na każdym etapie.

Wyzwania i debaty

Autonomia agentów rodzi poważne wyzwania. Gdy agent popełni błąd lub podejmie wątpliwą decyzję, odpowiedzialność staje się niejasna: jego twórca, operator czy organizacja, która go wdrożyła? Systemy te dziedziczą również uprzedzenia obecne w danych treningowych. Kwestia kontroli człowieka pozostaje kluczowa: utrzymanie odpowiedniego nadzoru, ani nieobecnego, ani paraliżującego, w ekosystemie, w którym agenci nieustannie obsługują zadania krytyczne, rodzi trudności organizacyjne i techniczne. Poruszany jest również ślad energetyczny tych systemów.

Regulacje i ramy europejskie

W Europie rozporządzenie w sprawie sztucznej inteligencji (AI Act) ustanawia ramy prawne oparte na podejściu opartym na ryzyku: systemy są klasyfikowane według ich potencjalnego wpływu na zdrowie, bezpieczeństwo i prawa podstawowe. Agenci autonomiczni często należą do kategorii wysokiego ryzyka. Powiązanie między AI Act a RODO pozostaje kluczowe: RODO reguluje przetwarzanie danych osobowych, natomiast AI Act dodaje wymagania dotyczące działania i poziomu ryzyka samych systemów.

Co śledzi ActuIA

ActuIA obserwuje zmiany regulacyjne dotyczące agentów AI: doprecyzowania ich klasyfikacji ryzyka, pierwsze doświadczenia organizacji, debaty o wymaganym zarządzaniu i przejrzystości. Zajmujemy się także innowacjami technologicznymi, kwestiami bezpieczeństwa i audytowalności systemów autonomicznych oraz przemianami organizacyjnymi, które one wywołują.