Algorytm pod kontrolą. Jak nowe przepisy zmienią zarządzanie pracą na platformach cyfrowych?

Dla wielu kierowców, kurierów czy osób wykonujących usługi za pośrednictwem aplikacji mobilnych to właśnie algorytm stał się codziennym “kierownikiem”. To on analizuje aktywność użytkownika, przydziela zlecenia, ocenia efektywność, a niekiedy podejmuje decyzje o ograniczeniu dostępu do platformy.

Projekt ustawy o wykonywaniu pracy za pośrednictwem cyfrowych platform pracy (nr UC160) po raz pierwszy w polskim prawie kompleksowo reguluje właśnie ten obszar. Projektowane przepisy nie zakazują wykorzystywania algorytmów, ale nakładają na platformy szereg obowiązków, których celem jest zwiększenie przejrzystości oraz zapewnienie większej ochrony osobom wykonującym pracę.

Czym jest zarządzanie algorytmiczne?

Choć projekt ustawy nie posługuje się wprost pojęciem “zarządzania algorytmicznego”, właśnie temu zagadnieniu poświęcono znaczną część nowych regulacji. Projekt wyróżnia dwa rodzaje systemów wykorzystywanych przez platformy:

• zautomatyzowane systemy monitorujące, czyli systemy służące monitorowaniu, nadzorowaniu lub ocenie pracy osób wykonujących pracę za pośrednictwem platformy,
• zautomatyzowane systemy decyzyjne, które podejmują lub wspierają decyzje mające istotny wpływ na warunki wykonywania pracy.

Ich działanie może obejmować między innymi rekrutację, przydzielanie zleceń, organizację pracy, ustalanie wynagrodzenia, ocenę jakości wykonywanych usług, dostęp do szkoleń, możliwość awansu, a nawet ograniczenie, zawieszenie lub usunięcie konta użytkownika.

To właśnie dlatego ustawodawca uznał, że funkcjonowanie takich systemów powinno podlegać określonym zasadom.

Większa przejrzystość działania algorytmów

Jednym z najważniejszych obowiązków przewidzianych w projekcie jest zapewnienie osobom wykonującym pracę dostępu do informacji o funkcjonowaniu systemów algorytmicznych. 

Platformy będą musiały przekazywać w sposób jasny i zrozumiały informacje dotyczące m.in.:

• stosowania systemów monitorujących,
• rodzaju gromadzonych danych,
• celu monitorowania,
• kategorii decyzji podejmowanych przy wykorzystaniu algorytmów,
• głównych parametrów wpływających na podejmowane decyzje,
• sposobu, w jaki zachowanie osoby wykonującej pracę wpływa na wyniki działania systemu.

Co istotne, informacje te mają być przekazywane prostym językiem, a nie w formie niezrozumiałej dokumentacji technicznej. Osoba wykonująca pracę będzie mogła również zażądać bardziej szczegółowych wyjaśnień dotyczących działania systemów mających wpływ na jej sytuację. Dotychczas wiele decyzji podejmowanych przez platformy pozostawało dla użytkowników całkowicie nieprzejrzystych.

Algorytm nie będzie mógł działać bez kontroli człowieka

Jednym z najbardziej interesujących rozwiązań projektu jest ograniczenie automatyzacji najważniejszych decyzji dotyczących osób wykonujących pracę.

Projekt przewiduje, że decyzje o rozwiązaniu umowy, ograniczeniu dostępu do platformy, zawieszeniu lub usunięciu konta czy innych działaniach wywołujących podobne skutki mają być podejmowane przez człowieka.

To odpowiedź na problem tzw. automatycznych blokad kont, z którymi spotykały się osoby wykonujące pracę za pośrednictwem niektórych platform. W praktyce zdarzało się, że użytkownik tracił możliwość wykonywania pracy bez uzyskania jasnego wyjaśnienia powodów takiej decyzji. Projekt ma temu przeciwdziałać.

Nowe przepisy nie kończą się jednak na obowiązku udziału człowieka w procesie decyzyjnym. Osoba wykonująca pracę będzie mogła zażądać wyjaśnienia decyzji podjętej lub wspieranej przez zautomatyzowany system decyzyjny. W określonych przypadkach platforma będzie zobowiązana przedstawić również pisemne uzasadnienie swojej decyzji.

Co więcej, zainteresowany będzie mógł wystąpić o ponowną weryfikację takiej decyzji. Platforma będzie zobowiązana udzielić odpowiedzi w ustawowym terminie, a jeżeli okaże się, że prawa osoby wykonującej pracę zostały naruszone, będzie musiała zmienić decyzję albo, gdy nie będzie to możliwe, zaproponować odpowiednie odszkodowanie lub zadośćuczynienie.

Nie wszystkie dane będzie można przetwarzać

Projekt bardzo wyraźnie wskazuje również granice wykorzystywania danych osobowych przez platformy. Zakazane ma być przetwarzanie (za pomocą zautomatyzowanych systemów) m.in. danych dotyczących:

• stanu emocjonalnego lub psychicznego,
• prywatnych rozmów,
• aktywności poza wykonywaniem pracy,
• poglądów politycznych,
• wyznania,
• przynależności związkowej,
• stanu zdrowia,
• orientacji seksualnej,
• określonych danych biometrycznych.

To rozwiązanie ma ograniczyć ryzyko nadmiernej ingerencji platform w sferę prywatności osób wykonujących pracę.

Platformy będą musiały regularnie oceniać swoje algorytmy

Projekt zakłada również obowiązek okresowej oceny wpływu systemów monitorujących i decyzyjnych na warunki wykonywania pracy. Ocena ma obejmować między innymi wpływ algorytmów na:

• bezpieczeństwo pracy,
• równe traktowanie,
• ryzyko dyskryminacji,
• warunki wykonywania pracy.

Jeżeli analiza wykaże, że stosowane rozwiązania mogą prowadzić do naruszenia praw osób wykonujących pracę lub zwiększają ryzyko dyskryminacji, platforma będzie zobowiązana do ich zmiany albo całkowitego zaprzestania korzystania z danego systemu.

To oznacza, że odpowiedzialność platform nie zakończy się na wdrożeniu algorytmu, gdyż konieczne będzie również jego stałe monitorowanie.

Podsumowanie 

Choć projekt jest adresowany przede wszystkim do platform cyfrowych organizujących pracę, jego skutki mogą być znacznie szersze. Nowe regulacje wpisują się bowiem w coraz silniejszy europejski trend zwiększania przejrzystości systemów opartych na sztucznej inteligencji oraz automatycznym podejmowaniu decyzji. 

Warto już dziś śledzić dalszy przebieg prac legislacyjnych. Jeżeli projekt wejdzie w życie w obecnym kształcie, platformy cyfrowe będą musiały nie tylko ujawniać sposób działania swoich systemów, ale również zapewnić realną możliwość zakwestionowania decyzji podejmowanych przy ich wykorzystaniu. 

 

Przygotowała:

Martyna Dobrowolska
Prawnik